希望為AI和機(jī)器學(xué)習(xí)標(biāo)準(zhǔn)的發(fā)展掃清道路，安全人工智能行業(yè)規(guī)范小組（Securing AI Intelligence Industry Specification Group）發(fā)布了 份報(bào)告，重點(diǎn)介紹了該 域的主要挑戰(zhàn)。
盡管在制造業(yè)中廣泛使用人工智能（AI）和機(jī)器學(xué)習(xí)可能還需要幾年的時(shí)間，但這兩種技術(shù)都已開始進(jìn)入工廠車間并超越了工廠。這些技術(shù)的潛在應(yīng)用范圍廣泛，因?yàn)橥ㄟ^連接的傳感器和設(shè)備傳遞的前所未有的數(shù)據(jù)量使經(jīng)過適當(dāng)培訓(xùn)的AI算法可以幫助優(yōu)化生產(chǎn)流程。
盡管如此，作為 種相對較新的技術(shù)，目前還缺少AI標(biāo)準(zhǔn)，這可能會(huì)阻礙其在工業(yè)中的進(jìn) 步應(yīng)用。特別是，缺乏標(biāo)準(zhǔn)可能會(huì)導(dǎo)致運(yùn)營商難以實(shí)施，與其他系統(tǒng)的互操作性不足，對 佳實(shí)踐的了解不足，甚至可能存在網(wǎng)絡(luò)安全漏洞。
這就是為什么標(biāo)準(zhǔn)的發(fā)展常常預(yù)示著 項(xiàng)新技術(shù)開始成熟的原因。標(biāo)準(zhǔn)不僅可以通過加快創(chuàng)新來幫助供應(yīng)商，而且還可以向 終用戶發(fā)出信號，表明該技術(shù)已根據(jù)許多參與標(biāo)準(zhǔn)制定過程的參與者所同意的標(biāo)準(zhǔn)被確定為有效。簡而言之，標(biāo)準(zhǔn)可降低成本，傳達(dá)重要信息并提高可靠性。
ETSI安全人工智能行業(yè)規(guī)范小組（SAI IG）當(dāng)前是致力于保護(hù)AI的第 組織， 近發(fā)布了 份報(bào)告，描述了主要障礙，重點(diǎn)關(guān)注機(jī)器學(xué)習(xí)以及與機(jī)密性，完整性和可用性相關(guān)的障礙在技??術(shù)生命周期的每個(gè)階段。此外，該報(bào)告探討了人工智能面臨的更廣泛的挑戰(zhàn)，例如偏見，道德規(guī)范和濫用的可能性。
“圍繞AI道德有很多討論，但沒有關(guān)于確保AI安全的標(biāo)準(zhǔn)的討論。然而，它們對于確保基于AI的自動(dòng)化網(wǎng)絡(luò)的安全性至關(guān)重要。” ETSI SAI ISG主席Alex Leadbeater說道。“第 份ETSI報(bào)告旨在對保護(hù)AI時(shí)面臨的挑戰(zhàn)做出全面定義。同時(shí)，我們正在研究威脅本體，如何保護(hù)AI數(shù)據(jù)供應(yīng)鏈以及如何對其進(jìn)行測試。”
在該報(bào)告中，機(jī)器學(xué)習(xí)生命周期分為八個(gè)階段，每個(gè)階段都有其自身的獨(dú)特風(fēng)險(xiǎn)：數(shù)據(jù)獲取，數(shù)據(jù)策劃，模型設(shè)計(jì)，軟件構(gòu)建，培訓(xùn)，測試，部署和更新。
在數(shù)據(jù)采集和管理階段，主要問題是完整性。換句話說，當(dāng)集成來自多個(gè)來源或多種格式的數(shù)據(jù)時(shí)，測量參數(shù)或數(shù)據(jù)結(jié)構(gòu)的不 致性可能會(huì)導(dǎo)致適應(yīng)不良的機(jī)器學(xué)習(xí)算法，從而導(dǎo)致糟糕的決策甚至是危險(xiǎn)的決策。此外，該報(bào)告還考慮了惡意行為者可能故意破壞數(shù)據(jù)以在手術(shù)中造成混亂的可能性。
盡管模型設(shè)計(jì)和軟件構(gòu)建階段被認(rèn)為是相對安全的，但該報(bào)告發(fā)現(xiàn)，在機(jī)器學(xué)習(xí)算法的訓(xùn)練階段，類似的甚至是更為嚴(yán)重的安全問題可能會(huì)出現(xiàn)。
例如，如果攻擊者使用旨在欺騙算法以輸出包含有關(guān)原始訓(xùn)練數(shù)據(jù)信息的標(biāo)簽的合成輸入數(shù)據(jù)來增強(qiáng)訓(xùn)練數(shù)據(jù)集的機(jī)密性，則可能會(huì)損害其機(jī)密性。這種類型的數(shù)據(jù)泄漏可能需要與業(yè)務(wù)相關(guān)的信息，例如知識(shí)產(chǎn)權(quán)或敏感的人員信息。
SAI IG希望通過闡明圍繞AI和機(jī)器智能的主要問題，目前尚未提出改善這些問題的明確標(biāo)準(zhǔn)。
:021-80392064 QQ：2039609103 企業(yè)入駐:
