關(guān)注智能技術(shù)的培訓(xùn)方式
時(shí)間:2022-04-11 12:42:02 | 來(lái)源:行業(yè)動(dòng)態(tài)
時(shí)間:2022-04-11 12:42:02 來(lái)源:行業(yè)動(dòng)態(tài)
人工智能和機(jī)器學(xué)習(xí)將深化對(duì)人類決策能力的影響,惡意行為實(shí)施者會(huì)將其視為新的攻擊向量,即破壞培訓(xùn)數(shù)據(jù),干擾決策制定。隨著我們對(duì)智能技術(shù)的依賴程度越來(lái)越高,蓄意破壞之門(mén)越開(kāi)越大,教授智能算法所需的培訓(xùn)將成為惡意行為實(shí)施者采取智能算法抵御措施的最佳手段。
我們已經(jīng)目睹過(guò)這種情況。敵對(duì)機(jī)器學(xué)習(xí)是通過(guò)惡意輸入欺騙模型的技術(shù),Google的AI曾經(jīng)將烏龜視為步槍,甚至跳脫了安全檢查點(diǎn)。但設(shè)想一下,如果其操控的是交通信號(hào)燈,那么智能車輛將無(wú)法辨識(shí)何時(shí)停車。經(jīng)證實(shí),敵對(duì)攻擊能夠騙過(guò)機(jī)器學(xué)習(xí)模型,令其錯(cuò)誤地將交通停止信號(hào)標(biāo)記為加速信號(hào),這會(huì)為實(shí)際情況帶來(lái)災(zāi)難性的影響。
2020年,我們將會(huì)目睹更多可能帶來(lái)災(zāi)難性后果的敵對(duì)攻擊。這些攻擊會(huì)導(dǎo)致工業(yè)破壞,比如依賴自動(dòng)化流程的發(fā)電廠或凈水廠,也會(huì)影響組織和個(gè)人的財(cái)務(wù)穩(wěn)定性。
如果歷史殷鑒可循,我們將會(huì)知道,如果機(jī)會(huì)到來(lái),便會(huì)有人抓住,即使是為了挑起爭(zhēng)端也無(wú)妨。請(qǐng)記住,聊天機(jī)器人會(huì)高興地被隨機(jī)社交媒體用戶教導(dǎo)成種族歧視者。在不斷變化的外部環(huán)境中,人類必須驗(yàn)證輸出,而不是將AI/ML提供給我們的一切視為理所當(dāng)然。
關(guān)鍵詞:培訓(xùn),方式,技術(shù)