深度神經(jīng)網(wǎng)絡(luò)，通過使用數(shù)學(xué)模型來處理圖像和其他數(shù)據(jù)而構(gòu)建的多層系統(tǒng)，是人工智能的基石。它們具有看似復(fù)雜的結(jié)果，但也有可能被愚弄，范圍從相對無害(將一種動(dòng)物誤識(shí)別為另一種動(dòng)物)到如果引導(dǎo)自動(dòng)駕駛汽車的網(wǎng)絡(luò)將停車標(biāo)志誤解為表明安全的停車標(biāo)志，則可能致命。繼續(xù)。

休斯頓大學(xué)的一位哲學(xué)家在發(fā)表于《自然機(jī)器智能》上的一篇論文中暗示，關(guān)于這些假定故障背后原因的普遍假設(shè)可能是錯(cuò)誤的，這些信息對于評估這些網(wǎng)絡(luò)的可靠性至關(guān)重要。

隨著機(jī)器學(xué)習(xí)和其他形式的人工智能越來越深入地融入社會(huì)，自動(dòng)柜員機(jī)的一切應(yīng)用大學(xué)網(wǎng)絡(luò)哲學(xué)副教授卡梅倫·巴克納(Cameron Buckner)說，對于網(wǎng)絡(luò)安全系統(tǒng)，當(dāng)深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)在面對信息時(shí)會(huì)誤判圖像或其他數(shù)據(jù)時(shí)，了解由研究人員稱為“對抗性例子”而造成的明顯故障的根源至關(guān)重要。在用于構(gòu)建網(wǎng)絡(luò)的培訓(xùn)輸入之外。它們很少見，因此被稱為“對抗性”，因?yàn)樗鼈兺ǔＪ怯闪硪粋€(gè)機(jī)器學(xué)習(xí)網(wǎng)絡(luò)創(chuàng)建或發(fā)現(xiàn)的-機(jī)器學(xué)習(xí)領(lǐng)域中的一種邊緣技術(shù)，介于創(chuàng)建對抗性示例的更復(fù)雜方法與檢測和避免它們之間的更復(fù)雜方法之間。

巴克納說：“這些對抗性事件中的一些反而可能是人工產(chǎn)物，為了更好地了解這些網(wǎng)絡(luò)的可靠性，我們需要更好地了解它們是什么。”

換句話說，不發(fā)火可能是由網(wǎng)絡(luò)需要處理的內(nèi)容和所涉及的實(shí)際模式之間的相互作用引起的。這與完全被誤解不是完全一樣的。

巴克納寫道：“理解對抗性例子的含義需要探索第三種可能性：至少其中一些模式是人工制品。” “……因此，目前簡單地丟棄這些模式既有代價(jià)，也有天真地使用它們的危險(xiǎn)。”

導(dǎo)致這些機(jī)器學(xué)習(xí)系統(tǒng)犯錯(cuò)誤的對抗事件不一定是故意的瀆職造成的，但這是最高的風(fēng)險(xiǎn)所在。

巴克納說：“這意味著惡意行為者可能欺騙依賴于本來可靠的網(wǎng)絡(luò)的系統(tǒng)。” “那有安全應(yīng)用程序。”

例如，基于面部識(shí)別技術(shù)的安全系統(tǒng)可能會(huì)被黑客入侵，以允許違規(guī)行為發(fā)生，或者在交通標(biāo)志上貼上貼花紙，以使自動(dòng)駕駛汽車誤解該標(biāo)志，即使這些標(biāo)志對觀察者無害。

先前的研究發(fā)現(xiàn)，與先前的假設(shè)相反，存在一些自然發(fā)生的對抗性示例-機(jī)器學(xué)習(xí)系統(tǒng)通過意外交互而不是通過數(shù)據(jù)錯(cuò)誤來誤解數(shù)據(jù)的時(shí)間。它們很少見，只有通過使用人工智能才能發(fā)現(xiàn)。

但是它們是真實(shí)的，巴克納說這表明需要重新考慮研究人員如何處理異?；騻蜗?。

這些工件還沒有被很好地理解。Buckner提供了照片中鏡頭眩光的類比-這種現(xiàn)象不是由相機(jī)鏡頭的缺陷引起的，而是由光線與相機(jī)的相互作用產(chǎn)生的。

如果您知道如何解釋，鏡頭光暈可能會(huì)提供有用的信息，例如太陽的位置。他說，這提出了一個(gè)問題，即由人工制品引起的機(jī)器學(xué)習(xí)中的不良事件是否也提供有用的信息。

同樣重要的是，巴克納說，這種新的思考方式會(huì)影響工件影響深度神經(jīng)網(wǎng)絡(luò)的方式，這表明不應(yīng)將網(wǎng)絡(luò)誤讀自動(dòng)視為深度學(xué)習(xí)無效的證據(jù)。

他說：“其中一些對抗性事件可能是人工產(chǎn)物。” “我們必須知道這些工件是什么，這樣我們才能知道網(wǎng)絡(luò)的可靠性。”