機器通過處理從傳感器收集的數(shù)據(jù)來學(xué)習(xí)的能力，是自動駕駛汽車，醫(yī)療設(shè)備和許多其他新興技術(shù)的基礎(chǔ)。普林斯頓大學(xué)的研究人員發(fā)現(xiàn)，這種學(xué)習(xí)能力使系統(tǒng)容易受到黑客的攻擊。

在最近的一系列論文中，一個研究團隊研究了應(yīng)用于人工智能(AI)的對抗策略如何例如欺騙交通效率系統(tǒng)導(dǎo)致僵局或操縱與健康相關(guān)的AI應(yīng)用程序以揭示患者的私人醫(yī)療保健。歷史。作為這種攻擊的一個例子，該團隊將駕駛機器人對道路標(biāo)志的感知從限速更改為“停止”標(biāo)志，這可能導(dǎo)致車輛以高速公路速度危險地剎車。在其他示例中，他們將停車標(biāo)志更改為多種其他交通指示。

普林斯頓大學(xué)電氣工程系的首席研究員兼副教授Prateek Mittal說：“如果機器學(xué)習(xí)是未來的軟件，那么我們將成為確保它安全的非?；镜钠瘘c。” “要使機器學(xué)習(xí)技術(shù)發(fā)揮其全部潛能，我們必須了解機器學(xué)習(xí)如何在對手面前出現(xiàn)。這是我們面臨的巨大挑戰(zhàn)。

就像軟件容易被計算機病毒或通過詐騙者通過網(wǎng)絡(luò)釣魚和其他違反安全性的手段成為目標(biāo)的用戶被黑客和感染一樣，基于AI的應(yīng)用程序也有自己的漏洞。然而，適當(dāng)保障措施的部署滯后。到目前為止，大多數(shù)機器學(xué)習(xí)開發(fā)都發(fā)生在良性，封閉的環(huán)境中，這與現(xiàn)實世界截然不同。

Mittal是了解新興對抗性機器學(xué)習(xí)漏洞的先驅(qū)。從本質(zhì)上講，這種攻擊會導(dǎo)致AI系統(tǒng)破壞學(xué)習(xí)過程，從而產(chǎn)生意想不到的，可能是危險的結(jié)果。米塔爾(Mittal)的小組在最近的一系列論文中描述并演示了三種廣泛的對抗性機器學(xué)習(xí)攻擊。

很好地毒化數(shù)據(jù)

第一次攻擊涉及惡意代理將偽造的信息插入AI系統(tǒng)正在學(xué)習(xí)的數(shù)據(jù)流中，這種方法稱為數(shù)據(jù)中毒。一個常見的例子是大量用戶的電話報告交通狀況。這樣的眾包數(shù)據(jù)可用于訓(xùn)練AI系統(tǒng)以開發(fā)模型，以更好地集合自動駕駛汽車路線，減少擁堵和燃油浪費。