在過去的十年中，研究人員已經(jīng)開發(fā)了越來越多的深度神經(jīng)網(wǎng)絡(luò)，可以對(duì)其進(jìn)行訓(xùn)練以完成各種任務(wù)，包括識(shí)別圖像中的人或物體。盡管這些計(jì)算技術(shù)中的許多已經(jīng)取得了顯著成果，但有時(shí)可能會(huì)誤將其誤分類為數(shù)據(jù)。

對(duì)抗性攻擊是一種專門針對(duì)深度神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)攻擊，誘使它們對(duì)數(shù)據(jù)進(jìn)行錯(cuò)誤分類。它通過創(chuàng)建與深度神經(jīng)網(wǎng)絡(luò)通常分析的數(shù)據(jù)非常相似但又不同的對(duì)抗數(shù)據(jù)，促使網(wǎng)絡(luò)做出錯(cuò)誤的預(yù)測(cè)，無法識(shí)別真實(shí)數(shù)據(jù)與對(duì)抗數(shù)據(jù)之間的細(xì)微差別來實(shí)現(xiàn)此目的。

近年來，這種攻擊變得越來越普遍，突顯了許多深度神經(jīng)網(wǎng)絡(luò)的漏洞和缺陷。近年來出現(xiàn)的一種特定類型的對(duì)抗攻擊需要在圖像上添加對(duì)抗補(bǔ)丁(例如徽標(biāo))。到目前為止，這種攻擊主要針對(duì)目標(biāo)模型，這些模型經(jīng)過訓(xùn)練可以檢測(cè)二維圖像中的物體或人物。

德克薩斯A&M大學(xué)，德克薩斯大學(xué)奧斯汀分校，中國(guó)科學(xué)技術(shù)大學(xué)的研究人員以及MIT-IBM Watson AI Lab最近推出了一種新攻擊，該攻擊需要在圖像上添加3-D對(duì)抗性徽標(biāo)，目的是：欺騙用于對(duì)象檢測(cè)的深度神經(jīng)網(wǎng)絡(luò)。這種攻擊是在arXiv上預(yù)先發(fā)表的一篇論文中提出的，它可能更適用于現(xiàn)實(shí)情況，因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)處理的大多數(shù)真實(shí)數(shù)據(jù)都是3-D的。

“這項(xiàng)工作的主要目的是生成任意形狀的結(jié)構(gòu)化補(bǔ)丁(我們稱為“徽標(biāo)”)，稱為3-D對(duì)抗性徽標(biāo)，將其附加到3-D人體網(wǎng)格物體上，然后渲染為二維圖像可以始終以不同的人體姿勢(shì)欺騙對(duì)象檢測(cè)器。”研究人員在論文中寫道。

本質(zhì)上，研究人員根據(jù)預(yù)先存在的2D紋理圖像創(chuàng)建了任意形狀的徽標(biāo)。隨后，他們使用稱為徽標(biāo)轉(zhuǎn)換的紋理映射方法將此圖像映射到3-D對(duì)抗徽標(biāo)上。他們制作的3-D對(duì)抗性徽標(biāo)可以用作對(duì)抗性紋理，使攻擊者可以輕松操縱其形狀和位置。