過去只有擁有雄厚資金的好萊塢制作公司和技術(shù)嫻熟的藝術(shù)家和技術(shù)人員團(tuán)隊(duì)才能制作出精心制作的視頻，逼真的制作工具似乎可以向人們展示和說出他們從未真正做過或說過的話。不再是 - 在網(wǎng)上免費(fèi)提供的軟件可以讓任何擁有計(jì)算機(jī)并且有時(shí)間在他們手上的人創(chuàng)建令人信服的虛假視頻。

無論是用于個(gè)人報(bào)復(fù)，騷擾名人還是影響公眾輿論，深淵都不符合“看見相信”這個(gè)古老的公理。

我的研究團(tuán)隊(duì)和我在南加州大學(xué)信息學(xué)院的大學(xué)正在開發(fā)的方式來告訴逼真的假動(dòng)作和，顯示實(shí)際事件的發(fā)生，他們真正的視頻之間的區(qū)別。我們最近的研究發(fā)現(xiàn)了一種新的，更準(zhǔn)確的方法來檢測(cè)深度視頻。

找到缺陷

一般而言，各種深度偽造算法通過使用機(jī)器學(xué)習(xí)技術(shù)來分析目標(biāo)的圖像，識(shí)別諸如鼻子，嘴角，眼睛位置等面部表情的關(guān)鍵元素。他們使用該信息來合成該人臉的新圖像，并將它們組合在一起，以創(chuàng)建一個(gè)看起來逼真但是假的目標(biāo)視頻。

目前大多數(shù)檢測(cè)深度探測(cè)的方法包括分別觀察視頻的每個(gè)幀，手動(dòng)或使用檢測(cè)算法，以發(fā)現(xiàn)圖像制作過程留下的微小缺陷。如果有足夠的證據(jù)表明有足夠的幀被篡改，則該視頻被認(rèn)為是偽造的。

然而，deepfake創(chuàng)作者已經(jīng)開始使用大量的圖像和視頻壓縮來模糊他們的結(jié)果，隱藏任何可能揭示其虛假的文物。

看序列，而不是單幀

我們的方法試圖通過采用不同的方法來繞過這種欺騙。我們從視頻中提取所有幀并識(shí)別顯示目標(biāo)臉部的區(qū)域。然后，我們實(shí)際上將所有這些臉部圖像堆疊在一起，確保鼻子，眼睛和嘴巴在每一幀之間都是對(duì)齊的。這消除了視頻中頭部移動(dòng)或攝像機(jī)角度偏移的影響。

然后，我們不是單獨(dú)查看每個(gè)面部圖像，而是查找面部的不同部分隨時(shí)間在幀與幀之間移動(dòng)的不一致性。這有點(diǎn)像設(shè)置一個(gè)孩子的翻書，然后觀察序列中奇怪的跳躍。我們發(fā)現(xiàn)這種方法更準(zhǔn)確，部分原因是我們可以識(shí)別出比單獨(dú)觀察每一幀時(shí)更多的虛假證據(jù)。

具體來說，我們96%的時(shí)間都檢測(cè)到了深度偽造，即使圖像和視頻被大量壓縮也是如此。到目前為止，我們已經(jīng)找到準(zhǔn)確的那個(gè)水平只提供給唯一的大型數(shù)據(jù)庫，學(xué)術(shù)研究人員評(píng)估他們的deepfake檢測(cè)技術(shù)，這就是所謂FaceForensics ++。該數(shù)據(jù)集包含來自三個(gè)最著名的深度偽造生成算法的視頻，F(xiàn)ace2Face，F(xiàn)aceSwap和DeepFake，盡管fakers總是在改進(jìn)他們的方法。

Deepfake檢測(cè)是一場(chǎng)軍備競(jìng)賽，其中的騙子和真相尋求者將繼續(xù)推進(jìn)他們各自的技術(shù)。因此，限制其對(duì)整個(gè)社會(huì)的影響的工作不僅僅落在研究人員身上。當(dāng)然，學(xué)者和實(shí)驗(yàn)者必須繼續(xù)工作，但這不是全部。我相信社交網(wǎng)絡(luò)平臺(tái)也應(yīng)該努力開發(fā)軟件和政策，以減緩所有類型的錯(cuò)誤信息的傳播 - 無論是操縱一個(gè)人的臉還是以他們從未有過的方式展示他們的整個(gè)身體。