Google LLC試圖通過發(fā)布一系列示例剪輯來打擊網(wǎng)絡(luò)上所謂的“深造”視頻，這種示例剪輯使研究人員可以用來開發(fā)更復(fù)雜的檢測(cè)工具。

Deepfake是依靠人工智能的人類圖像合成技術(shù)的名稱。它用于使用稱為生成對(duì)抗網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)技術(shù)將現(xiàn)有圖像和視頻合并并疊加到源圖像或視頻上。

生成的視頻可能非常逼真。該技術(shù)過去曾被用來制作假名人色情視頻和復(fù)仇色情。Deepfake還用于創(chuàng)建虛假新聞報(bào)道。

谷歌在博客中表示，它將向公眾發(fā)布約3,000個(gè)Deepfake視頻。這些視頻是與一家名為Jigsaw的公司合作創(chuàng)建的，該公司是在Google的孵化器計(jì)劃中使用真正的演員創(chuàng)建??的。

谷歌說：“為了建立這個(gè)數(shù)據(jù)集，在過去的一年中，我們與付費(fèi)演員和同意演員一起錄制了數(shù)百個(gè)視頻。” “然后，使用公開可用的Deepfake生成方法，我們從這些視頻中創(chuàng)建了數(shù)千個(gè)Deepfake。”

該數(shù)據(jù)集已合并到新的FaceForensics基準(zhǔn)測(cè)試中，該基準(zhǔn)測(cè)試是由慕尼黑工業(yè)大學(xué)和那不勒斯費(fèi)德里科第二大學(xué)共同運(yùn)營的項(xiàng)目。研究人員可以免費(fèi)訪問這些視頻，以用于開發(fā)Deepfake檢測(cè)技術(shù)。

Google的視頻應(yīng)該很有用，因?yàn)槠渲性S多視頻看起來都非常逼真，特別是對(duì)于沒有參考點(diǎn)的用戶。在下面的示例中，頂部視頻顯示了一個(gè)真實(shí)的演員，而底部剪輯則包含了一個(gè)人工創(chuàng)建的Deepfake。

星座研究公司(Constellation Research Inc.)分析師Holger Mueller告訴SiliconANGLE，今天的發(fā)布表明Google遵守了今年早些時(shí)候發(fā)布的AI原則，這些原則將幫助社會(huì)應(yīng)對(duì)AI以及整個(gè)技術(shù)的意外后果。

Mueller說：“ Deepfake很快就成為語音和視頻的一個(gè)問題，因此很高興看到技術(shù)不僅可以創(chuàng)建它們，而且可以更好地檢測(cè)和幫助它們。” “為獲取深層造假，需要測(cè)試和數(shù)據(jù)，以便提供商可以培訓(xùn)其模型，企業(yè)和政府可以了解他們的運(yùn)行狀況。很高興看到基于此數(shù)據(jù)集的產(chǎn)品的最初結(jié)果。”

谷歌表示，它將繼續(xù)向數(shù)據(jù)集中添加新視頻，以跟上Deepfake技術(shù)的發(fā)展。這也很重要，因?yàn)榻裉煊行У臋z測(cè)方法將來可能不會(huì)那么有效。

谷歌說：“我們堅(jiān)信支持一個(gè)蓬勃發(fā)展的研究社區(qū)，以減輕因?yàn)E用合成媒體而造成的潛在危害，而今天在FaceForensics基準(zhǔn)測(cè)試中發(fā)布我們的deepfake數(shù)據(jù)集是朝這個(gè)方向邁出的重要一步。”

Google并不是唯一一家認(rèn)為自己有責(zé)任幫助我們檢測(cè)假內(nèi)容的大型科技公司。Facebook Inc.本月表示，計(jì)劃發(fā)布自己的Deepfake視頻數(shù)據(jù)集。這家社交媒體公司還宣布了“ Deepfake檢測(cè)挑戰(zhàn)賽”，為能夠創(chuàng)建有效檢測(cè)工具的人員提供高達(dá)1000萬美元的獎(jiǎng)金和贈(zèng)款。