研究人員表示，人們無法區(qū)分人工智能生成的人臉(使用StyleGAN2)和真人臉，他們呼吁采取保護(hù)措施來防止“深度造假”。人工智能合成的文本、音頻、圖像和視頻已經(jīng)被用于所謂的“復(fù)仇色情”、欺詐和宣傳。

蘭開斯特大學(xué)的SophieNightingale博士和加州大學(xué)伯克利分校的HanyFarid教授進(jìn)行了實(shí)驗(yàn)，要求參與者區(qū)分最先進(jìn)的StyleGAN2合成人臉和真實(shí)人臉，以及這些人臉喚起的信任程度。

結(jié)果表明，合成生成的人臉不僅具有高度的照片逼真度，而且與真實(shí)人臉幾乎無法區(qū)分，甚至被認(rèn)為更值得信賴。

他們?cè)谄诳蠈懙溃?ldquo;我們對(duì)AI合成人臉照片真實(shí)感的評(píng)估表明，合成引擎已經(jīng)走過了恐怖谷，能夠創(chuàng)造出比真實(shí)人臉難以區(qū)分且更值得信賴的人臉。”

研究人員警告人們無法識(shí)別人工智能生成的圖像的影響。

“也許最有害的后果是，在任何圖像或視頻都可以偽造的數(shù)字世界中，任何不方便或不受歡迎的記錄的真實(shí)性都可能受到質(zhì)疑。”

在第一個(gè)實(shí)驗(yàn)中，315名參與者將從一組800張面孔中提取的128張面孔分類為真實(shí)面孔或合成面孔。他們的準(zhǔn)確率為48%，接近50%的機(jī)會(huì)表現(xiàn)。

在第二個(gè)實(shí)驗(yàn)中，219名新參與者接受了培訓(xùn)，并就如何對(duì)人臉進(jìn)行分類給出了反饋。他們分類了與第一個(gè)實(shí)驗(yàn)相同的800張人臉集合中的128張人臉——但盡管進(jìn)行了訓(xùn)練，但準(zhǔn)確率僅提高到59%。

研究人員決定找出可信度的感知是否可以幫助人們識(shí)別人造圖像。

“人臉提供了豐富的信息來源，只需幾毫秒的曝光時(shí)間就足以對(duì)個(gè)人特征(例如可信度)做出隱含推斷。我們想知道合成人臉是否會(huì)激活相同的可信度判斷。如果不是，那么可信度的感知可以幫助區(qū)分真實(shí)的來自合成面孔。”

第三項(xiàng)研究要求223名參與者對(duì)128張面孔的可信度進(jìn)行評(píng)分，這些面孔取自同一組800張面孔，評(píng)分范圍為1(非常不可信)到7(非?？尚?。

合成面孔的平均評(píng)分比真實(shí)面孔的平均評(píng)分高7.7%，具有統(tǒng)計(jì)學(xué)意義。

“也許最有趣的是，我們發(fā)現(xiàn)合成生成的面孔比真實(shí)面孔更值得信賴。”

黑人面孔被評(píng)為比南亞面孔更值得信賴，但除此之外對(duì)種族沒有影響。

女性被認(rèn)為比男性更值得信賴。

“一張笑臉更有可能被評(píng)為值得信賴，但65.5%的真實(shí)面孔和58.8%的合成面孔是微笑的，因此僅面部表情無法解釋為什么合成面孔被評(píng)為更值得信賴。”

研究人員認(rèn)為，合成的面孔可能被認(rèn)為更值得信賴，因?yàn)樗鼈冾愃朴谄胀婵?mdash;—而這些面孔本身被認(rèn)為更值得信賴。

為了保護(hù)公眾免受“深度偽造”的影響，他們還提出了合成圖像的創(chuàng)建和分發(fā)指南。

“例如，保護(hù)措施可能包括將強(qiáng)大的水印整合到圖像和視頻合成網(wǎng)絡(luò)中，這將為可靠識(shí)別提供下游機(jī)制。因?yàn)閷?duì)這種強(qiáng)大技術(shù)的訪問民主化構(gòu)成了最重大的威脅，我們還鼓勵(lì)重新考慮向公眾開放的通常放任自流的方法，并鼓勵(lì)任何人不受限制地發(fā)布代碼以將其合并到任何應(yīng)用程序中。

“在這個(gè)關(guān)鍵時(shí)刻，正如其他科學(xué)和工程領(lǐng)域所做的那樣，我們鼓勵(lì)圖形和視覺社區(qū)制定合成媒體技術(shù)的創(chuàng)建和分發(fā)指南，其中包含針對(duì)研究人員、出版商和媒體分銷商的道德準(zhǔn)則。”