墨爾本大學(xué)的研究人員設(shè)計(jì)了一種人工智能(AI)系統(tǒng)，該系統(tǒng)僅根據(jù)他們的臉部照片來(lái)檢測(cè)和顯??示人們的人格特質(zhì)和身體吸引力，這是世界首創(chuàng)的。

該系統(tǒng)稱為“生物識(shí)別鏡像”，用于調(diào)查一個(gè)人對(duì)AI的理解以及他們對(duì)有關(guān)其獨(dú)特特征的信息的反應(yīng)。

當(dāng)有人站在生物識(shí)別鏡前時(shí)，系統(tǒng)會(huì)在幾秒鐘內(nèi)檢測(cè)到一系列面部特征。然后，它將用戶的數(shù)據(jù)與成千上萬(wàn)張面部照片的數(shù)據(jù)進(jìn)行比較，這些照片由一組來(lái)自人群的響應(yīng)者對(duì)其心理測(cè)量進(jìn)行了評(píng)估。

生物識(shí)別鏡顯示14個(gè)特征，從性別，年齡和種族到吸引力，怪異和情緒穩(wěn)定。一個(gè)人站在那里的時(shí)間越長(zhǎng)，特質(zhì)就越個(gè)性化。

由社交自然用戶界面中心(SocialNUI)和墨爾本科學(xué)館的尼爾斯·沃特斯(Niels Wouters)博士領(lǐng)導(dǎo)的研究項(xiàng)目，探討了該技術(shù)引起的關(guān)于同意，數(shù)據(jù)存儲(chǔ)和算法偏差的擔(dān)憂。

Wouters博士說(shuō)：“隨著AI和大數(shù)據(jù)的興起，政府和企業(yè)將越來(lái)越多地使用CCTV攝像機(jī)和交互式廣告來(lái)檢測(cè)路過(guò)的人們的情緒，年齡，性別和人口統(tǒng)計(jì)信息。”

“我們的研究旨在引發(fā)有關(guān)AI邊界的具有挑戰(zhàn)性的問(wèn)題。它向用戶表明，實(shí)施以不道德或有問(wèn)題的方式進(jìn)行歧視的AI可能會(huì)產(chǎn)生社會(huì)后果，這是多么容易。通過(guò)鼓勵(lì)就隱私和大規(guī)模監(jiān)視進(jìn)行辯論，我們希望有助于更好地理解AI背后的道德規(guī)范。”

Biometric Mirror強(qiáng)調(diào)了算法偏差和假設(shè)在現(xiàn)實(shí)世界中可能產(chǎn)生的后果。

Wouters博士說(shuō)：“盡管收集有關(guān)您的購(gòu)物偏好的個(gè)人信息以量身定制一項(xiàng)服務(wù)似乎無(wú)害，但未經(jīng)同意捕獲這些信息將使我們無(wú)法知道預(yù)測(cè)是否基于正確的數(shù)據(jù)，” Wouters博士說(shuō)。

“ AI的應(yīng)用范圍很廣，超出了購(gòu)物和廣告領(lǐng)域。想象一下，無(wú)法控制一種算法，該算法錯(cuò)誤地認(rèn)為您不適合擔(dān)任管理職位，不具備大學(xué)學(xué)位，或者未經(jīng)您的同意公開(kāi)分享您的照片。

Wouters博士說(shuō)：“選擇了您的一個(gè)特征(例如，您的責(zé)任級(jí)別)，而B(niǎo)iometric Mirror要求您想象現(xiàn)在正在與您的保險(xiǎn)公司或未來(lái)的雇主共享此信息。” “該項(xiàng)目是對(duì)個(gè)人潛在后果的透明展示。”

沃特斯博士說(shuō)，重要的是要注意，生物特征鏡不是進(jìn)行心理分析的工具。