跨學(xué)科研究中心AI Now Institute在其年度報告中研究了人工智能對社會的影響，呼吁禁止使用旨在識別某些情況下人們情緒的技術(shù)。研究人員特別指出，情感識別技術(shù)(也稱為情感識別技術(shù))不應(yīng)用于“影響人們的生活和獲得機會的決策”，例如聘用決策或痛苦評估，因為它不夠準(zhǔn)確，并且可能導(dǎo)致有偏見的決定。

已經(jīng)使用和銷售的這項技術(shù)是什么?為什么引起關(guān)注?

面部識別的結(jié)果

至少十年來，研究人員一直在積極研究計算機視覺算法，該算法可以確定人類的情感和意圖，并做出其他推斷。面部表情分析至少從2003年就開始出現(xiàn)。計算機甚至能夠更長久地理解情緒。這項最新技術(shù)依賴于以數(shù)據(jù)為中心的技術(shù)，即“機器學(xué)習(xí)”，該算法處理數(shù)據(jù)以“學(xué)習(xí)”如何制定決策，以實現(xiàn)更加準(zhǔn)確的影響識別。

研究人員一直在尋求通過以前所做的事情來做新的事情。情感識別之所以誘人，是因為從某種程度上講，我們?nèi)祟惿踔量梢詮暮苄〉臅r候就可以做到這一點，而使用計算機視覺來復(fù)制人類的技能仍然具有挑戰(zhàn)性。盡管可以對圖像進行一些非常出色的處理，例如對照片進行樣式化處理，使其看起來像是由著名畫家繪制的，甚至可以創(chuàng)建逼真的照片，更不用說創(chuàng)建所謂的Deepfake了，從真實圖像中推斷出諸如人類情感之類的屬性一直是研究人員感興趣的。

情緒是困難的，因為情緒往往取決于情境。例如，當(dāng)某人專注于某事時，似乎只是在思考。面部識別在使用機器學(xué)習(xí)的過程中已經(jīng)走了很長一段路，但是僅基于看一個人的臉來識別一個人的情緒狀態(tài)卻缺少關(guān)鍵信息。情感不僅通過一個人的表達來表達，還可以通過他們在哪里和在做什么來表達。這些上下文線索甚至很難饋入現(xiàn)代機器學(xué)習(xí)算法中。為了解決這個問題，人們正在積極地努力以增強人工智能技術(shù)來考慮上下文，這不僅用于情感識別，而且還用于各種應(yīng)用。

AI Now發(fā)布的報告闡明了將AI應(yīng)用于勞動力以評估工人生產(chǎn)力的某些方式，甚至早在面試階段就已應(yīng)用。分析采訪中的鏡頭，特別是針對遠(yuǎn)程求職者的鏡頭，已經(jīng)在進行中。如果管理者從面試到評估都能了解下屬的情緒，那么有關(guān)其他就業(yè)事項(例如加薪，晉升或分配)的決策可能最終會受到該信息的影響。但是可以使用此技術(shù)的其他許多方式。