佐治亞理工學院的研究人員與康奈爾大學和肯塔基大學合作開發(fā)了一種人工智能(AI)代理，該代理可以實時自動生成自然語言解釋，以傳達其行為背后的動機。該工作旨在使與AI代理或機器人互動的人放心，該代理正在正確執(zhí)行任務，并且可以解釋錯誤或錯誤行為。

該代理還使用非專家可以理解的日常語言。研究人員稱之為解釋，或稱“理性”，旨在與人們建立聯(lián)系，并激發(fā)他們對可能使用AI機器或在社交場合與他們互動的人的信任。

Upol Ehsan博士說：“如果要使AI的力量民主化，那么任何人都必須能夠使用AI，無論他們的技術水平如何。” 喬治亞理工學院互動計算學院的學生，首席研究員。

“隨著AI滲透到我們生活的方方面面，對以人為中心的AI設計的獨特需求使黑盒AI系統(tǒng)可以為日常用戶所解釋。我們的工作邁出了形成性的一步，旨在理解基于語言的解釋的作用以及如何人類會感知到它們。”

該研究得到海軍研究辦公室(ONR)的支持。

研究人員開展了一項參與研究，以確定他們的AI代理是否可以提供模仿人類反應的理論依據(jù)。觀眾觀看了AI代理玩電子游戲Frogger，然后按照每個人對AI的動作描述得如何好壞的順序排列了三個屏幕上的理由。

在每個動作的三個匿名理由中，一個是人為產生的反應，AI代理反應和一個隨機產生的反應，參與者首先喜歡人為產生的理由，而第二個是人工智能產生的反應。

Frogger為研究人員提供了在“順序決策環(huán)境”中訓練AI的機會，這是一項重大的研究挑戰(zhàn)，因為代理商已經(jīng)做出的決策會影響未來的決策。因此，根據(jù)研究人員的說法，很難向專家解釋推理鏈，甚至在與非專家交流時更是如此。

觀眾們明白了青蛙蛙的目的，就是使青蛙安全回家，而不會被移動的車輛撞到或淹死在河中。向上，向下，向左或向右移動的簡單游戲機制，使參與者可以查看AI所做的事情，并評估屏幕上的基本原理是否明確說明了該移動的合理性。

觀眾根據(jù)以下各項判斷其合理性：

信心-人們對AI執(zhí)行任務充滿信心

像人一樣-看起來像是由人創(chuàng)造的

充分的理由-充分證明所采取的行動是合理的

可理解性-幫助人們了解AI的行為

參與者排名較高的AI產生的理由是那些表現(xiàn)出對環(huán)境條件和適應性的認可，以及傳達了對即將發(fā)生的危險的意識并為之計劃的理由。發(fā)現(xiàn)僅表明環(huán)境明顯或特征錯誤的冗余信息具有負面影響。