賓夕法尼亞州立大學，麻省理工學院和佐治亞理工學院的研究人員最近開發(fā)了一個概念框架來模擬人機信任現(xiàn)象。他們的框架在ACM數(shù)字圖書館發(fā)表的一篇論文中概述，使用受博弈論啟發(fā)的計算表示來表示信任，這是一種在社會心理學中使用理論定義的概念。在專業(yè)和個人環(huán)境中，信任在人際交往中起著關(guān)鍵作用。當一個人信任另一個人時，他們可能會決定做一些讓他們處于相當大風險的事情，并堅信另一個人的行為會在某種程度上減輕這種風險。

在定義信任方面，許多研究人員認為，這種情況會導致個人易受傷害，而這種脆弱性則取決于他人的行為，動機或行為。最近研究背后的三位研究人員Alan R. Wagner，Paul Robinette和Ayanna Howard想要創(chuàng)建一個可用于模擬人與機器人之間人際信任的框架。

“我們有興趣開發(fā)知道什么時候可以信任人類的機器人，了解什么情況需要信任，并吸引人類的適當信任，”Robinette解釋說。“最初，我們受到研究的推動，有時人們會在機器人要求時做些奇怪的事情，例如丟棄昂貴的教科書并在盆栽植物上倒橙汁。人類也會把自己放在機器人手中的風險(例如自動駕駛汽車，架空飛行的無人駕駛飛機，機器人保安等)。因此，我們希望開發(fā)一個框架，讓機器人能夠理解與人類的信任關(guān)系。“

由瓦格納及其同事開發(fā)的概念框架產(chǎn)生了幾個與人機器人信任相關(guān)的可檢驗假設。在他們的研究中，研究人員檢查了這些產(chǎn)生的假設并進行了一系列實驗，收集了支持其框架并與之相沖突的證據(jù)。

“信任框架始于Alan的研究，該研究以計算機和機器人可以利用的方式定義信任，”Robinette說。

在他之前的工作中，瓦格納將情境信任定義為“由委托人持有的一種信念，即受托人將以在委托人將其結(jié)果置于風險中的情況下減輕委托人風險的方式行事”。他的定義主要關(guān)注特定情況下涉及的風險，同時強調(diào)人/機器人將采取行動降低對方/機器人風險的信念。

“我們的框架提供了構(gòu)成信任情況的標準，并給出了幾類不需要信任的情況，例如，對于委托人沒有風險或者由于某種原因無法減輕風險的情況，”Robinette說。“通過這個框架，機器人可以自己評估它所處的情況是否需要信任，然后采取適當?shù)男袆印?rdquo;

研究人員在一系列測試和實驗中測試了他們的框架產(chǎn)生的假設。例如，在一個實驗中，他們向一組人類參與者展示了信任或不信任別人的情景，然后問他們選擇這兩個選項中的哪一個。與會者在很大程度上同意其框架產(chǎn)生的信任條件。

研究人員進行了幾項其他實驗，評估了其概念框架產(chǎn)生的假設的準確性。其中一些收集了支持這些假設的證據(jù)，而少數(shù)證據(jù)產(chǎn)生了相互矛盾的結(jié)果。

“我認為從這項工作中得到的最有意義的發(fā)現(xiàn)是，我們在許多不同背景的參與者的研究中找到了相當多的支持證據(jù)，”Robinette說。“這意味著信任框架可以在大多數(shù)情況下使用，讓機器人能夠更好地理解周圍的人為什么像他們一樣行動。機器人甚至可以使用這個框架來引導人類進入風險較低的情況，例如認識到一個人對機器人過于信任，也許是為了做一些沒有編程的事情，并告訴他們他們的錯誤。“

Wagner和他的同事設計的框架可以應用于涉及人類和機器人之間信任的各種情況。但是，在某些情況下，框架的假設不夠準確，例如當人們被要求在看似緊急情況的情況下信任機器人時。

盡管如此，這些發(fā)現(xiàn)仍然很有價值，因為它們揭示了人們發(fā)現(xiàn)難以信任機器人的特定領(lǐng)域。未來的研究可以仔細研究參與者為何做出這些選擇以及阻止他們信任機器人的原因，同時還探索機器人工程師如何提高機器人的安全性。

“Alan和Ayanna一直致力于將這項研究擴展到醫(yī)療機器人領(lǐng)域，”Robinette說。“我相信艾倫還有一個項目來調(diào)查緊急疏散機器人及其與人們的關(guān)系。我最近一直致力于人機組合，并計劃將這種信任框架應用于人類與機器人之間的關(guān)系。與之合作。“