人工智能(AI)的使用可以與環(huán)境互動并模擬人類智能，因此有可能極大地改變我們的工作方式。成功地將AI集成到組織中取決于工人對該技術(shù)的信任程度。一項新的評論調(diào)查了人們?nèi)绾伟l(fā)展對AI的信任的二十年研究。作者得出的結(jié)論是，AI表示或“體現(xiàn)”的方式以及AI的能力有助于建立信任。他們還提出了一個框架，以解決影響用戶對AI的認知和情感信任的要素，這可以幫助使用AI的組織。

由卡內(nèi)基·梅隆大學(xué)和巴伊蘭大學(xué)的研究人員撰寫的評論發(fā)表在《管理學(xué)年鑒》上。

卡內(nèi)基梅隆大學(xué)特珀商學(xué)院組織行為與理論副教授安妮塔·威廉姆斯·伍利解釋說：“用戶對人工智能的信任將是決定其在組織中的作用的核心。” “我們通過探索與不同的AI表示(例如，機器人，虛擬代理或嵌入式)交互的人們?nèi)绾伟l(fā)展信任以及促進信任發(fā)展的AI特性，解決了信任的動態(tài)本質(zhì)。”

具體來說，研究人員觀察了有形性(感知或觸摸的能力)，透明度(技術(shù)的操作規(guī)則和邏輯對用戶顯而易見的水平)和可靠性(無論技術(shù)是否表現(xiàn)出相同的預(yù)期行為)的作用。隨著時間的推移)。他們還考慮了任務(wù)特征(如何處理技術(shù)與人際關(guān)系的判斷)和即時行為(旨在提高人際關(guān)系的社交姿勢，例如主動傾聽和反應(yīng)能力)。他們還研究了擬人化(對技術(shù)可以具有人類素質(zhì)的看法)。

作者在Google學(xué)術(shù)搜索中搜索了1999年至2019年之間發(fā)表的有關(guān)人類對人工智能的信任的文章，確定了約200篇經(jīng)過同行評審的文章和會議記錄。代表的字段包括組織行為，人機交互，機器人人機交互，信息系統(tǒng)，信息技術(shù)和工程。他們還使用了三個數(shù)據(jù)庫來識別另外50篇文章。最后，他們回顧了約150篇文章，介紹了人類對AI信任的實證研究。

作者發(fā)現(xiàn)，AI的表示在人們發(fā)展的認知信任的性質(zhì)中起著重要作用。對于機器人AI而言，建立信任的軌跡類似于在人際關(guān)系中建立信任的軌跡，這種關(guān)系從低端開始并隨著更多的經(jīng)驗而增加。但是對于虛擬和嵌入式AI，情況恰恰相反：隨著經(jīng)驗的積累，高初始信任度下降。

作者還發(fā)現(xiàn)，表征AI的機器智能水平可能會緩和認知信任的發(fā)展，而高智能水平會導(dǎo)致在使用和體驗后獲得更高的信任度。對于機器人AI，高水平的機器智能通常會導(dǎo)致高信任度的更快發(fā)展。對于虛擬和嵌入式AI，高機器智能為維持最初的高度信任提供了可能性。透明度也是在虛擬和嵌入式AI中建立認知信任的重要因素，盡管可靠性與AI信任發(fā)展之間的關(guān)系很復(fù)雜。

擬人化對于情感信任的發(fā)展具有獨特的重要性，但其作用因AI的形式而異。對于虛擬AI，擬人化具有積極作用。對于機器人AI，效果好壞參半：人們傾向于喜歡擬人化的機器人，而不是看起來像機械的機器人，但這些類似于人的機器人也可能會引起不適和緊張感。

這組作者總結(jié)說，影響情感信任的因素與影響認知信任的因素不同，某些因素可能對每個人都有不同的含義。

為了將AI集成到組織的工作中，作者提出了一個框架。他們將使用AI的形式，機器智能的水平，諸如響應(yīng)性和可靠性等行為視為影響人們?nèi)绾卧谡J知和情感上建立對AI信任的因素。

“信任可以預(yù)測對技術(shù)的依賴程度，而某人的信任與該技術(shù)的功能之間的對應(yīng)程度(稱為校準(zhǔn))可以影響該技術(shù)的使用方式，”加州大學(xué)研究生院助理教授Ella Glikson說。這項研究的共同作者是巴伊蘭大學(xué)的工商管理專業(yè)。