機(jī)器學(xué)習(xí)和深度學(xué)習(xí)近年來(lái)已經(jīng)取得了許多突破，從功能更強(qiáng)大的語(yǔ)音和圖像識(shí)別到自動(dòng)駕駛汽車。但是，這些試圖模仿大腦工作方式的人工智能技術(shù)的一個(gè)大問(wèn)題是，他們使用的神經(jīng)網(wǎng)絡(luò)不具備人們所擁有的常識(shí)性知識(shí)和上下文，例如社會(huì)習(xí)俗，物理學(xué)定律和原因和結(jié)果。

這可能會(huì)使他們的決策有時(shí)感到困惑或完全錯(cuò)誤—正如使用Alexa，Google助手或任何數(shù)量的客戶助理聊天機(jī)器人的人所知道的那樣。但也許不會(huì)太久。

Salesforce.com Inc.的研究小組今天宣布了一篇論文，概述了改善這種情況的方法。該論文將在7月29日至8月的計(jì)算語(yǔ)言學(xué)協(xié)會(huì)年會(huì)上發(fā)表。2在意大利佛羅倫薩，研究人員 建議不僅使用來(lái)自各種數(shù)據(jù)集的數(shù)據(jù)來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，以如何準(zhǔn)確地回答許多問(wèn)題，而且還要解釋為什么這些答案是最佳的。

Salesforce雇用了Amazon.com Inc.的Mechanical Turk眾包服務(wù)人員，以舉例說(shuō)明今年早些時(shí)候由特拉維夫大學(xué)和艾倫人工智能研究所的研究人員提出的常識(shí)問(wèn)答或CQA數(shù)據(jù)集。

Salesforce首席科學(xué)家Richard Socher告訴SiliconANGLE：“基本上，它可以提取大量無(wú)人監(jiān)管的[未標(biāo)記](méi)文本，從該文本中提取常識(shí)，并為其提供理由。”

Salesforce研究科學(xué)家Nazneen Rajani補(bǔ)充說(shuō)，令人驚訝的結(jié)果是，僅在模型訓(xùn)練階段看到人為推理的示例后，神經(jīng)網(wǎng)絡(luò)在實(shí)際測(cè)試中的性能要好得多。她在博客中寫(xiě)道：“我們推測(cè)這些解釋捕獲了有關(guān)世界運(yùn)轉(zhuǎn)方式以及網(wǎng)絡(luò)在測(cè)試時(shí)基于這些信息進(jìn)行推理的有價(jià)值的信息。”

在研究的第二部分中，包括Salesforce Research的Bryan McCann和Xiong Ximing在內(nèi)的研究人員對(duì)第二個(gè)神經(jīng)網(wǎng)絡(luò)進(jìn)行了培訓(xùn)，目的只是學(xué)習(xí)如何從大量閱讀的模仿CoS-E的人類文本的文本中產(chǎn)生常識(shí)性推理。產(chǎn)生的解釋。這個(gè)常識(shí)自動(dòng)生成的解釋或CAGE框架在回答的準(zhǔn)確性方面做得更好，盡管它仍遠(yuǎn)遠(yuǎn)落后于人類95%的準(zhǔn)確率，但65%的得分超過(guò)了其他最新方法。

麥肯說(shuō)，他希望隨著模型對(duì)世界知識(shí)的熟悉，結(jié)果會(huì)更好。他希望這些解釋將隨著時(shí)間的推移“填補(bǔ)空白”。

Salesforce在論文中承認(rèn)，還需要改進(jìn)的另一個(gè)領(lǐng)域，這些天從實(shí)驗(yàn)室到華盛頓特區(qū)都引起了越來(lái)越多的關(guān)注：由于數(shù)據(jù)中的偏差而消除了模型中的偏差。例如，在CQA中，Salesforce研究人員注意到“明顯的性別差異和偏見(jiàn)，在負(fù)面環(huán)境中使用的女性代詞比例更高。”

拉賈尼說(shuō)，雖然可能需要在模型中而不是數(shù)據(jù)中發(fā)生，但尚不清楚如何解決這種偏差，目前尚無(wú)法清除所有偏差。McCann補(bǔ)充說(shuō)：“我們希望努力減少偏差，”但是至少新工作為神經(jīng)網(wǎng)絡(luò)如何解決這種偏差提供了更好的解釋。

拉賈尼說(shuō)，這項(xiàng)研究的最終結(jié)果可能會(huì)減少挫敗感，使聊天機(jī)器人和數(shù)字助理變得更加無(wú)縫。

Salesforce計(jì)劃開(kāi)放常識(shí)性解釋的數(shù)據(jù)集。