IBM公司以其在人工智能方面的開拓性工作而聞名，甚至在其Watson計(jì)算機(jī)擊敗幾個(gè)“ Jeopardy”冠軍之前數(shù)十年。但是近年來，它的工作至少在公眾的想象中被新的AI驅(qū)動(dòng)的語音和圖像識別服務(wù)以及Google LLC，Microsoft Corp.和Facebook Inc.等公司的自動(dòng)駕駛汽車所掩蓋。

今天，這家經(jīng)驗(yàn)豐富的科技公司在博客文章中重點(diǎn)介紹了其研究人員今年發(fā)表的有關(guān)人工智能和機(jī)器學(xué)習(xí)的100多篇論文中的幾篇。他們廣泛地關(guān)注先進(jìn)技術(shù)，擴(kuò)展AI系統(tǒng)并試圖增加對因缺乏透明度和偏見問題而受到政府和消費(fèi)者的抨擊的AI系統(tǒng)的信任。

SiliconANGLE與位于圣何塞的IBM Research Almaden研究中心的副總裁兼實(shí)驗(yàn)室主任Jeff Welser進(jìn)行了交談， 探討了IBM正在進(jìn)行的工作，在AI工作中面臨的挑戰(zhàn)以及研究人員認(rèn)為2019年及以后的發(fā)展的一些精選示例。這是對話的編輯版本。

問：通過相對較少的示例，深度學(xué)習(xí)或可以像人類一樣學(xué)習(xí)的其他AI系統(tǒng)的前景如何?

答：這是一個(gè)挑戰(zhàn)。但是，當(dāng)我們思考人們的學(xué)習(xí)方式時(shí)，小時(shí)候您會(huì)得到一些汽車的例子，而媽媽說這是一輛汽車，并提供了一些帶有標(biāo)簽的例子。但是實(shí)際上您會(huì)看到很多很多汽車，因此您會(huì)得到很多未貼標(biāo)簽的示例，這有助于您定義組成一輛汽車的所有參數(shù)和功能。

但是到了某個(gè)時(shí)候，您確實(shí)發(fā)現(xiàn)了與眾不同的東西，例如非常大的東西，然后您會(huì)問“這是汽車嗎?” 媽媽說：“不，那是卡車。” 因此，立即轉(zhuǎn)到該示例，您會(huì)看到參數(shù)何時(shí)達(dá)到一定水平，我現(xiàn)在知道這是一輛卡車，您會(huì)立即看到很多卡車的示例，而您的大腦真的很擅長對這兩種卡車進(jìn)行分類。

這就是我們要進(jìn)行的一擊或幾擊學(xué)習(xí)。我們正在減少標(biāo)記的數(shù)據(jù)，并幫助系統(tǒng)進(jìn)行推斷，以便它可以識別與之相關(guān)的新事物。最終，您希望系統(tǒng)知道詢問。我們現(xiàn)在處理它的方式是嘗試做一些事情，例如提供置信度。但這與知道不知道的東西不同。

問：還有其他方法可以減少對如此多數(shù)據(jù)的煩惱嗎?

答：我們也在尋找可以自動(dòng)標(biāo)記很多圖像樣本的方法。甚至甚至可以通過對可能相似的圖像進(jìn)行聚類并詢問“這些對嗎?”來幫助人們更快地進(jìn)行標(biāo)記的系統(tǒng)。我們在自然語言處理中做了很多工作。

問：除了深度學(xué)習(xí)，您還在尋找什么方法?

答：人們對基于規(guī)則的非結(jié)構(gòu)化數(shù)據(jù)分析有了新的興趣。神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)之一是它可能是一個(gè)黑匣子。例如，我們并不總是確切地了解神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)了哪些功能，以使其了解汽車，例如，這使得很難知道何時(shí)或?yàn)槭裁磿?huì)出錯(cuò)。 一件事是，我們可以更好地分析神經(jīng)網(wǎng)絡(luò)，以了解它們實(shí)際上是在做出哪些決策。

但是第二件事是，我們應(yīng)該回到一些基于規(guī)則的工作嗎?嘗試并告訴系統(tǒng)存在常識的事物，例如水被弄濕了，水會(huì)留在碗里。

弄清楚是否可以將它們組合起來會(huì)引起一些興趣。甚至我們使用的某些系統(tǒng)都可以做到這一點(diǎn)-文本分析系統(tǒng)System C非?；谝?guī)則。深度學(xué)習(xí)進(jìn)一步增強(qiáng)了它。我們發(fā)現(xiàn)的一件事是，在某些情況下，盡管基于規(guī)則的系統(tǒng)更難構(gòu)建和維護(hù)，但它們可能更健壯。

問：研究人員還希望突破AI的黑盒子嗎?

答：一種方法是您可以查看神經(jīng)網(wǎng)絡(luò)內(nèi)部并分析所呈現(xiàn)的各種功能似乎激發(fā)了哪些神經(jīng)元。如果是視頻，神經(jīng)網(wǎng)絡(luò)的這一部分是否會(huì)對角或邊緣或運(yùn)動(dòng)變化做出響應(yīng)?然后從中推斷出真正觸發(fā)響應(yīng)的是什么。如果它觸發(fā)了一些奇怪的事情，也許這表明我們應(yīng)該研究一些事情。

我在阿爾瑪?shù)?Almaden)有一個(gè)小組，從事更多的投機(jī)工作，以分析神經(jīng)網(wǎng)絡(luò)并提取其實(shí)際使用的規(guī)則。這更具挑戰(zhàn)性，但很有趣，因?yàn)樗赡軐烧呗?lián)系在一起。

問：您正在采取什么措施減少AI的偏見?

我們正在使用大量數(shù)據(jù)對神經(jīng)網(wǎng)絡(luò)進(jìn)行大量測試。當(dāng)您談?wù)撈姇r(shí)，這顯然成為一個(gè)問題。如果您有非常龐大的數(shù)據(jù)集，您甚至可能沒有意識到數(shù)據(jù)在性別或您正在分析的內(nèi)容上略有偏見

因此，現(xiàn)在我們有了系統(tǒng)來分析數(shù)據(jù)集，并查看它在此特定特征集中是否被過度代表?？赡苁悄鷮@些特征的訓(xùn)練過度。有些東西很容易：如果您要分析人，請確保男女人數(shù)相等。

這不會(huì)一one而就。數(shù)據(jù)變化以及事物將要發(fā)生變化。今年早些時(shí)候，我們發(fā)布了AI偏差工具包-我們推薦的技術(shù)和流程。

問：您如何看待政府在人工智能中的作用?甚至微軟最近也呼吁聯(lián)邦政府幫助確定標(biāo)準(zhǔn)。

答：作為一個(gè)行業(yè)，我們正在就這些標(biāo)準(zhǔn)進(jìn)行合作。我們要確保我們不會(huì)在不希望使用AI的方向上使用AI。未來生活研究院是研究AI如何影響社會(huì)未來的一群人。

問：我們可以讓人類陷入AI的循環(huán)嗎?

答：有兩部分。在培訓(xùn)系統(tǒng)方面，人總是處于循環(huán)之中。我們正在使用各種工具，這些工具可以幫助平衡我們正在談?wù)摰臋C(jī)器在超大規(guī)模上可以做什么以及人類可以做什么來確保機(jī)器向正確的方向行駛。

當(dāng)我們談?wù)撌褂孟到y(tǒng)時(shí)，這是相似的。目的是弄清楚AI如何在工作流程中大規(guī)模自動(dòng)化事物，這對于一個(gè)人來說是很難做到的。但是，然后它應(yīng)該以一種使人可以做自己擅長的方式來呈現(xiàn)信息，即首先了解目標(biāo)是什么，權(quán)衡常識性決策并了解機(jī)器是否有信心有信心，該人是否應(yīng)該深入研究并弄清楚答案的產(chǎn)生方式。我們希望與機(jī)器的伙伴關(guān)系很容易。

問：明年您將跟蹤AI的哪些趨勢?

答：一個(gè)是受信任的AI將成為中心舞臺。我們已經(jīng)看到了。它將變得不那么容易思考了。您從一開始就選擇要訓(xùn)練的數(shù)據(jù)。確保您是從下而上構(gòu)建系統(tǒng)的……以便獲得答案的人知道它的來源。信任必須成為2019年培訓(xùn)，部署和使用AI的重要組成部分。

下一個(gè)更具投機(jī)性，我們將在2019年解決，但將在以下方面取得進(jìn)展：因果關(guān)系將取代相關(guān)性。大數(shù)據(jù)分析基本上可以識別相關(guān)性，例如與貓相關(guān)的[圖像]特征。例如，當(dāng)您嘗試在診斷中找出疾病時(shí)，這一點(diǎn)就顯得尤為重要。公雞的烏鴉并沒有引起太陽升起，它與太陽相關(guān)，但是開關(guān)確實(shí)會(huì)點(diǎn)亮燈。但是今天的AI確實(shí)很難確定因果關(guān)系。我們希望致力于理解AI中的因果關(guān)系。

問：IBM正在從事此領(lǐng)域的哪些項(xiàng)目?

答：我們正在化學(xué)領(lǐng)域進(jìn)行研究，以了解會(huì)產(chǎn)生什么樣的新分子—了解化學(xué)反應(yīng)，以便AI不僅暗示隨機(jī)分子，還暗示可能實(shí)際起作用的分子。在其他實(shí)驗(yàn)室的其他領(lǐng)域中也發(fā)生了類似的事情。

問：來年還有其他趨勢嗎?

答：一個(gè)領(lǐng)域是最遙遠(yuǎn)的領(lǐng)域，但我們肯定會(huì)在2019年看到進(jìn)展的領(lǐng)域是應(yīng)用于AI的量子計(jì)算的整個(gè)領(lǐng)域。總體而言，量子計(jì)算一直在加速發(fā)展，我認(rèn)為在未來幾年中，我們將從加密和加密轉(zhuǎn)向其他應(yīng)用程序，而其他應(yīng)用程序可能會(huì)更快地產(chǎn)生影響。

這些領(lǐng)域是化學(xué)方面的模擬，金融行業(yè)中可能遇到的優(yōu)化問題以及越來越多的機(jī)器學(xué)習(xí)。在AI中，您通常需要建立一個(gè)非常高的尺寸狀態(tài)，查看許多參數(shù)上的大量數(shù)據(jù)，然后找出如何分離出正確的參數(shù)。量子計(jì)算機(jī)非常擅長生成高維狀態(tài)。這些問題非常適合我們現(xiàn)在擁有的量子計(jì)算機(jī)。

問：近年來，關(guān)于谷歌，F(xiàn)acebook和微軟等公司將人工智能應(yīng)用于消費(fèi)者問題的信息，我們聽到的更多，但是對于IBM在面向消費(fèi)者的AI方面工作較少的了解卻很少。這是為什么?

答：消費(fèi)者方面更加可見，談?wù)撋踔翆?shí)施起來也更加容易……就像推薦產(chǎn)品一樣，這是一項(xiàng)非常具體的任務(wù)。我們正在嘗試找出真正更廣泛地推進(jìn)AI的方法。我們希望為所有人提供幫助……無論是醫(yī)療保健，金融行業(yè)乃至社會(huì)事務(wù)：更好地解釋IoT傳感器中的數(shù)據(jù)，更好地控制您的工廠或房屋，或解決污染問題。