將基于規(guī)則的人工智能與“連接主義”相結(jié)合，麻省理工學(xué)院和IBM研究人員可能已經(jīng)找到了下一階段AI發(fā)現(xiàn)的關(guān)鍵。

下一次AI突破可能需要結(jié)束長期的競爭。

多年來，人工智能研究人員在創(chuàng)建問題解決算法時通常采用兩種方法之一：符號或基于規(guī)則的AI，其中心是將概念，規(guī)則和邏輯手動編碼到計算機(jī)軟件中; 和連接主義，它基于人工神經(jīng)網(wǎng)絡(luò)和大腦的數(shù)字表示，通過比較許多例子隨著時間的推移有機(jī)地發(fā)展他們的行為。

直到最近，符號AI更受歡迎，神經(jīng)網(wǎng)絡(luò)被許多研究人員和公司所避開。但在2012年，多倫多大學(xué)的計算機(jī)科學(xué)家通過使用基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)-AI算法取得了突破，贏得了著名的年度計算機(jī)視覺競賽ImageNet。

從那時起，深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)引發(fā)了人工智能行業(yè)的一場革命，并幫助解決了之前被認(rèn)為超出計算機(jī)能力的問題。今年早些時候，神經(jīng)網(wǎng)絡(luò)的先驅(qū)們獲得了圖靈獎，相當(dāng)于諾貝爾計算機(jī)科學(xué)獎。

隨著神經(jīng)網(wǎng)絡(luò)越來越受歡迎，象征性人工智能從優(yōu)雅中墮落并被推到了研究的邊緣。但是現(xiàn)在，在深度學(xué)習(xí)革命的七年之后，我們已經(jīng)看到深度學(xué)習(xí)不是一個完美的解決方案，并且具有限制其應(yīng)用的明顯弱點。

麻省理工學(xué)院和IBM的一組研究人員認(rèn)為，AI的下一個突破可能來自于結(jié)束符號AI和神經(jīng)網(wǎng)絡(luò)之間的競爭。

在本月早些時候在國際學(xué)習(xí)代表大會(ICLR)上發(fā)表的一篇論文中，這些研究人員提出了一個名為Neuro-Symbolic Concept Learner的概念，它將符號AI和神經(jīng)網(wǎng)絡(luò)結(jié)合在一起。這種混合方法可以創(chuàng)建比傳統(tǒng)模型更靈活的AI，并且可以解決符號AI和神經(jīng)網(wǎng)絡(luò)都無法自行解決的問題。

依賴標(biāo)簽數(shù)據(jù)是有限的

麻省理工學(xué)院 - IBM沃森人工智能實驗室主任大衛(wèi)·考克斯說：“深度學(xué)習(xí)是非常強(qiáng)大的，它不會消失。但它今天有局限性。” “其中之一就是它依賴于大量的數(shù)據(jù)。你需要有大量的數(shù)據(jù)才能訓(xùn)練其中一個系統(tǒng)，這些數(shù)據(jù)必須經(jīng)過仔細(xì)注釋。”

神經(jīng)網(wǎng)絡(luò)的核心是由數(shù)千個變量組成的復(fù)雜數(shù)學(xué)函數(shù)。在“訓(xùn)練”階段期間，網(wǎng)絡(luò)攝取許多標(biāo)記的示例并基于其在每類示例中找到的共同模式來調(diào)整其變量。之后，當(dāng)您通過網(wǎng)絡(luò)運行新數(shù)據(jù)時，它可以根據(jù)數(shù)據(jù)的統(tǒng)計相似性將數(shù)據(jù)分類為網(wǎng)絡(luò)以前見過的示例。神經(jīng)網(wǎng)絡(luò)在諸如圖像分類，語音識別和自然語言處理等任務(wù)中尤其有效，這些領(lǐng)域基于規(guī)則的AI在歷史上一直在努力。

但這種對數(shù)據(jù)的依賴造成了嚴(yán)重的困難。“對于我們遇到的許多問題，我們現(xiàn)在沒有足夠的數(shù)據(jù)來培訓(xùn)深度學(xué)習(xí)算法，”Cox說。

根據(jù)經(jīng)驗，您擁有的質(zhì)量訓(xùn)練數(shù)據(jù)越多，您的神經(jīng)網(wǎng)絡(luò)就越精確。在許多情況下，您需要數(shù)百萬個示例才能進(jìn)行充分的培訓(xùn)。

事實上，神經(jīng)網(wǎng)絡(luò)的概念幾乎與AI本身一樣古老。這主要是因為大量注釋數(shù)據(jù)的可用性增加，以及可以快速處理這些數(shù)據(jù)的計算機(jī)資源，該技術(shù)在過去幾年已變得切實可行。

可解釋性是深度學(xué)習(xí)的另一個問題。很難對神經(jīng)網(wǎng)絡(luò)做出的決策進(jìn)行調(diào)查和審計，因為它們非常復(fù)雜，并且有自己的行為方式。這對他們在錯誤可能產(chǎn)生嚴(yán)重或致命后果的領(lǐng)域或法律要求 AI系統(tǒng)的采用者提供自動決策解釋的領(lǐng)域提出了挑戰(zhàn)。

結(jié)合符號AI和神經(jīng)網(wǎng)絡(luò)

人工智能面臨的一項艱巨挑戰(zhàn)是視覺問答(VQA )的任務(wù)，在該任務(wù)中，您向AI顯示圖像并向其詢問有關(guān)存在的不同元素之間關(guān)系的問題。這很困難，因為VQA涉及圖像識別，自然語言處理和邏輯推理的任務(wù)，這些任務(wù)最好由符號AI和神經(jīng)網(wǎng)絡(luò)協(xié)同工作。

麻省理工學(xué)院和IBM研究人員使用Neuro-Symbolic Concept Learner(NSCL)來解決VQA問題。NSCL使用神經(jīng)網(wǎng)絡(luò)處理VQA問題中的圖像，然后將其轉(zhuǎn)換為其包含的對象的表格表示。接下來，它使用另一個神經(jīng)網(wǎng)絡(luò)來解析問題并將其轉(zhuǎn)換為符號AI程序，該程序可以在上一步驟中生成的信息表上運行。

“將符號AI與神經(jīng)網(wǎng)絡(luò)相結(jié)合 - 創(chuàng)建混合神經(jīng)符號系統(tǒng) - 的一個有趣的事情是你可以讓每個系統(tǒng)做它擅長的事情。神經(jīng)網(wǎng)絡(luò)可以處理現(xiàn)實世界的混亂和相關(guān)性，以及幫助將這些符號轉(zhuǎn)換為基于規(guī)則的系統(tǒng)可以更有效地運行的符號，“Cox說。

混合方法的好處

研究人員在CLEVR上測試了NSCL ，這是VQA問題中使用的渲染對象圖像的數(shù)據(jù)集。以前使用神經(jīng)網(wǎng)絡(luò)方法解決CLEVR問題的嘗試產(chǎn)生了令人印象深刻的結(jié)果，但是他們需要大量的訓(xùn)練示例，并且開發(fā)的模型在邊緣情況(網(wǎng)絡(luò)尚未訓(xùn)練的設(shè)置)上表現(xiàn)不佳。

事實證明，使用一小部分?jǐn)?shù)據(jù)，NSCL能夠在CLEVR上達(dá)到99.8%的準(zhǔn)確率，因為它不是通過數(shù)百萬個示例強(qiáng)制執(zhí)行，而是開發(fā)了域的概念表示，這使得處理場景變得更加容易。以前沒有見過。這很重要，因為在許多領(lǐng)域，沒有足夠的質(zhì)量注釋數(shù)據(jù)來訓(xùn)練神經(jīng)網(wǎng)絡(luò)來解決問題。

此外，在某種程度上，NSCL解決了神經(jīng)網(wǎng)絡(luò)的可解釋性問題。在傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型中，AI提供了問題并輸出了結(jié)果，但是它沒有解決問題的解決方法，因此很難糾正錯誤。相反，混合系統(tǒng)產(chǎn)生基于規(guī)則的程序，該程序提供其功能的逐步描述。

“在這里，你可以看到程序，你可以逐步完成它，看看它做了什么。如果得到了錯誤的答案，你就會明白為什么它得到了錯誤的答案以及它在哪里誤入歧途。如果它是正確的回答，您可以根據(jù)正確的理由驗證是否這樣做。您可以理解并審核出現(xiàn)的內(nèi)容，“考克斯說。