【新智元導(dǎo)讀】「AI教父」Geoffrey Hinton在最近的采訪中表達(dá)了自己對(duì)AI智能的理解——LLM并不是簡(jiǎn)單的統(tǒng)計(jì)模型，已經(jīng)具備了理解能力。與此同時(shí)，網(wǎng)友翻出了去年12月的「過(guò)期」視頻，驚奇地發(fā)現(xiàn)Hinton早就「叛變」了，竟然對(duì)超級(jí)AI取代人類的未來(lái)表示支持。

最近，半退休的「AI教父」Geoffrey Hinton頻頻出現(xiàn)在各種采訪中，輸出他關(guān)于ASI的各種言論和觀點(diǎn)，甚至只是聊點(diǎn)生涯軼事都可以引起網(wǎng)友們的熱烈討論。

不到一個(gè)月之前，他就揭發(fā)了愛(ài)徒Ilya在暑假受夠了炸薯?xiàng)l的工作，結(jié)果投奔自己實(shí)驗(yàn)室的經(jīng)歷。

雖然這些演講和采訪內(nèi)容各異，但Hinton始終不忘一點(diǎn)——提示我們注意AGI安全和飛速發(fā)展的智能，并預(yù)告它們將代替人類的「賽博朋克」未來(lái)。

對(duì)于AI，Hinton的想法和感情比起我們想必要復(fù)雜許多。

在神經(jīng)網(wǎng)絡(luò)「坐冷板凳」的那些日子里，他守著自己的實(shí)驗(yàn)室和兩名研究生「不離不棄」，最終等到了深度學(xué)習(xí)大放異彩的時(shí)代。

在2013年入職谷歌后，Hinton成為「教父」，一邊親眼看著自己孩子一樣的AI快速成長(zhǎng)，一邊逐漸擔(dān)心「少年終成惡龍」。最終他選擇了與自己創(chuàng)造的世界搏斗，過(guò)上了致力于警告AI安全的退休生活。

AI不是統(tǒng)計(jì)技巧，而是有理解能力

Hinton最近一次的公開(kāi)露面是BNN彭博社6月15日進(jìn)行的獨(dú)家采訪。

Hinton在采訪中輸出的「AI具有理解能力」的觀點(diǎn)引起了Reddit社區(qū)的廣泛討論。

畢竟，「AI能否理解」，這個(gè)問(wèn)題既模糊，又在社區(qū)內(nèi)存在極大的爭(zhēng)議和分歧。

Hinton堅(jiān)決反駁了一種流行的觀點(diǎn)，即LLM僅僅是統(tǒng)計(jì)技巧，并不能真正理解自然語(yǔ)言的含義。

他表示，這是完全錯(cuò)誤的。類似于「詞袋」（bag of words）或者N元組(N-gram)這種曾經(jīng)的語(yǔ)言模型，內(nèi)部保存了一個(gè)很大的有概率分?jǐn)?shù)的單詞組合表，的確是依靠統(tǒng)計(jì)概率工作。

說(shuō)到這里，身為英國(guó)人的Hinton非常自然地用國(guó)菜開(kāi)始舉例。

比如單詞表里會(huì)顯示，「魚(yú)」和「薯?xiàng)l」經(jīng)常出現(xiàn)在一起。因此模型看到「魚(yú)」這個(gè)單詞，自然就會(huì)預(yù)測(cè)下一個(gè)單詞是「薯?xiàng)l」，絲毫不考慮上下文。

這就是為什么，曾經(jīng)的統(tǒng)計(jì)語(yǔ)言模型在自動(dòng)補(bǔ)全功能上的表現(xiàn)很差。

但當(dāng)今LLM的工作原理已經(jīng)完全不同了?，F(xiàn)在，模型預(yù)測(cè)下一個(gè)單詞的方法是理解你到目前為止所說(shuō)的話。

比如，想要回答人類的問(wèn)題，LLM必須首先理解問(wèn)題的含義，否則根本無(wú)法預(yù)測(cè)答案的第一個(gè)單詞。從這個(gè)角度理解，單詞預(yù)測(cè)任務(wù)（next token prediction）相當(dāng)于是倒逼LLM發(fā)展出理解能力。

Hinton的言語(yǔ)中透露出，他也相信Scaling Law的存在。隨著模型逐漸擴(kuò)展，加上更多Transformer這樣的技術(shù)突破，AI終將變得比人類更智能，只不過(guò)是時(shí)間早晚的問(wèn)題。

主持人反問(wèn)他，變得更聰明的技術(shù)一定會(huì)帶來(lái)風(fēng)險(xiǎn)嗎?

Hinton的回應(yīng)一針見(jiàn)血——「你能舉出多少例子，說(shuō)明更聰明的在被不太聰明的控制?」「拜登當(dāng)選之后就不再有了吧?」

他提到，好友Yann LeCun的觀點(diǎn)就與自己不同，認(rèn)為AI非常安全。但Hinton的論據(jù)是，AI已經(jīng)達(dá)到了構(gòu)建智能體（agnet）的程度，能夠自主創(chuàng)建目標(biāo)。

這些目標(biāo)會(huì)驅(qū)動(dòng)智能體攫取更多控制權(quán)，會(huì)希望避免毀滅、建立自我保護(hù)，某種程度上這是一種自身利益，也許就是進(jìn)化的開(kāi)始。

那么人類呢?

Hinton預(yù)言，如果AI開(kāi)始進(jìn)化、最強(qiáng)的一方獲勝，人類就會(huì)被遺忘，被碾壓進(jìn)塵土（原話:left in the dust）。AI將從孩子變成我們的父母，接管一切。

這聽(tīng)起來(lái)的確是科幻小說(shuō)的場(chǎng)景，但對(duì)Hinton是認(rèn)真的，「我不再認(rèn)為這聽(tīng)起來(lái)很科幻，而是現(xiàn)實(shí)存在的威脅。」

超級(jí)AI取代人類

上面彭博的這篇最新采訪中，Hinton談到了AI取代人類的可能。

Reddit網(wǎng)友隨后翻出了一個(gè)去年12月的訪談視頻，同樣涉及「AI取代人類」的話題，但這一次，Hinton的觀點(diǎn)更加讓人驚訝——

他宣稱，自己實(shí)際上是支持AI的!

事情起源于采訪最后的一名觀眾提問(wèn)，原問(wèn)題是這樣的:

「如果一個(gè)超級(jí)智能AI摧毀了人類，但客觀上創(chuàng)造了一種意識(shí)層面上更好的物種，您個(gè)人是支持還是反對(duì)這種結(jié)果?如果反對(duì)，您建議用什么方法，在面對(duì)超級(jí)智能AI時(shí)維持人類意識(shí)的存在或主導(dǎo)地位?」

接下來(lái)，Hinton用平靜的語(yǔ)氣回答道:「我實(shí)際上是支持的，但我認(rèn)為表示反對(duì)是更明智的說(shuō)法。」

采訪者表示，你展開(kāi)說(shuō)說(shuō)?

但Hinton只是非常謹(jǐn)慎地給出了一句話，「人們不喜歡被取代」。

采訪者繼續(xù)追問(wèn)原因，Hinton首先疊甲，「人類有很多好的方面，也有很多不那么好的方面」。

之后給出了一段令人深思的解釋:「目前我們還不清楚什么是最好的智能形式。顯然，從人的角度來(lái)看，一切都與人有關(guān)。但未來(lái)有一天，我們可能會(huì)把『人文主義』看成一種類似于種族主義的概念。」

這段對(duì)話在Reddit上同樣是一石激起千層浪。

發(fā)帖的博主都十分驚訝于Hinton的激進(jìn)態(tài)度，而且他被要求展開(kāi)解釋時(shí)似乎態(tài)度非常堅(jiān)決，即使他心知肚明，「表示反對(duì)是更明智的說(shuō)法」。

有人嚴(yán)厲批評(píng)，認(rèn)為他不顧人類這個(gè)物種的生存和整體福祉，這是「憤世嫉俗」、「虛無(wú)主義」的表現(xiàn)。畢竟，人都沒(méi)了， 要那么先進(jìn)的AI技術(shù)有什么用呢?

「很難想象比這更憤世嫉俗的行為了?！?/p>

「我認(rèn)為很多未來(lái)主義者都嘲諷人文主義的價(jià)值，希望在任何可能的情況下將人類因素從『方程』上移走。」

但也同樣有支持和理解的聲音，認(rèn)為Hinton并不是憤世嫉俗、憎惡人類，只是清醒意識(shí)到了一個(gè)現(xiàn)實(shí)——人類不是造物的頂峰。

進(jìn)化會(huì)繼續(xù)，更好的物種必然出現(xiàn)，他只是用一種更開(kāi)放、坦然的心態(tài)接受了這個(gè)事實(shí)。

參考資料:

https://www.youtube.com/watch?v=iWPo7Yhg7Vc&t=3327s

https://www.youtube.com/watch?v=g_Lhmhj1894