我們對(duì)可以控制汽車，撰寫交響樂(lè)或在下棋，圍棋或危險(xiǎn)中擊敗人的機(jī)器著迷!雖然人工智能(AI)一直在取得更大的進(jìn)步，但一些科學(xué)家和哲學(xué)家警告說(shuō)，不可控的超級(jí)智能AI的危險(xiǎn)。使用理論計(jì)算，包括馬克斯·普朗克人類發(fā)展研究所人類與機(jī)器中心的科學(xué)家在內(nèi)的國(guó)際研究人員團(tuán)隊(duì)表明，不可能控制超級(jí)智能的AI。

假設(shè)有人要編寫一個(gè)具有比人類更好的智能的AI系統(tǒng)，以便它可以獨(dú)立學(xué)習(xí)。AI連接到Internet，可以訪問(wèn)人類的所有數(shù)據(jù)。它可以替換所有現(xiàn)有程序，并控制全球所有在線機(jī)器。這會(huì)產(chǎn)生烏托邦或反烏托邦嗎?AI會(huì)治愈癌癥，帶來(lái)世界和平并預(yù)防氣候?yàn)?zāi)難嗎?還是會(huì)破壞人類并占領(lǐng)地球?

計(jì)算機(jī)科學(xué)家和哲學(xué)家問(wèn)自己，我們是否甚至完全能夠控制超級(jí)智能的AI，以確保它不會(huì)對(duì)人類構(gòu)成威脅。一個(gè)國(guó)際計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)使用理論計(jì)算表明，從根本上不可能控制超級(jí)智能的AI

“控制世界的超級(jí)智能機(jī)器聽(tīng)起來(lái)像是科幻小說(shuō)。但是，已經(jīng)有機(jī)器獨(dú)立執(zhí)行某些重要任務(wù)，而程序員卻沒(méi)有完全了解他們?nèi)绾螌W(xué)習(xí)它。因此，問(wèn)題就來(lái)了，這是否在某些時(shí)候可能變得不可控制和危險(xiǎn)，研究的合著者，馬克斯·普朗克人類發(fā)展研究所數(shù)字化動(dòng)員小組負(fù)責(zé)人Manuel Cebrian說(shuō)。

科學(xué)家們探討了如何控制超級(jí)智能AI的兩種不同想法。一方面，可以特別限制超級(jí)智能AI的功能，例如，通過(guò)將其與Internet和所有其他技術(shù)設(shè)備隔離開(kāi)來(lái)，使其與外界保持聯(lián)系，但這將使超級(jí)智能AI的功能大大降低，因此無(wú)法回答人文課題。如果沒(méi)有這種選擇，人工智能可以從一開(kāi)始就被激發(fā)去追求僅符合人類最大利益的目標(biāo)，例如通過(guò)將道德原則編程進(jìn)去。但是，研究人員還表明，這些以及其他有關(guān)控制超級(jí)智能AI的當(dāng)代和歷史思想都有其局限性。

在他們的研究中，該團(tuán)隊(duì)構(gòu)思了一種理論上的遏制算法，該算法可通過(guò)首先模擬AI的行為并在認(rèn)為有害的情況下使其停止，從而確保超級(jí)智能的AI在任何情況下均不會(huì)傷害他人。但是仔細(xì)的分析表明，在我們當(dāng)前的計(jì)算范式中，無(wú)法構(gòu)建這樣的算法。

“如果將問(wèn)題分解為理論計(jì)算機(jī)科學(xué)的基本規(guī)則，結(jié)果是，一種命令A(yù)I不會(huì)破壞世界的算法可能會(huì)無(wú)意中止其自身的操作。如果發(fā)生這種情況，您將不知道這種遏制算法是否有效。仍在分析威脅或威脅已經(jīng)停止遏制有害的AI。實(shí)際上，這使得遏制算法無(wú)法使用。”人與機(jī)器中心主任Iyad Rahwan說(shuō)。

基于這些計(jì)算，遏制問(wèn)題是無(wú)可爭(zhēng)議的，即，沒(méi)有任何一種算法可以找到確定AI是否會(huì)對(duì)世界造成危害的解決方案。此外，研究人員表明，我們甚至可能都不知道超級(jí)智能機(jī)器何時(shí)到達(dá)，因?yàn)榇_定機(jī)器是否表現(xiàn)出優(yōu)于人類的智能與遏制問(wèn)題處于同一境界。