精神AI正在使用人工智能來(lái)對(duì)抗游戲社區(qū)中的毒性行為。這家倫敦公司創(chuàng)建了Ally社交智能工具，用于解讀在線對(duì)話并監(jiān)控網(wǎng)絡(luò)欺凌是否正在發(fā)生。

根據(jù)Spirit AI的創(chuàng)意合伙人導(dǎo)演和紐約大學(xué)游戲中心的助理藝術(shù)教授Mitu Khandaker的說(shuō)法，這是紐約大學(xué)研究人員的心血結(jié)晶。該公司使用人工智能，自然語(yǔ)言理解和機(jī)器學(xué)習(xí)來(lái)幫助數(shù)據(jù)科學(xué)和客戶服務(wù)團(tuán)隊(duì)了解在線社區(qū)的總體趨勢(shì)。它還有助于在問(wèn)題升級(jí)之前預(yù)測(cè)問(wèn)題。

Ally考慮上下文，細(xì)微差別以及用戶與尋找和阻止關(guān)鍵字之間的關(guān)系。該軟件使用自然語(yǔ)言理解和AI來(lái)識(shí)別消息的意圖，然后分析行為和反應(yīng)以確定其影響。它可以做識(shí)別網(wǎng)絡(luò)欺凌的事情。

Spirit AI最近推出了許多新功能，其中一些功能在今年的游戲開發(fā)者大會(huì)上公布，并作為新的公平競(jìng)爭(zhēng)聯(lián)盟峰會(huì)的一部分。產(chǎn)品改進(jìn)包括新的智能過(guò)濾器，基于Web的更新和可定制的前端以及基于節(jié)點(diǎn)的直觀界面，以及GDPR(新的歐洲隱私法)合規(guī)性。另一種產(chǎn)品，角色引擎，是一種自然語(yǔ)言AI框架，用于構(gòu)建具有代理，歷史和知識(shí)的自主角色。

“我們正處在這些事情發(fā)生的時(shí)刻，人工智能可以提供幫助，”Khandaker說(shuō)。

Khandaker最近在倫敦的Casual Connect Europe活動(dòng)上談到了Ally。之后我跟她說(shuō)過(guò)話。這是我們采訪的編輯記錄。

Mitu Khandaker： Ally真的是一個(gè)分析社區(qū)社會(huì)景觀的工具，真正了解它們的語(yǔ)言和背景。當(dāng)你看到玩家和非玩家角色(NPC)之間的對(duì)話時(shí)，我提到的關(guān)于談話的所有內(nèi)容也都適用，對(duì)吧?但這次看著球員之間的那些事情。會(huì)話非常細(xì)微，非常具體。

作為一家公司，兩種產(chǎn)品的想法同時(shí)出現(xiàn)。最初我們談到的是，“當(dāng)你真正理解語(yǔ)言時(shí)，當(dāng)你真正理解上下文中的行為時(shí)，有什么可能?”顯然，有一種能夠自然地與角色交談的夢(mèng)想。我們正在幫助實(shí)現(xiàn)這一目標(biāo)。但是，就我個(gè)人而言 - 我們差不多三年前創(chuàng)立了Spirit。這是Gamergate的一年，當(dāng)時(shí)我和很多同事都是目標(biāo)。我認(rèn)為，如果我們真的理解細(xì)微的談話，網(wǎng)上騷擾是一個(gè)嘗試解決的關(guān)鍵領(lǐng)域。

您無(wú)法確定關(guān)鍵字的騷擾。語(yǔ)言變化。朋友之間的語(yǔ)言可能不錯(cuò)，但是那些完全無(wú)害的東西 - 聽起來(lái)陌生人突然開始 - 有人可能會(huì)發(fā)明一個(gè)新的詛咒詞，對(duì)吧?如果你的系統(tǒng)不知道它，或者它故意拼寫錯(cuò)誤，所有這些東西。如果他們?cè)噲D惡意，人們會(huì)盡可能地繞過(guò)這些系統(tǒng)。

該系統(tǒng)善于理解語(yǔ)境。這有幾個(gè)方面。其中一個(gè)可能只是在語(yǔ)義上試圖理解這個(gè)詞的含義，從它的使用方式來(lái)看。另一個(gè)可能是 - 這是一個(gè)關(guān)鍵的，它試圖了解該語(yǔ)言是否是雙方同意的?；氐竭@個(gè)例子，讓我們說(shuō)我最好的朋友決定叫我一個(gè)名字。我很好。她可以隨心所欲地打電話給我。那是一種雙方同意的關(guān)系。我知道她并不是不客氣地說(shuō)。我不會(huì)說(shuō)，“不要這樣做。”

但是，如果陌生人使用同一個(gè)詞 - 一些隨機(jī)的網(wǎng)友開始投擲同樣的侮辱 - 我可能會(huì)沉默，不回應(yīng)，這表明我可能沒有與這個(gè)人進(jìn)行雙向?qū)υ?，或者我可能?huì)說(shuō)，“走開，讓我一個(gè)人呆著，”口頭表達(dá)某種缺乏同意?；蛘呶铱赡苤皇亲N。

這是為了讓社區(qū)更安全。明白它是什么特別傷害了他們。他們不同意的是什么?基本上，通過(guò)使用這些工具，您可以減少這些類型的交互，讓人們感覺安全并回來(lái)。這就是它如何讓玩家的生活更輕松。

在社區(qū)管理方面，社區(qū)主持人方面，我們的一個(gè)重要愿望是，我們?nèi)绾问褂肁I這樣的東西來(lái)減少情緒勞動(dòng)?這是圍繞人工智能的一些更大的哲學(xué)。有很多關(guān)于人工智能的討論，以及自動(dòng)化是否會(huì)取代工作等等。那是現(xiàn)在談話的重要話題。無(wú)論你在哪個(gè)方面著陸，我們可以使用AI做的一件事就是減少人們必須做的情感工作。

當(dāng)你看到真正艱難的工作時(shí)，比如社區(qū)審核主持人，如你所知，必須看看這么多可怕的評(píng)論。隨著時(shí)間的推移，東西會(huì)得到你。有報(bào)道稱，在這些情況下，人們因?yàn)樗麄內(nèi)諒?fù)一日地不斷暴露的內(nèi)容而接受創(chuàng)傷后應(yīng)激障礙治療。人工智能可以幫助我們的一件事是減少情緒勞動(dòng)，自動(dòng)消除他們必須看到的一些糟糕的東西。

GamesBeat：人們總是認(rèn)為AI做無(wú)聊的工作，比如卡車駕駛，但是 -

Khandaker：是的，但人工智能在做情感工作呢?我認(rèn)為這非常有趣，因?yàn)槲覀儙?lái)的是一支更健康的員工隊(duì)伍。

GamesBeat：你談話中關(guān)于“蛋糕是謊言”的部分讓我很好奇。這是來(lái)自真實(shí)的伊麗莎談話嗎?

Khandaker：哦，那是伊麗莎的真實(shí)對(duì)話，是的。Eliza所做的事情之一就是在它上面的特定計(jì)算機(jī)上恢復(fù)用戶之前說(shuō)過(guò)的東西并重復(fù)它。就像我說(shuō)的那樣，治療師說(shuō)的是治療模式，“這很有趣，告訴我更多關(guān)于蛋糕的信息。”這就是它的工作原理。

GamesBeat：當(dāng)我還是英語(yǔ)專業(yè)時(shí)，我們處理的是結(jié)構(gòu)主義等不同的理論。你有一個(gè)故事弧。這是人工智能可以復(fù)制的一個(gè)例子嗎?它可以創(chuàng)造自己的敘事，故事的情感弧線嗎?

Khandaker：當(dāng)然。您可以通過(guò)多種方式查看它。如果你看一下你和你正在談?wù)摰慕巧g的故事如何展開，你可以建立一個(gè)弧形。你可能會(huì)說(shuō)，經(jīng)過(guò)一段時(shí)間，或者這么多的會(huì)話動(dòng)作，你想要加劇這個(gè)戲劇。你想讓角色突然生氣。他們生氣了什么?他們想要提出一件特別的事情，他們一直想和你談?wù)劇?/p>

這是實(shí)現(xiàn)它的一種方式，實(shí)際上 - 當(dāng)你通過(guò)對(duì)話展開故事時(shí)，這是你可以控制這種弧線的一種方式。你可以說(shuō)，“這是我寫的特別故事。以下是它可以展開的方式。“在適當(dāng)?shù)臅r(shí)候，角色會(huì)說(shuō)某些事情，因?yàn)槟阕罱K建立了他們的信任或其他什么。這是我們可以通過(guò)我們的系統(tǒng)做的另一件事。