谷歌首席執(zhí)行官桑達(dá)皮采本周朝著錯(cuò)誤的方向邁出了一大步。在他的公司的I / O開(kāi)發(fā)者大會(huì)上，Pichai通過(guò)使用虛擬助手愚弄人們，讓毫無(wú)戒心的人成為笑聲的目標(biāo)，并提出有關(guān)人工智能未來(lái)用途的嚴(yán)重道德問(wèn)題，讓人群驚嘆不已。

Pichai為觀眾播放了Google智能助理和美發(fā)沙龍助手之間的對(duì)話

虛擬助手的“Mm-hmm”的話語(yǔ)引起了那些竊聽(tīng)相當(dāng)于惡作劇電話(公告視頻的1:56:36)的笑聲。聽(tīng)聽(tīng)美發(fā)沙龍接待員這個(gè)可憐的汁液!她完全墮落了!讓我們聆聽(tīng)，看看接下來(lái)會(huì)發(fā)生什么!

電話會(huì)議的結(jié)論引起了I / O與會(huì)者和Google首席執(zhí)行官們的更多歡笑和掌聲。“這是你剛才聽(tīng)到的真實(shí)電話，”皮海說(shuō)，笑聲繼續(xù)說(shuō)道。他解釋說(shuō)這個(gè)電話是由一項(xiàng)名為Google Duplex的新技術(shù)提供支持的。“它匯集了我們多年來(lái)的所有投資：自然語(yǔ)言理解，深度學(xué)習(xí)，文本到語(yǔ)音。”

好像不知道美發(fā)沙龍接待員是不夠的，Pichai然后在餐館工作人員上扮演同樣的伎倆，員工的英語(yǔ)口音和Google智能助理使用“呃”和“mm-hmm”更加挑釁竊笑。

“再一次，”皮海說(shuō)，搖搖頭，對(duì)這一切都非常歡鬧，“這是一個(gè)真正的呼喚。”

用戶體驗(yàn)錯(cuò)誤

谷歌努力使助手的聲音模式與人類無(wú)法區(qū)分，這引發(fā)了一個(gè)問(wèn)題：為什么?僅僅因?yàn)榭梢宰龅竭@一點(diǎn)并不足以做到這一點(diǎn)。

我可以想象用戶體驗(yàn)專家對(duì)這種欺騙感到震驚。雖然與一個(gè)人性化的語(yǔ)音助手進(jìn)行交互肯定比機(jī)械化機(jī)器人更愉快，但當(dāng)我與他們互動(dòng)時(shí)，我想知道它。谷歌因沒(méi)有教導(dǎo)機(jī)器人自我介紹而失敗了什么?打電話給美發(fā)沙龍時(shí)，可能會(huì)說(shuō)：“嗨，我是Google助理代表客戶打電話。”

它應(yīng)該這樣做。

雖然這可能會(huì)讓接待員 - 以及餐廳員工，也許對(duì)你我來(lái)說(shuō)，假設(shè)我們最終接到這些電話 - 我們對(duì)這種互動(dòng)的接受會(huì)隨著時(shí)間的推移而增長(zhǎng)。沒(méi)有理由認(rèn)為AI呼叫有一天不會(huì)像語(yǔ)音菜單那樣普遍。

但我們接受看似自主的語(yǔ)音助理將取決于信任。信任要求能夠區(qū)分我們何時(shí)與人交談以及何時(shí)與人工智能交談。

危險(xiǎn)的游戲

一個(gè)人工智能驅(qū)動(dòng)的文本，語(yǔ)音和視頻從人類生成的類比中難以辨認(rèn)的世界是一個(gè)可怕的世界，創(chuàng)建它的技術(shù)已經(jīng)存在。這并不是艾倫·圖靈在提出同名考試時(shí)所設(shè)想的。

防止這樣一個(gè)反烏托邦社會(huì)的最佳方式 - 即所謂的天真的 - 就是應(yīng)用相同的道德規(guī)范人類互動(dòng)與人工智能的互動(dòng)。即，誠(chéng)實(shí)和誠(chéng)實(shí)。

Pichai在I / O上犯了兩個(gè)道德錯(cuò)誤。第一個(gè)是將發(fā)廊和餐廳員工變成騙子。這真的不比為他的開(kāi)發(fā)者客人娛樂(lè)而做的虛假電話噱頭。

Pichai的第二次進(jìn)攻是鼓勵(lì)開(kāi)發(fā)一種冒充人類的AI?？梢詮闹械玫揭稽c(diǎn)好處; 它有可能創(chuàng)造一個(gè)危險(xiǎn)的先例。谷歌不應(yīng)該使用Duplex來(lái)代替這種新技術(shù)欺騙。

太平洋時(shí)間下午1點(diǎn)15分更新：為了回應(yīng) 批評(píng) 雙面驅(qū)動(dòng)助理并未將自己標(biāo)識(shí)為機(jī)器人的問(wèn)題，谷歌發(fā)表了以下聲明：“我們正在設(shè)計(jì)此功能并內(nèi)置披露，我們將確保系統(tǒng)得到適當(dāng)?shù)淖R(shí)別。我們?cè)贗 / O上展示的是早期的技術(shù)演示，我們期待在將其開(kāi)發(fā)成產(chǎn)品時(shí)整合反饋。“