Facebook已經(jīng)開始使用無監(jiān)督機(jī)器學(xué)習(xí)來翻譯其平臺上的內(nèi)容，因?yàn)樗鼪]有很多從一種語言到另一種語言的翻譯示例 - 例如從英語到烏爾都語。

該方法由Facebook AI Research(FAIR)設(shè)計，并在FAIR與公司應(yīng)用機(jī)器學(xué)習(xí)部門的合作中在平臺上使用，F(xiàn)AIR巴黎實(shí)驗(yàn)室主任Antoine Bordes在電話采訪中告訴VentureBeat。

該方法與從一種語言到另一種語言的100,000次翻譯一樣執(zhí)行與監(jiān)督模型一樣，并且它優(yōu)于Facebook幾乎沒有示例的語言配對系統(tǒng)。

“當(dāng)你處理像英語 - 烏爾都語這樣的案例時，[翻譯]很少，我們的系統(tǒng)表明我們的系統(tǒng)比監(jiān)督系統(tǒng)更好。因此，訓(xùn)練無監(jiān)督系統(tǒng)比沒有足夠數(shù)據(jù)的監(jiān)督系統(tǒng)更好，“Bordes說。

Facebook AI研究人員Guillaume Lample和Marc'Aurelio Ranzato領(lǐng)導(dǎo)的工作成果將于今年秋季在EMNLP 2018上展出。

博爾德斯是一名早期的公平競爭雇員，并將這項研究稱為他見過的最好的研究。Bordes表示，這項研究將注意力放在翻譯上，這是Facebook的一項重要任務(wù)，也是自2013年開始以來FAIR一直關(guān)注的一個問題。

“我們現(xiàn)在可以去一個人們會說一種沒人會說的語言的星球 - 好吧，外星人 - 你實(shí)際上可以嘗試對那里所說的內(nèi)容進(jìn)行合理的翻譯，”Bordes說。“你可以去一本古老的手稿上找到尚未破譯的語言，你實(shí)際上可以了解它的作用，所以這真的是這項工作取得的突破，我認(rèn)為這就是為什么我是非常興奮。“

與其他FAIR項目一樣，AI系統(tǒng)將是開源的 ，可以在GitHub上下載。今年早些時候，F(xiàn)acebook 開源Translate，一種目前用于在Facebook上進(jìn)行翻譯的人工智能系統(tǒng)。

Translate等系統(tǒng)需要培訓(xùn)大量標(biāo)記數(shù)據(jù)。例如，完成從法語到英語的翻譯需要數(shù)百萬個樣本句子來創(chuàng)建一個能夠理解這兩種語言的系統(tǒng)。因此，當(dāng)Facebook沒有很多從一種特定語言到另一種語言的翻譯示例時，翻譯很困難。

現(xiàn)在用于這些案例的人工智能系統(tǒng)與三個要素相結(jié)合：逐字翻譯，語言模型和反向翻譯。

訓(xùn)練逐字翻譯以基于從前面的五個單詞和句子中的特定單詞之后的五個單詞繪制的上下文來預(yù)測單詞。這個詞嵌入方法是在去年秋天Lample和Ranzato共同撰寫的一篇論文中提出的。

然后，用大量數(shù)據(jù)訓(xùn)練的語言模型(如書籍或其他書面文本)用于排列對于英語使用者或?yàn)鯛柖颊Z說話者有意義的結(jié)構(gòu)中的句子。

最后，使用反向翻譯來改進(jìn)使用逐字翻譯和語言模型進(jìn)行的翻譯。他說，這些方法并不新鮮，但三者的結(jié)合正在產(chǎn)生結(jié)果。

“使用這兩個系統(tǒng)[和]在兩種語言之間來回翻譯，我可以將它們一起訓(xùn)練以試圖相互改進(jìn)，所以這真的是本文的核心，使用[翻譯模型]這個詞，使用語言模型做第一次翻譯，然后用反向翻譯的想法試圖改進(jìn)，“他說。

Facebook將在未來探索這種人工智能系統(tǒng)以進(jìn)行其他形式的翻譯，但需要更多數(shù)據(jù)并與專業(yè)翻譯人員合作來驗(yàn)證結(jié)果，Bordes說。