Facebook Inc. 今天使用其@Scale會議來提供其人工智能研究進展的最新信息。

這家社交媒體公司正在開源新的“ AI推理”平臺，并提供有關(guān)機器翻譯研究的一些最新信息。

Facebook應(yīng)用人工智能研究負責人Srinivas Narayanan(如圖)今天上午在圣何塞會議上說，這是大規(guī)模擴展人工智能工作量的一部分，鑒于訓(xùn)練人工智能模型需要大量數(shù)據(jù)，這是一項艱巨的任務(wù)。 ，加利福尼亞。

納拉亞南說：“沒有人工智能，今天的Facebook就不會存在。” “它與我們所做的一切緊密結(jié)合。” 但是，隨著每天有超過10,000種AI模型做出數(shù)萬億的決策，尋找更有效地完成所有這些工作的方法至關(guān)重要。他說：“伴隨著如此巨大的增長，隨之而來的是巨大的規(guī)模挑戰(zhàn)。”

AI推理是指能夠從大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)中提取關(guān)鍵信息并基于該信息得出邏輯結(jié)論的計算機系統(tǒng)。Facebook說，推理模型在許多推薦引擎中使用了AI的“極其重要”的方面，展示了在線購物者可能感興趣的新產(chǎn)品，或者推薦了用戶接下來可能想看的電視節(jié)目。

AI推理模型使用強化學(xué)習(xí)進行訓(xùn)練，強化學(xué)習(xí)是一種使用獎勵和懲罰系統(tǒng)來訓(xùn)練算法的編程方法。強化學(xué)習(xí)算法或代理通過與環(huán)境交互來學(xué)習(xí)。代理在正確執(zhí)行時會收到獎勵，在錯誤執(zhí)行時會受到處罰。通過這種方式，代理可以通過最大化其獎勵并最小化其懲罰而在無需人工干預(yù)的情況下“學(xué)習(xí)”。

強化學(xué)習(xí)的唯一問題是，設(shè)置過程非常困難且耗時，幾乎沒有組織擁有以這種方式訓(xùn)練其AI模型所需的資源。因此，F(xiàn)acebook決定開放其ReAgent平臺的源代碼，以使其更輕松地構(gòu)建AI推理模型，以克服這些挑戰(zhàn)。

ReAgent現(xiàn)在可以在GitHub上下載，它帶有預(yù)先構(gòu)建的模型，這些模型已經(jīng)可以根據(jù)所饋送的數(shù)據(jù)做出決策，并且還可以提供有關(guān)這些決策的反饋。此外，還有一個“離線評估器模塊”，可以評估新模型在生產(chǎn)中部署之前的性能，以及一個用于大規(guī)模部署模型的服務(wù)平臺。

Facebook代理

Facebook的AI研究團隊在博客中寫道：“它是用于創(chuàng)建基于AI的推理系統(tǒng)的最全面，模塊化的開源平臺，并且是第一個包含策略評估的策略，該策略結(jié)合了離線反饋以改進模型。” “通過使構(gòu)建實時，大規(guī)模決策的模型變得更加容易，ReAgent使研究項目以及生產(chǎn)應(yīng)用中策略的創(chuàng)建和評估民主化。”

Facebook說，F(xiàn)acebook已經(jīng)在內(nèi)部使用ReAgent來支持其社交媒體平臺做出的許多個性化決定，例如決定向用戶顯示哪些通知。Facebook表示，它通過新文檔使組織更易于使用ReAgent，這些文檔解釋了如何將ReAgent部署到Microsoft Azure等公共云計算服務(wù)。

Facebook研究人員說：“這種擴展的兼容性將使RL在生產(chǎn)中的使用進一步民主化，并擴大AI社區(qū)對模型如何提高其制定和評估決策的能力(包括實時)的理解。”

機器翻譯的進步

Facebook在機器翻譯方面也取得了一些進步。它的研究人員說，他們已經(jīng)為教學(xué)系統(tǒng)提出了一種新技術(shù)，該系統(tǒng)如何將口語轉(zhuǎn)換成更晦澀的語言，沒有成千上萬的示例可以用作培訓(xùn)數(shù)據(jù)。

機器翻譯是自然語言處理的一種應(yīng)用程序，它以源語言和目標語言的相應(yīng)翻譯來訓(xùn)練大量句子模型。對于涉及大量數(shù)據(jù)的廣泛使用的語言(例如英語到西班牙語的翻譯)，此類模型非常準確。但是，例如在老撾，哈薩克斯坦，海地語，老撾語，奧羅莫語和緬甸語等“資源匱乏的語言”方面，他們的表現(xiàn)就不太好。

Facebook克服這一問題的新技術(shù)涉及將“迭代反向翻譯”和“自我訓(xùn)練”與嘈雜的頻道解碼相結(jié)合，盡管研究對象只有有限的數(shù)據(jù)，但它仍使Facebook的研究人員能夠創(chuàng)建新的英語到緬甸機器翻譯系統(tǒng)語言。

反向翻譯是一種訓(xùn)練方法，它假定目標語言中必須有大量的單語數(shù)據(jù)，并且源語言(例如英語)和目標語言(例如緬甸語)的句子主題應(yīng)具有可比性。但是這種方法在資源不足的語言中無效，因為沒有足夠的單語數(shù)據(jù)。Facebook的新技術(shù)提供了解決該問題的方法。

研究人員寫道：“首先，利用可用的有限并行數(shù)據(jù)，我們訓(xùn)練了反向MT系統(tǒng)，該系統(tǒng)將從目標語言轉(zhuǎn)換為源語言。” “然后，我們使用該系統(tǒng)在目標側(cè)翻譯單語數(shù)據(jù)，從而生成由反向MT系統(tǒng)的反向翻譯和相應(yīng)的目標句子組成的合成數(shù)據(jù)集。”

下一步涉及基于此新創(chuàng)建的合成數(shù)據(jù)集運行自訓(xùn)練算法，以將單語數(shù)據(jù)從源語言轉(zhuǎn)換為目標語言。這將產(chǎn)生第二個綜合數(shù)據(jù)集，該綜合數(shù)據(jù)集由原始單語數(shù)據(jù)及其相應(yīng)的機器翻譯中的句子組成。

“在使用反向翻譯和自我訓(xùn)練分別生成帶有反向翻譯和正向翻譯句子的合成數(shù)據(jù)集之后，我們將所有這些數(shù)據(jù)集結(jié)合在一起，并重新訓(xùn)練了(可能更大的)正向模型和反向模型，” Facebook的研究人員寫道。“由于通過重新訓(xùn)練提高了這些模型的翻譯質(zhì)量，因此我們重復(fù)使用它們來重新翻譯源和目標單語數(shù)據(jù)集。”

星座研究公司(Constellation Research Inc.)分析師Holger Mueller告訴SiliconANGLE，這項新研究表明Facebook處于機器翻譯研究的最前沿。

Mueller說：“鑒于其在全球社交網(wǎng)絡(luò)市場的份額，F(xiàn)acebook認為它需要推動基于AI的翻譯，而不是任何供應(yīng)商。” “而Facebook正是這樣做的，現(xiàn)在支持非主流語言進行翻譯。”