Facebook已經(jīng)找到了一種培訓(xùn)計(jì)算機(jī)視覺(jué)模型的新方法，這種模式將大大加速公司的人工智能工作。使用這項(xiàng)新技術(shù)，公司可以在一小時(shí)內(nèi)訓(xùn)練圖像分類(lèi)模型，同時(shí)保持其準(zhǔn)確性。

在最佳性能方面，今天在紙上布局的新系統(tǒng)可以使用256個(gè)GPU每秒訓(xùn)練40,000個(gè)圖像，而不會(huì)犧牲最終模型的質(zhì)量。通過(guò)幫助數(shù)據(jù)科學(xué)家更快地測(cè)試他們的假設(shè)，這一成就應(yīng)該有助于提高未來(lái)研究的質(zhì)量。

加速機(jī)器視覺(jué)培訓(xùn)對(duì)于Facebook來(lái)說(shuō)非常重要，它將增強(qiáng)現(xiàn)實(shí)和機(jī)器學(xué)習(xí)視為未來(lái)業(yè)務(wù)的關(guān)鍵。根據(jù)Facebook應(yīng)用機(jī)器學(xué)習(xí)團(tuán)隊(duì)的軟件工程師Pieter Noordhuis的說(shuō)法，加速模型創(chuàng)建意味著公司的數(shù)據(jù)科學(xué)家每天可以運(yùn)行多種模型排列，而不必花費(fèi)一天時(shí)間進(jìn)行單一測(cè)試。

“他們可以說(shuō)'好吧，讓我們開(kāi)始我的一天，開(kāi)始我的一次訓(xùn)練，喝一杯咖啡，弄清楚它是怎么做的'，”他說(shuō)。“利用[他們]從中獲得的表現(xiàn)，形成一個(gè)新的假設(shè)，進(jìn)行一個(gè)新的實(shí)驗(yàn)，直到一天結(jié)束。使用它，[他們]可能在一天內(nèi)完成六個(gè)測(cè)序?qū)嶒?yàn)，否則會(huì)使他們?cè)谝恢軆?nèi)恢復(fù)。“

Facebook的加速通過(guò)擴(kuò)展訓(xùn)練中處理的圖像的小批量大小來(lái)實(shí)現(xiàn)，這使得通過(guò)在大量GPU上運(yùn)行計(jì)算來(lái)加速學(xué)習(xí)過(guò)程成為可能。然而，增加小批量大小也需要提高學(xué)習(xí)率，這導(dǎo)致過(guò)去的準(zhǔn)確度降低。

Facebook的團(tuán)隊(duì)想出的是一個(gè)新的熱身階段，隨著時(shí)間的推移慢慢提高學(xué)習(xí)率和批量大小，以幫助保持較小批次中的準(zhǔn)確性。使用它，他們能夠?yàn)樾∨康?,192張圖像保持大致相同的錯(cuò)誤率，因?yàn)樗鼈兊男∨看笮?56張圖像。

這項(xiàng)研究的好處不僅限于Facebook。該公司使用開(kāi)源Caffe2框架，通過(guò)開(kāi)放計(jì)算項(xiàng)目發(fā)布的設(shè)計(jì)服務(wù)器完成了所有工作。使用其他服務(wù)器和其他框架的人可以遵循本文中提出的技術(shù)，并且應(yīng)該能夠看到類(lèi)似的好處。

也就是說(shuō)，不清楚這種技術(shù)會(huì)對(duì)不同的問(wèn)題產(chǎn)生類(lèi)似的結(jié)果。然而，F(xiàn)acebook的研究使其他數(shù)據(jù)科學(xué)家，包括那些在社交網(wǎng)絡(luò)公司工作的科學(xué)家，可以追求更多的質(zhì)疑。

根據(jù)Noordhuis的說(shuō)法，這項(xiàng)研究的另一個(gè)主要好處是它證明了Facebook的AI研究團(tuán)隊(duì)的價(jià)值，更好地稱(chēng)為FAIR。今天報(bào)告的結(jié)果是兩個(gè)組織之間的合作。FAIR在擴(kuò)大批量規(guī)模和創(chuàng)建預(yù)熱階段方面提供了見(jiàn)解，而公司的應(yīng)用機(jī)器學(xué)習(xí)團(tuán)隊(duì)利用其專(zhuān)業(yè)知識(shí)使得最終系統(tǒng)在數(shù)據(jù)中心工作。