AI視頻領域卷瘋了。

Luma引發(fā)的狂歡還沒結(jié)束，AI視頻圈又來了個挑戰(zhàn)者——

斯坦福大學團隊出品的Proteus。

據(jù)介紹，Proteus 是一款低延遲基礎模型，可以生成高度真實且富有表現(xiàn)力的人物形象。

例如，讓世界名畫中的主角——蒙娜麗莎或者帶珍珠耳環(huán)的女孩——肆無忌憚地大笑，面部表情自然流暢

讓奧黛麗·赫本一改往日淑女形象，玩起嘻哈說唱

還讓《哈利·波特》中的斯內(nèi)普教授唱《Despacito》

Proteus剛發(fā)布，一眾大佬發(fā)來「賀信」:

AI科學家賈揚清稱贊，實時人工智能頭像質(zhì)量出奇得好。

英偉達科學家Jim Fan則表示，這一項目令人印象深刻。

早期投資人Brian Zhan發(fā)文稱，現(xiàn)有AI視頻工具，比如Runway和Pika，最大的問題就是會產(chǎn)生幻覺，尤其是在生成含有人類的視頻時。而Apparate Labs通過解決時間連貫性和對象恒定性等問題，使AI視頻生成步入下一個階段。

離譜!魯迅說起了繞口令

Proteus是新一代的基礎模型，用于人類的實時表情生成。

要知道，目前即便是最先進和最強大的生成模型，也無法完全實現(xiàn)人類表情的實時生成。

現(xiàn)有的模型運行速度緩慢，無法提供對生成人物的復雜面部表情和身體動作的直觀控制，而且它們在逼真度和表現(xiàn)力方面仍有所欠缺。

而Proteus采用了最先進的transformer 架構(gòu)的潛在擴散模型，其創(chuàng)新性的潛在空間設計確保了實時的高效率，并且隨著架構(gòu)和算法的持續(xù)優(yōu)化，Proteus能夠?qū)崿F(xiàn)每秒100幀以上（100+ FPS）的視頻流。

換句話說，只需一張簡單的照片，Proteus不僅能夠模仿人類的笑聲、說唱、歌唱、眨眼、微笑和對話，還能執(zhí)行更多生動的表情和動作。

比如說，一向嚴肅的魯迅說起了繞口令

或者讓居里夫人清唱《Le Festin》

抑或是給科學家們開個圓桌會議

據(jù)Proteus研發(fā)團隊介紹，他們期望Proteus可以成為一個聲音可控的視覺化身，為人工智能對話實體提供一個直觀的交互界面，同時能夠與眾多多模態(tài)大語言模型無縫兼容，為各種不同的應用場景提供定制化服務。

對此，不少網(wǎng)友腦洞大開——

「只需要用愛因斯坦的數(shù)據(jù)對大語言模型進行微調(diào)，再配上他生動的面部表情，就能讓偉大的愛因斯坦化身教學助手，來親自教授物理課，青少年再也不用愁學不好科學了?！?/p>

還有網(wǎng)友表示，我愛死它了，今年絕對是AI視頻之年。

起底背后團隊

這款被大佬力捧、小而美的模型， 背后是個怎樣的團隊?

據(jù)官網(wǎng)介紹，這是由斯坦福大學的Apparate Labs研發(fā)出來的。

目前該團隊僅6人，從名字和照片來看，有3人為華人。

首席執(zhí)行官兼聯(lián)合創(chuàng)始人沈博魁（William Shen）博士就讀于斯坦福大學計算機科學系，由知名教授Silvio Savarese和Leonidas J. Guibas共同指導。

他的研究涵蓋人工智能多個領域，包括計算機視覺、機器人學、圖形學、生成模型和具身智能。其論文多次獲獎，例如在IEEE-CVPR獲得了最佳論文獎，還在RSS上入圍了最佳學生論文獎的決賽。

此前，他還以GPA4.0的優(yōu)異成績獲得斯坦福大學計算機科學學士學位。

首席技術官兼聯(lián)合創(chuàng)始人Connor Lin也是個學霸。

他本碩就讀于卡內(nèi)基·梅隆大學，師從Keenan Crane教授。2020年前往斯坦福大學攻讀計算機博士。目前他是一名四年級在讀博士生，由Leonidas Guibas和Gordon Wetzstein兩位教授共同指導。

Connor Lin的研究聚焦于3D先驗知識和神經(jīng)表示，用于3D重建、生成和編輯，曾獲得David Cheriton斯坦福研究生獎學金的支持。

在攻讀博士期間，他在谷歌研究、英偉達研究和Adobe研究實習。此前，還在谷歌擔任軟件工程師，負責Pixel手機的人像模式開發(fā)。

此外，這小哥興趣廣泛，喜歡旅行和體育，喜歡烹飪、羽毛球、游泳、桌游和音樂，還是泰勒·斯威夫特的鐵桿粉絲

和Connor Lin一樣，首席科學家Linqi （Alex） Zhou也是斯坦福大學的一名博士生，由Stefano Ermon教授指導。

此前，Linqi Zhou在加州大學洛杉磯分校獲得了計算機科學和應用數(shù)學的學士學位，由Song-Chun Zhu教授和Ying-Nian Wu教授指導。

他主要在計算機視覺和機器學習領域進行研究，并致力于構(gòu)建能夠以結(jié)構(gòu)化和概率性方式理解世界的模型。

參考鏈接:

https://apparate.ai/stream.html