您現(xiàn)在的位置是:首頁 >每日動態(tài) > 2024-06-07 18:05:04 來源:
產(chǎn)業(yè)級AI原生應用的「超級外掛」,應用已在200+行業(yè)場景落地
今年AI領域的熱門詞匯,非”AI原生應用”莫屬。
而現(xiàn)在,這個浪潮之巔的方向,又一件神兵利器有了成績單證明——百度智能云千帆AppBuilder。
作為百度智能云推出的產(chǎn)業(yè)級AI原生應用開發(fā)平臺,AppBuilder致力于打通大模型到業(yè)務的最后一公里。短短推出半年以后,AppBuilder公布了成績單:
服務客戶數(shù)已突破10萬,應用已在200+行業(yè)場景落地;
原本可能需要一周的開發(fā)周期,一天就可以完成;一周時間就能完成20個應用功能更新。
總結起來就一句話:確實易用、好用、用了起作用。
但成績之外,AppBuilder還在頻繁迭代,以提供更專業(yè)的知識處理內(nèi)核、更有效的AI周邊組件、更靈活實用的開放方式。
百度智能云千帆AppBuilder,不僅要領先,還要持續(xù)領先。
應用已在200+行業(yè)場景落地
一個應用開發(fā)平臺,除了看它開發(fā)生態(tài)的活躍程度,還看它可落地場景的深入。
開頭一系列的數(shù)據(jù)已經(jīng)證明,AppBuilder已經(jīng)構建出了屬于自己的生態(tài)。
現(xiàn)在隨著應用廣場的開放,支持用戶進行一個自身應用的分發(fā);其他用戶能夠在此基礎上進行復制和二次調(diào)優(yōu)。
這樣一來,其實促進了開發(fā)者之間的交流和碰撞,更多AI原生創(chuàng)新應用在這當中產(chǎn)生。
既如此,再來看它落地的各種垂類領域。
不同于個人應用開發(fā),只關注大模型的性價比、易用性、實際效果就好;產(chǎn)業(yè)級AI原生應用需要考慮的因素則更為復雜。
比如場景適配性,是否能與自身業(yè)務產(chǎn)線做到一個「無縫」融合;整個全生命周期開發(fā)的成本以及可持續(xù)性……
對于技術服務商來說,就不單是技術上挑戰(zhàn),更多是業(yè)務上的挑戰(zhàn),比如行業(yè)需求洞察、數(shù)據(jù)管理等等。企業(yè)需要快速迭代試錯的開發(fā)工具鏈、靈活開放的集成與分發(fā)模式、豐富的組件與應用模版。
因此在垂類場景落地的深入,也就變成了AI原生應用產(chǎn)業(yè)級開發(fā)工具的核心指標。
AppBuilder產(chǎn)品負責人透露了兩個典型案例。
在基層政務服務這一場景中,中衛(wèi)慧通就基于AppBuilder構建智能咨詢、政務C opilot等產(chǎn)品能力,再結合自身的能力(像多端應用開發(fā)和運營服務能力),形成面向基層政府的大模型應用解決方案。
截至今年5月,已在河南沈丘縣、駐馬店市驛城區(qū)、重慶豐都縣、重慶巫溪縣、天津市河西區(qū)、長沙市芙蓉區(qū)、安徽省歙縣等7個區(qū)縣上線,覆蓋450+萬人。
以重慶豐都為例,今年春節(jié)重慶市豐都縣基層社會治理中心在“豐收號”政務小程序,就加入了一個知曉萬事、隨叫隨到的“居民助手”。
它正是中衛(wèi)慧通結合豐都縣政務服務工作清單,構建了“問答知識庫”,為居民提供咨詢服務,預計今年完成60個區(qū)縣落地。
像這種面向各區(qū)縣長尾多元的需求,中衛(wèi)慧通利用AppBuilder,可在小時級就完成效果認證,周級完成業(yè)務上線。
還有在AIoT平臺。
大模型對于實體行業(yè)的賦能,AIoT或許是最佳的載體;GPT-4o的出現(xiàn),給更多更豐富的人機交互體驗帶來想象空間,所有物理設備都有可能連上大模型,同人進行實時交互。
但隨之而來,我們都知道,大模型從接入進AIoT到用戶使用,這背后需要考慮的問題有很多,比如大模型的時延交互;從模型選擇到接入過程的開發(fā)設計,以及硬件設備的受限都需要考慮到,最終達到模型效果與性能的平衡。
終端是最大的落地場景,國內(nèi)某AIoT代表玩家第一時間選擇了AppBuilder在產(chǎn)業(yè)中落地。它聯(lián)合AppBuilder共同打造解決方案,主要集中在K12消費電子、家居、藍牙類智能終端上部署大模型應用,預計每年都有數(shù)百萬設備的增長空間。大模型,毫無疑問地成為了企業(yè)的新動能。
除此之外,傳統(tǒng)硬件行業(yè)需要有生產(chǎn)能力且穩(wěn)定的供應鏈,然而行業(yè)規(guī)模體量大,且終端形態(tài)不一,需要有針對性的進行開發(fā)。而AppBuilder加AIOT,讓各類硬件更方便地獲取獨有技能,借助大模型這一工具將能力快速輸送到了端。
該硬件廠商透露,原本開發(fā)一個AI技能需要一周的時間,但現(xiàn)在AppBuilder一天就能完成應用的開發(fā)與接入。
此外,在教育、電商、居民服務、生活助手、企業(yè)服務助手等領域使用的頻率較高。尤其像專業(yè)問答助手、基于問答的邊查邊辦的業(yè)務是比較常見的場景。
△華北電力大學與AppBuilder聯(lián)合開發(fā)的師生專屬助理“i華電”因此綜上可以看到,在AppBuilder助力下,這些AI原生應用場景都已實現(xiàn)產(chǎn)業(yè)化落地,而且在持續(xù)加速迭代中。
這需要用戶自身的技術和資源積累,也與AppBuilder的產(chǎn)品與技術能力不無關系。
單就像企業(yè)招投標這樣的場景,數(shù)據(jù)都是非結構化的,往往需要提取關鍵信息并且結構化輸出,這對大模型在海量數(shù)據(jù)中理解邏輯和分析能力,提出了很高的要求。AppBuilder 預置高精度的知識理解與問答能力,基于定向調(diào)優(yōu)的SFT模型,多場景問答準確率、友好回復、準確拒答可接受度95%以上。
不過這也只是AppBuilder背后實力的一部分,那么從整體宏觀角度來看,AppBuilder背后方法論是什么?
縮短“到應用的最后一公里”
先從宏觀市場來看。
市面上,號稱支持AI原生應用開發(fā)的工具和平臺數(shù)不勝數(shù)。這是一場不見血的激烈競爭。
3月21日升級至今,AppBuilder在這場游戲中,早早錨定了自己的出路:端起“產(chǎn)業(yè)級平臺”的飯碗。
在市場中找準自己的發(fā)力位置,永遠是摘得最終勝利的重要開始。
不過,為什么是產(chǎn)業(yè)級?
AppBuilder的思考是,因為產(chǎn)業(yè)級用戶是大模型進入到千行百業(yè)業(yè)務中的最后一公里。
所有產(chǎn)業(yè),只要想進行AI原生應用的開發(fā),都要先搭好框架、選好組件,然后組裝好一個個AI原生應用,再往外一層一層地集成包裝成一個更完整的業(yè)務系統(tǒng)。
而AppBuilder要做的就是幫助企業(yè)縮短這“到應用的最后一公里”,并提供全開發(fā)周期的工具鏈。
到今天,AppBuilder上有三種代碼形式可以選擇:零代碼態(tài)、低代碼態(tài)、代碼態(tài)。
零代碼態(tài),適用于普通需求的非技術企業(yè),可以直接選用官方的框架、組件,無需任何代碼,通過自然語言,經(jīng)Agent自動調(diào)度形成應用。
最快三步,就能用零代碼態(tài)完成應用的創(chuàng)建與分發(fā)。
代碼態(tài),這一形態(tài)適合有更高DIY功能需求的產(chǎn)業(yè)企業(yè),但注意,代碼態(tài)不意味著要開發(fā)人員全部寫代碼。
AppBuilder預置了豐富的接口、配備了一些參數(shù),以及開箱即用的組件與框架,為開發(fā)者提供快速上手的方式,如直接調(diào)接口、調(diào)用SDK。
這種選擇高度靈活,支持開發(fā)不同功能集成到不同場景中。
處于二者之間的是低代碼態(tài)。這個形態(tài)適合那些有一定技術基礎和接口需求的開發(fā)人員,AppBuilder為這類需求提供豐富的多模態(tài)AI組件,并支持畫布式靈活編排工作流開發(fā)自定義組件,可快速將企業(yè)系統(tǒng)API接入應用。
應用能力,能無限拓展;輸出內(nèi)容,更穩(wěn)定、更可控。
不同類型、不同需求的企業(yè),都能找到合適的使用方式;且每一種使用方式,都是同等難度下最易用的模式。
這樣的自身定位和用戶定位角度,為AppBuilder團隊指明了下功夫的方向,然后再來具體地縮短產(chǎn)業(yè)級用戶“到應用的最后一公里”。
具體是這么完成的:
首先,AppBuilder身后是百度文心大模型,下場早、技術強,是國內(nèi)大模型tier1水平。
基于此,AppBuilder預先封裝和配置了大模型驅(qū)動的開發(fā)AI原生應用所需的各種組件和框架,高靈活滿足各類開發(fā)需求。
據(jù)團隊透露,他們專門針對框架、指令、數(shù)據(jù)鏈路和組件等方面進行了全方位的調(diào)優(yōu)。在問答、智能體、數(shù)據(jù)處理等應用場景中,即使在同等規(guī)模的模型條件下,也能實現(xiàn)更優(yōu)的性能表現(xiàn)。
原因是團隊針對Agent規(guī)劃能力、RAG知識離線處理在線檢索架構等方面,對AppBuilder進行了很多定制化特調(diào),“試出來的效果,比開發(fā)者自己單獨接API調(diào)配后開發(fā)AI應用的效果更好”。
再者說,對于用戶到底要什么、痛點在哪兒,不得不說一句AppBuilder它超懂的。
相對于個人開發(fā)門檻低、速度快、可用性高等需求,產(chǎn)業(yè)化AI原生應用開發(fā)的難點不只是把個人需求規(guī)?;敲春唵巍?/p>
對于團隊側(cè)而言,沒有業(yè)務的固有用戶可以服務、沒有業(yè)務可以集成、缺行業(yè)需求洞察/數(shù)據(jù)與API/解決辦法……
更進一步的,AppBuilder團隊把洞察市場后搜集整理的企業(yè)需求做了個分類:
企業(yè)應用場景復雜;
考慮成本,追求極致性價比;
希望被提供全生命周期企業(yè)級工具鏈,并持續(xù)調(diào)優(yōu)。
上述種種,有的需要很好的處理能力,有的需要很強的靈活性,有的需要長久的維護運營合作。而AppBuilder希望為每一類提供企業(yè)滿意的解決方案。
不過很快,至少目前已經(jīng)能夠看到,以上的問題和痛點都迎來了新的解決辦法——
AppBuilder支持企業(yè)級數(shù)據(jù)管理,支持批量數(shù)據(jù)的評估與測試,支持企業(yè)級權限管理、文件管理、資源管理、生產(chǎn)監(jiān)控。
同時在容量、并發(fā)、響應、彈性、穩(wěn)定、安全方面具備行業(yè)競爭力。
上述所有強平臺能力,都被AppBuilder放在了各行各業(yè)的應用樣板間里,所見demo即所得。
除上述外,AppBuilder還擁有與市場其他應用開發(fā)工具的領先至少一個身位的優(yōu)勢。
關于這一點,可以從以下四個方面來看:
一是強內(nèi)核。
如上所述,以文心大模型為基座,以百度生態(tài)的知識能力護航,兼有百度積淀深厚的搜索架構實踐、搜索技術組件,同時在長文檔解析、多模態(tài)信息處理方面有所優(yōu)勢。
二是廣開放。
AppBuilder接入的不僅有自家模型。有的開發(fā)平臺只能調(diào)用幾個大模型,AppBuilder的可選模型列表有幾十個,自定義的模型也可以通過ModelBuilder接入。在多源模型的基礎上,做到開放框架、開放渠道、集成接口。
三是高體驗。
這一點更多體現(xiàn)在多模交互上,根據(jù)規(guī)劃,未來,AppBuilder可以很好地完成3D生成等多類型信息處理;另一方面,團隊計劃賦予它數(shù)字形象(這也是百度所擅長的),更具有貼身助理的真人感。
四是企業(yè)級特性。
不僅全棧自研,國產(chǎn)可控;而且利百度智能云四層結構協(xié)同優(yōu)化加速,實現(xiàn)最高性價比,兩款主力大模型已經(jīng)宣布免費。
一個時代有一個時代的開發(fā)平臺
在AI時代之前,開發(fā)工具與平臺的格局與今天有很大不同。
上個世紀50、60年代,程序員們的世界里出現(xiàn)了編譯器,依托其開發(fā)軟件的時代開始。
而后一步步,C語言、C++,Java/C#、中間件出現(xiàn)并流行……這些開發(fā)工具讓每個人可以通過0和1改變世界。
2010年前后,云計算時代來臨,應用開發(fā)因此開始進入云原生時代。一些支持自動化的代碼構建、測試和部署流程的開發(fā)平臺,開始發(fā)揮重要作用。
現(xiàn)在,AI時代也有AI時代的訴求。
一方面,AI原生應用還是一片荒蕪,正處于一個快速發(fā)展階段,有著巨大的市場潛力和商業(yè)價值,等待著產(chǎn)業(yè)與開發(fā)者們的共同挖掘——今年4月,量子位智庫發(fā)布《中國AIGC應用全景報告》,預計到2030年,AI應用市場可能達到萬億規(guī)模。
另一方面,大模型的能力涌現(xiàn),比低代碼更低的門檻——每個人只用三兩句自然語言,就可以進行應用開發(fā),成為了開發(fā)平臺和工具的必修課。于是,零代碼開發(fā)方式出現(xiàn)并開始流行,更低門檻的開發(fā)時代來到眼前。
人人都想在“屬于這個時代的開發(fā)平臺”這塊蛋糕上分一杯羹,因此AI時代的應用開發(fā)平臺開始大量出現(xiàn)。
然而當下像是潮水初起的亂紀元,市面上突然涌現(xiàn)出大量的新的工具及平臺,往往也意味著品質(zhì)的參差不齊。
怎么才能挑選到一個技術前沿、保證維護、持續(xù)投入,并且能及時跟進時代技術發(fā)展的開發(fā)平臺?
這個問題如今或許有了一個確定的答案。
百度智能云千帆AppBuilder。
在過往的扎實基礎上,作為AI2.0時代原生的應用開發(fā)平臺,近期,AppBuilder在三個方向和緯度上完成了自身的升級,分別是大模型優(yōu)化、工作流完善、應用廣場開放。
但這并不是AppBuilder的最終態(tài),我們了解到,對于這個平臺而言,目前已經(jīng)好用、易用的狀態(tài),其所提供的能力可能只是最終目標的30%。
據(jù)介紹,AppBuilder有清晰的奔頭,也是它瞄準的5個產(chǎn)品目標:
1、開箱即用。不管哪個垂類產(chǎn)業(yè),都能快速搭建個性化應用,低成本滿足瞬息萬變的業(yè)務需求。
2、即刻可用。能夠快速冷啟,對于行業(yè)通用場景,提供業(yè)界領先的效果和性能。
3、靈活可調(diào)。業(yè)務邏輯、處理環(huán)節(jié)可調(diào)可控,支持用戶結合自有數(shù)據(jù),在業(yè)務場景達極致效果。
4、可上規(guī)模。可滿足在企業(yè)場景,進行生產(chǎn)級的開發(fā)及應用,支持大規(guī)模并發(fā)處理,在高負載環(huán)境下依然保持高性能和穩(wěn)定性。
5、廣泛落地。預制豐富的行業(yè)模型、行業(yè)模版、應用樣板間、組件,并具備豐富的傳播方式,廣泛吸引各行各業(yè)、各類用戶。
目標清晰,全力以赴。
人人都在期待AI時代原生超級應用的誕生,AppBuilder不是Killer App本身,但AppBuilder在做的,就是服務好,并助推和加速它出現(xiàn)的進程。
肉眼可見的,AI2.0接下來的競賽,不再只是頭部大模型創(chuàng)業(yè)公司/大廠之間的競爭,更被抬到臺前的是AI原生應用的涌現(xiàn)、優(yōu)化、生態(tài)建設與繁榮。
在這波浪潮里,百度智能云通過AppBuilder,更加具象地定義了這一波AI的下一步發(fā)展。