百度謝廣軍：百模大戰(zhàn)和價格戰(zhàn)之后，大模型下一個戰(zhàn)場在工具平臺

衡宇 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

AI大模型對生產(chǎn)生活的滲透，已經(jīng)在方方面面。

甚至可以說，它帶來的影響比過去十年里，AI對各行各業(yè)的影響更加深遠(yuǎn)。并且一步一步發(fā)展至今，從“探索”到“價值產(chǎn)生”，已經(jīng)變成了企業(yè)和模型廠商共同的迭代。

拿企業(yè)來說，它們不再單純追求擁抱大模型，而是開始明晰那些業(yè)務(wù)需要大模型，大模型如何絲滑融入自己的工作流中，以及需要什么樣的模型及應(yīng)用。

而模型廠商這一邊，拿到企業(yè)更明確的需求后，更懂得怎么讓大模型業(yè)務(wù)真正深入垂直場景，提供哪些提效的工具，事半功倍地發(fā)揮大模型的價值。國內(nèi)廠商在一年半內(nèi)經(jīng)歷了百模大戰(zhàn)和價格戰(zhàn)，大模型的下一個戰(zhàn)場在工具平臺上。

以上，是在2024百度云智大會上，百度副總裁謝廣軍分享的一線洞察。

他順帶公布了一組數(shù)據(jù)：

過去一年多以來，千帆平臺日均調(diào)用量超過7億次，累計幫助用戶精調(diào)了3萬個大模型，開發(fā)出70多萬個企業(yè)級應(yīng)用。

并且，隨著大模型在產(chǎn)業(yè)滲透的深入、需求的明確、技術(shù)的進(jìn)步，百度千帆大模型平臺3.0應(yīng)運(yùn)問世。

重塑生產(chǎn)力的三階段演進(jìn)

交流會上，謝廣軍拉明時間線，按照大模型調(diào)用趨勢的變化，將過去一年半多的時間劃分為了三個階段。

• 第一階段：ChatGPT出現(xiàn)-2023年上半年
• 第二階段：2023年下半年-今年年中
• 第三階段：今年年中-現(xiàn)在

第一階段，是最為轟轟烈烈的百模大戰(zhàn)時期。

這是一個屬于探索和學(xué)習(xí)的階段，接觸大模型的人/團(tuán)隊(duì)，都在找卡、囤積算力，爭相采購GPU/AI芯片，下場嘗試研究和訓(xùn)練模型，這時候企業(yè)的需求大部分還是模型調(diào)用和精調(diào)。

謝廣軍打了個比方：那時候，最重要的事情就是跑馬圈地。

也就是對標(biāo)OpenAI、Anthropic等搶跑，通過迅速擴(kuò)張或搶占資源來確立自己的優(yōu)勢地位。

大伙兒秀肌肉，最主要的目的是向外界證明我們也能訓(xùn)練出大模型的可行性。

第二階段，重點(diǎn)轉(zhuǎn)向?qū)?yīng)用場景的探索。

很多企業(yè)和開發(fā)者，不再滿足于將AI大模型視為一個獨(dú)立的工具，而是將其視為一種全新的生產(chǎn)力工具。

也是因?yàn)殡S著模型能力的初步具備，企業(yè)開始探索在業(yè)務(wù)系統(tǒng)當(dāng)中怎么把大模型應(yīng)用起來，改造現(xiàn)有的系統(tǒng)或者創(chuàng)造全新的應(yīng)用，從而提升業(yè)務(wù)效率和價值。

這一時期，智能問答、智能寫作等智能助手類應(yīng)用如雨后春筍般涌現(xiàn)。

但謝廣軍指出，真正在生產(chǎn)中使用并創(chuàng)造價值的應(yīng)用仍然屈指可數(shù)。

從今年5月開始，百模大戰(zhàn)演化成價格激戰(zhàn)——降價，激發(fā)了企業(yè)對大模型的調(diào)用量，促進(jìn)一批場景的探索，一定程度上加速了大模型落地。

第三階段，也就是現(xiàn)在，大模型應(yīng)用進(jìn)入了深入場景和深度融合應(yīng)用的階段。

如今，隨著模型效果的提升和價格的下降，真正的落地應(yīng)用終于出現(xiàn)了。

謝廣軍舉例表示，教育領(lǐng)域、制造行業(yè)、金融行業(yè)、醫(yī)療領(lǐng)域，大模型帶來的智能系統(tǒng)都在各司其職。

與此同時，大模型開始與傳統(tǒng)軟件深度融合，重塑生產(chǎn)力工具。

特別明顯的，企業(yè)不再滿足于智能助手等單一形態(tài)的應(yīng)用，而是將大模型賦能于進(jìn)銷存系統(tǒng)、ERP系統(tǒng)等傳統(tǒng)應(yīng)用，推動業(yè)務(wù)創(chuàng)新和效率提升。

總而言之，如果把第一階段的標(biāo)識是百模大戰(zhàn)，第二階段的代表是價格戰(zhàn)，那么，第三階段的典型則可以歸于“應(yīng)用平臺工具”身上。

這也是為什么百度千帆大模型平臺一直不停升級的原因。

從模型訓(xùn)練到全棧開發(fā)，戰(zhàn)場來到工具平臺

謝廣軍回顧了過去一年半的時間里，百度千帆大模型平臺順應(yīng)階段性變化，都有哪些進(jìn)展。

第一階段的百模大戰(zhàn)時期，也是B端使用模型的嘗鮮期。

百度智能云推出了千帆大模型平臺1.0，其中包括模型微調(diào)的工具鏈和大模型調(diào)用接口，模型調(diào)用開始起量。

第二階段，千帆進(jìn)化為2.0版本，“應(yīng)用開發(fā)”來到臺前。

除了支持模型服務(wù)和開發(fā)，千帆2.0主要增加了AppBuilder這樣的AI原生應(yīng)用開發(fā)平臺，支撐RAG、Agent應(yīng)用開發(fā)的各種需求。

進(jìn)入今年，為了更系統(tǒng)地支持企業(yè)客戶在應(yīng)用開發(fā)、模型推理、模型開發(fā)等層面的大量且復(fù)雜的需求，千帆2.0持續(xù)演進(jìn)，不斷迭代。

不過，雖然第二階段的千帆已經(jīng)開始在企業(yè)級生產(chǎn)力場景里落地出力了，但謝廣軍分享了自己的觀點(diǎn)：

隨著模型技術(shù)進(jìn)展、應(yīng)用深入，實(shí)際場景當(dāng)中只有大模型也不夠，今天講模型多模態(tài)，其實(shí)還是通過大模型與視覺、語音等垂直場景模型協(xié)同。

其次，企業(yè)級RAG和企業(yè)級Agent是未來大模型產(chǎn)業(yè)落地的主要形態(tài)。

為了適應(yīng)日漸加深的深度，適應(yīng)企業(yè)生產(chǎn)力的各種需求逐步演化，于是，千帆大模型平臺3.0應(yīng)運(yùn)而生。

全面從模型訓(xùn)練轉(zhuǎn)向全棧開發(fā)，開啟第三階段的故事。

千帆大模型平臺3.0是面向生產(chǎn)力場景的企業(yè)級的一體化服務(wù)平臺，主要為企業(yè)提供生成式AI生產(chǎn)以及應(yīng)用全流程開發(fā)工具鏈。

在以下三個層面，均有全面升級：

? 模型開發(fā)層

? 模型服務(wù)層

? 應(yīng)用開發(fā)層

模型開發(fā)層

謝廣軍談到，千帆3.0的模型開發(fā)層提供最全面的工具鏈。

旗艦?zāi)Ｐ虴RNIE 3.5、ERNIE 4.0 Turbo還首次開放SFT，可預(yù)置獨(dú)家高質(zhì)量混合語料。

原因無外乎兩點(diǎn)。

一來實(shí)際業(yè)務(wù)反饋，不管從質(zhì)量還是數(shù)量來看，企業(yè)自有數(shù)據(jù)都還有提升空間。預(yù)置獨(dú)家高質(zhì)量混合語料供企業(yè)用戶在平臺上擴(kuò)充，可以增強(qiáng)模型最終效果。

二來，垂直領(lǐng)域模型后訓(xùn)練時混入通用語料，能進(jìn)一步緩解通用能力遺忘這個問題。

模型服務(wù)層

千帆3.0的模型服務(wù)層提供豐富的模型。

主要包括百度自研的文心系列，以及新增語音系列能力模型和視覺系列模型。

自研模型中，包含了最新模型ERNIE 4.0 Turbo、ERNIE Speed Pro、ERNIE Lite Pro；主力模型ERNIE Speed、ERNIE Lite依舊免費(fèi)；垂直場景大模型新增了ERNIE Novel等。

除大語言模型外，考慮到傳統(tǒng)語音、視覺模型在實(shí)際落地時仍有需求，大模型與垂類場景模型的協(xié)同混用很常見，因此，模型服務(wù)層也包括傳統(tǒng)模型在內(nèi)。

謝廣軍用一張圖展示了千帆3.0模型服務(wù)層可提供使用的大模型：

應(yīng)用開發(fā)層

應(yīng)用開發(fā)層提供的，則是企業(yè)級RAG和企業(yè)級Agent的開發(fā)工具千帆AppBuilder和端到端應(yīng)用開發(fā)工具AI速搭。

謝廣軍分享了一個數(shù)據(jù)：截至目前，千帆大模型平臺已經(jīng)幫助用戶開發(fā)了超過了70萬個應(yīng)用。

千帆大模型平臺3.0提供的是企業(yè)級RAG和企業(yè)級Agent的開發(fā)工具。

針對企業(yè)落地大模型的高頻應(yīng)用場景，千帆3.0從檢索效果、檢索性能、存儲擴(kuò)展、調(diào)配靈活性四方面對企業(yè)級檢索增強(qiáng)生成（RAG）進(jìn)行了全面升級；

針對企業(yè)級Agent的開發(fā)，千帆3.0增加了業(yè)務(wù)自主編排、人工編排、知識注入、記憶能力以及百度搜索等80多個官方組件支持。

AI速搭則可以端到端地開發(fā)應(yīng)用，通過一句話或者通過PRD，就能一步一步生成包括表單、數(shù)據(jù)、流程的生成端到端應(yīng)用，還可以基于低代碼GUI方式對生成的應(yīng)用修改和完善。

借助生態(tài)共同成長

大模型的落地，除了基座大模型能力的提升，本身還是非常重視在行業(yè)場景當(dāng)中的能力增強(qiáng)和應(yīng)用，謝廣軍稱之為“深入場景”。

今天，百度智能云千帆大模型平臺，在千行百業(yè)中細(xì)分場景，然后不斷提升場景中的模型能力、數(shù)據(jù)能力以及應(yīng)用能力。

與此同時，千帆還推出了一系列應(yīng)用樣板間，讓用戶學(xué)會模型精調(diào)樣板間，以及如何給大模型輸入模板。

通過這樣的方式，用戶入門門檻被不斷降低，大模型在若干行業(yè)場景的積累愈發(fā)深厚，推廣滲透也更加深入。

經(jīng)過一年多的探索，今天有很多的用戶需求已經(jīng)成熟了。

“擁抱大模型”已經(jīng)不是企業(yè)的第一要務(wù)，把大模型在業(yè)務(wù)流程中跑起來，能把大模型用好，在業(yè)務(wù)中產(chǎn)生價值，才是有真本事。

大模型的效果、數(shù)據(jù)的合理使用、應(yīng)用的構(gòu)建方法等，是現(xiàn)在企業(yè)結(jié)合大模型時關(guān)注的焦點(diǎn)。

“現(xiàn)在是很好的時機(jī)。”謝廣軍說，用戶也會挑選業(yè)界領(lǐng)先的伙伴合作，借助生態(tài)共同成長。

隨著應(yīng)用本身的深入落地，平臺會越來越多，機(jī)會也越來越廣。

再加上用戶側(cè)的需求更加清晰、更加務(wù)實(shí)，平臺能夠精準(zhǔn)地持續(xù)完善相關(guān)功能，讓大模型真正在業(yè)務(wù)場景中深入落地。

也就是說，企業(yè)真的準(zhǔn)備好迎接和運(yùn)用大模型應(yīng)用的蓬勃生態(tài)。

而當(dāng)企業(yè)對大模型的判斷和需求更加成熟時，大模型廠商又迎來了新的機(jī)會。

在這樣的新趨勢下，謝廣軍也簡明勾勒了大模型產(chǎn)業(yè)落地的未來線條。

首先，隨著技術(shù)的迭代，模型推理成本的降低，大模型的價格會持續(xù)下降。在這次2024百度云智大會上，也公布了一個數(shù)據(jù)：過去一年，文心大模型旗艦?zāi)Ｐ屠塾嫿祪r超過90%。

持續(xù)的降本能給客戶產(chǎn)生持續(xù)的收益，促使更多企業(yè)用得起、用得好。

當(dāng)然了，當(dāng)模型廠商還沒有達(dá)到技術(shù)迭代升級的情況下，純粹在資本推動下掏腰包做補(bǔ)貼，低價必然不是長久之計。

其次，雖然不管新模型還是老模型的價格曲線都會下落，但“價格下降”不是制勝一擊。

研究更好的推理架構(gòu)，用低算力推理達(dá)到更好的模型效果，是值得長期重視的關(guān)鍵。

效果不行，再便宜也用不起來。

最后，卷價格、卷效果，最終都會回歸于各個廠商對自身成本的優(yōu)化與控制。

相同效果下，模型廠商不斷升級工程能力，降低自身成本，才能給出更實(shí)惠的模型使用價格，才能讓更大眾的場景把大模型用起來。

從千帆大模型平臺3.0身上，我們可以看到百度對大模型產(chǎn)業(yè)落地整體趨勢判斷的縮影——

從最初的提供大模型調(diào)用和精調(diào)服務(wù)，到如今面向生產(chǎn)力場景的企業(yè)級一體化服務(wù)平臺，不變的是始終與一線需求共同迭代。

隨著大模型真正的落地與融入業(yè)務(wù)流程，屬于工具平臺的戰(zhàn)事即將打響。率先迎接機(jī)遇和挑戰(zhàn)的千帆3.0，會是這個戰(zhàn)場上最耀眼的一員。