百度智能云曬大模型落地成績單：5個第一！

明敏 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

中國大模型平臺市場第一！

大模型應(yīng)用落地元年，百度最新成績單出爐——

• 中國大模型市場份額第一
• 中國大模型產(chǎn)品布局第一
• 中國大模型產(chǎn)業(yè)落地規(guī)模第一
• 上半年中標數(shù)量/金額/行業(yè)覆蓋數(shù)/央國企項目數(shù)第一
• 文心大模型日調(diào)用量超7億
• 千帆平臺上精調(diào)模型超3萬，開發(fā)應(yīng)用超70萬

剛剛召開的百度云智大會上，百度智能云一邊秀市場成績，一邊還拉來三星、南方電網(wǎng)這樣的行業(yè)大客戶，現(xiàn)場秀落地效果。

此番動作并不稀奇。9月份云廠商們熱火朝天密集發(fā)布，不同于去年的秀模型、秀算法，今年大家更愿意聊應(yīng)用、聊行業(yè)價值。

大模型趨勢，很快到了拿實績說話的階段。

為何百度智能云能成為“標王”？從最新發(fā)布看起。

從底層計算到上層應(yīng)用，五大產(chǎn)品全升級

今年百度云智大會一共帶來5款A(yù)I產(chǎn)品升級，分別是：

• 底層基礎(chǔ)設(shè)施：百舸4.0發(fā)布。
• 中間模型和開發(fā)工具層：千帆大模型平臺3.0發(fā)布。
• 上層開箱即用AI應(yīng)用：客悅、曦靈、文心快碼。

它們共同構(gòu)成企業(yè)大模型產(chǎn)業(yè)落地的全棧能力，也能分別滿足企業(yè)應(yīng)用大模型的不同需求。

首先來看大模型應(yīng)用落地最不可或缺的底層算力基礎(chǔ)設(shè)施。百舸·AI異構(gòu)計算平臺正式發(fā)布4.0版本。

它以混合多芯技術(shù)為基礎(chǔ)，由下至上分為資源層、組件層、加速層和工具層，為企業(yè)提供大模型訓(xùn)推一體服務(wù)。

此次發(fā)布，百舸4.0在集群創(chuàng)建、開發(fā)實驗、模型訓(xùn)練、模型推理等方面均進行升級，覆蓋企業(yè)使用大模型的全流程，在諸多企業(yè)用戶重點關(guān)心的指標上帶來大幅提升。

具體升級內(nèi)容可參考：

其次來看大模型平臺千帆，它主要為企業(yè)提供生成式AI生產(chǎn)以及應(yīng)用全流程開發(fā)工具鏈。

千帆大模型平臺3.0在應(yīng)用開發(fā)層、模型服務(wù)層和模型開發(fā)層全面升級。

應(yīng)用開發(fā)層，千帆大模型平臺3.0全面支持企業(yè)級RAG和企業(yè)級Agent開發(fā)，同時發(fā)布了端到端應(yīng)用開發(fā)工具AI速搭。

企業(yè)級RAG支持不限容量知識庫存儲，速度上能達到1.5秒內(nèi)返回結(jié)果。RAG全部環(huán)節(jié)包括解析、切片、向量化、召回、排序等，都可調(diào)可控。企業(yè)可以靈活配置出適合自己業(yè)務(wù)的方案。

澎湃新聞基于千帆企業(yè)級RAG，能夠快速從龐大媒資庫中準確檢索內(nèi)容?？梢院芎帽苊獯竽Ｐ突糜X問題，能夠讓企業(yè)放心使用大模型在自身生產(chǎn)環(huán)境中檢索、回答的結(jié)果。

企業(yè)級Agent是另一種常見大模型落地方式。它能讓大模型進行自主思考和任務(wù)拆解，并調(diào)用工具去全流程自動完成任務(wù)。

企業(yè)級Agent支持文心系列以及百度各種垂類模型，并進一步提供百度搜索、百度地圖等官方組件支持，另外也支持長短期記憶能力，讓Agent可以記住和用戶的對話內(nèi)容。

比如讓Agent制定一個國慶節(jié)去山西旅行3天的計劃路線，要參考《黑神話：悟空》中涉及的山西經(jīng)典，且希望住在品質(zhì)好、性價比高的酒店，好評優(yōu)先、500元以內(nèi)，而且想要規(guī)劃自駕路線。

可以看到Agent能在不同APP之間跳轉(zhuǎn)操作，像人一樣在做任務(wù)的分解、規(guī)劃和執(zhí)行。

AI速搭則支持一句話搭建應(yīng)用。通過聊天或者上傳PRD的方式來生成應(yīng)用，可以零代碼方式生成資產(chǎn)管理、CRM等企業(yè)級應(yīng)用。

過去幾個人幾天才能搞定的應(yīng)用開發(fā)，現(xiàn)在通過對話方式，以分鐘級速度就能完成。不懂開發(fā)的業(yè)務(wù)人員也能輕松上手。

而且還能以自然語言對話方式修改需求、增減模塊。

目前通過千帆大模型平臺開發(fā)的的應(yīng)用數(shù)量已經(jīng)超過70萬。

好用的應(yīng)用開發(fā)需要好用的模型提供基礎(chǔ)能力。

千帆模型服務(wù)層提供豐富大模型，覆蓋大語言模型和傳統(tǒng)模型。

因為在實際落地中，傳統(tǒng)NLP、CV模型仍舊有很多市場需求，大小模型混用的模式很常見。

所以千帆大模型平臺3.0進一步豐富了可使用模型。主要包括百度自研的文心系列，以及新增語音系列能力模型和視覺系列模型。

千帆大模型平臺3.0可提供模型如下：

模型開發(fā)層提供最全面的工具鏈。

包括DPO、KTO等模型訓(xùn)練算法和PTQ等模型量化算法，能夠高效支持超大規(guī)模模型微調(diào)和定制。

還支持CV、NLP、語音等傳統(tǒng)模型開發(fā)，實現(xiàn)數(shù)據(jù)、模型、算力資源的統(tǒng)一納管和調(diào)度，為企業(yè)提供一站式的大小模型開發(fā)體驗。

最后來看AI應(yīng)用層。

云智大會主要帶來了3款A(yù)I應(yīng)用產(chǎn)品更新。

• 客悅：國內(nèi)首款大模型重構(gòu)的智能客服產(chǎn)品。
• 曦靈：國內(nèi)首個大模型全面重構(gòu)數(shù)字人平臺。
• 文心快碼：智能代碼助手。

客悅此次升級了多模態(tài)交互能力、多語言能力和端到端洞察能力。僅需3步就能建立一個智能客服。

支持視頻、音頻、圖文輸入的多模態(tài)交互客服體驗，可以讓一些難以描述的問題更容易被解決，比如用戶可以拍下儀表盤照片直接詢問。同時支持中英文文檔問答。

引入的大模型客服洞察Agent可以分析用戶反饋用戶對話過程，通過意圖理解、關(guān)鍵信息抽取、情感抽取等，可以進一步幫助企業(yè)了解客戶，如寶馬領(lǐng)悅、通用中國等都已用上這一能力。

曦靈4.0在能力提升的同時成本進一步下降。

它現(xiàn)在支持小時級生成2D人像超擬人數(shù)字人、一句話生成3D數(shù)字人（10分鐘）、替代真人視頻播報、實時交互對話、直播等能力。

同時2D、3D數(shù)字人的應(yīng)用成本進一步下降。只需199元，即可定制3D超寫實數(shù)字人，價格從萬元級別直接降到百元級別。

同時還提供開放的數(shù)字人組件平臺，AppBuilder可接入，支持輕量級SDK和標準化接口助力快速集成。

現(xiàn)在，通過小程序，人人都能構(gòu)建自己的數(shù)字人。

文心快碼（智能代碼助手）集成大模型技術(shù)，可以提供實時推薦、代碼生成、代碼審查、優(yōu)化代碼等能力。

此次發(fā)布了企業(yè)級代碼架構(gòu)解釋、企業(yè)級代碼審查能力和企業(yè)級代碼輔助能力。

其中，企業(yè)級代碼架構(gòu)解釋能讓大模型快速解讀代碼庫，梳理整個業(yè)務(wù)邏輯以及工程架構(gòu)。程序員接手項目后就不用再逐行看代碼，可以更快速清晰建立理解。

企業(yè)級代碼審查能力解決了傳統(tǒng)code review的問題。大模型參照以往企業(yè)私有代碼和知識，可以直接替代人類審查代碼內(nèi)容，提高整個代碼研發(fā)的效率和規(guī)范程度。

企業(yè)級輔助代碼則能基于以往私有代碼和知識庫，能讓AI編程更貼近于企業(yè)自身業(yè)務(wù)場景。

它能通過快速學習企業(yè)過往代碼與規(guī)范，使生成的代碼更符合企業(yè)要求。目前，文心快碼已經(jīng)服務(wù)超過1萬家企業(yè)客戶，幫助數(shù)百萬中國開發(fā)者提升編碼效率，整體提升研發(fā)效率20%。

總結(jié)來看，百度智能云這波大升級，方方面面都是以企業(yè)實際落地需求為核心，覆蓋底層基礎(chǔ)設(shè)施、模型能力及工具、上層AI應(yīng)用全棧技術(shù)能力。

為啥如此旗幟鮮明all in“落地戰(zhàn)”？

因為大模型應(yīng)用到了全面爆發(fā)的時刻。

拿下蔚來、三星、半數(shù)央國企

在此前的活動中，百度副總裁謝廣軍曾將大模型應(yīng)用趨勢劃分為三個階段。

第一階段是ChatGPT剛剛誕生后，第一批想要接觸大模型的企業(yè)開始囤積算力、嘗試訓(xùn)練模型，帶火了整個行業(yè)的算力需求。

第二階段是從去年下半年到今年年中，開發(fā)者們開始在基座大模型上探索AI原生應(yīng)用開發(fā)，開始探索生成式AI可以落地應(yīng)用于哪些場景。這個過程中，大模型的滲透率非常高，“甚至比過去10年里AI在生產(chǎn)生活中的滲透都要廣泛”。

到了今年年中，終于一些大模型應(yīng)用跑了出來，能真正實際落地產(chǎn)生價值，由此也就到了第三階段。

這三階段的劃分，可以基于千帆平臺上文心系列模型的API調(diào)用量增長趨勢作為參考。最新數(shù)據(jù)顯示，百度文心大模型日均調(diào)用量超過7億次，半年增長超10倍；在千帆平臺上精調(diào)模型數(shù)量已超過3萬個。

進一步參考行業(yè)數(shù)據(jù)，2024年上半年，大模型領(lǐng)域可統(tǒng)計到的中標金額約為9.38億元，已經(jīng)遠超2023年全年大模型中標項目披露金額7.89億元，行業(yè)增速非常明顯。

其中，百度在主流大模型廠商中一舉拿下三項第一：最多中標項目數(shù)量（17個）、覆蓋最多行業(yè)（6個）、中標金額總數(shù)最高（9297萬）。超半數(shù)央國企都在使用百度智能云進行AI創(chuàng)新應(yīng)用落地。

對外披露客戶中，不乏一些對大眾日常生活都產(chǎn)生深遠影響的廠商與企業(yè)。

比如三星Galaxy S24系列手機就深度集成了文心大模型，可以提供“即圈即搜”、一鍵總結(jié)長文、端側(cè)AI實時語音轉(zhuǎn)錄等AI功能。

“即圈即搜”是三星Galaxy S24系列首創(chuàng)的AI能力，只需在屏幕上圈出/劃出圖像內(nèi)容，即可聯(lián)網(wǎng)進行搜索。

要知道，AI手機是當下領(lǐng)域內(nèi)公認的趨勢，也是將AI切實引入大眾生活的重要載體。大模型對操作系統(tǒng)的影響，也將帶來移動應(yīng)用的二次爆發(fā)。IDC預(yù)計，2024年中國市場上搭載AI功能終端設(shè)備將超70%，AI終端占比將達55%。

智能汽車行業(yè)更是與AI具有與生俱來的聯(lián)系。AI助手是智駕座艙內(nèi)最流行的新趨勢之一，也成為廣大車主感受大模型趨勢的重要媒介。

比如蔚來就基于千帆大模型平臺，在文心大模型基礎(chǔ)通過提示詞工程打造了NOMI GPT。

它能提供更懂用戶、更聰明、更萬能的AI小助手體驗。目前NOMI已經(jīng)陪伴近20萬車友家庭。

目前，百度智能云已在政務(wù)/智慧城市、交通、能源、制造、汽車、金融、泛科技、教育領(lǐng)域探索大模型應(yīng)用落地場景。

那么問題來了——

為何是百度？

拿下多個行業(yè)第一，百度憑什么。

其一，AI是百度的基因與內(nèi)核。過去十余年在底層技術(shù)上研發(fā)積累，為百度模型自研、模型開發(fā)能力對外輸出以及自身大模型應(yīng)用落地提供堅實基礎(chǔ)。

由此，百度逐漸構(gòu)建了AI全棧能力，從底層計算平臺到上層應(yīng)用落地。尤其是大模型趨勢到來后，百度快速針對趨勢推出了面向行業(yè)的大模型平臺和一系列行業(yè)產(chǎn)品，在大模型產(chǎn)品布局上處于國內(nèi)第一。

其二，百度多年的AI落地經(jīng)驗和自身應(yīng)用構(gòu)建經(jīng)驗，也為大模型能力輸出提供可靠參考。

最直接的例子就是千帆大模型平臺對外提供豐富工具鏈，這些都是百度大模型開發(fā)經(jīng)驗的對外輸出。百度副總裁謝廣軍也提到，他們希望企業(yè)用戶能在千帆大模型平臺上形成自己的數(shù)據(jù)飛輪，因為百度自身諸多業(yè)務(wù)就是這樣運作的。

以及最新動向中，百度察覺到大模型趨勢激發(fā)千行百業(yè)擁抱AI的熱情，但并不是完全舍棄傳統(tǒng)AI。還有諸多企業(yè)存在大小模型混用、傳統(tǒng)NLP/CV模型的需求，因此在千帆大模型平臺3.0上進一步豐富這方面能力。

其三，百度智能云的百舸構(gòu)建的異構(gòu)算力體系，可以為行業(yè)提供更多元的算力選擇。

尤其在大模型價格戰(zhàn)的趨勢下，“高效”、“充分”的底層算力，也能讓百度進一步對外提供更具性價比的模型算力服務(wù)。

如上方方面面，共同構(gòu)成了百度智能云的“多個第一”。

百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖在云智大會上表示，過去的一年，是大模型從技術(shù)變革走向產(chǎn)業(yè)變革的關(guān)鍵一年。

大模型重構(gòu)一切，為每個企業(yè)提供平等的增長機會。

人類歷史上又一次生產(chǎn)力躍遷，正在加速發(fā)生。

正如蒸汽機之于第一次工業(yè)革命、發(fā)電廠之于第二次工業(yè)革命，計算機之于第三次工業(yè)革命，云計算基礎(chǔ)設(shè)施是眼下第四次工業(yè)革命的“底層基建”。

與此前有所不同的是，智能時代下的基礎(chǔ)設(shè)施，硬件設(shè)備只是重要構(gòu)成之一，建立在算力之上的模型、工具鏈與應(yīng)用開發(fā)工具，更是開掘智能時代“礦產(chǎn)”的重要工具。云智大會上，百度的最新亮相，正是這一邏輯的具體展開。

隨著大模型更大規(guī)模應(yīng)用落地趨勢開啟，智能時代底層基建的建設(shè)與發(fā)展也將進入新一輪加速期。

在這之中，百度智能云作為主力選手，已然做好全面準備了。