博鰲熱議AI大模型，人民網(wǎng)報(bào)告梳理產(chǎn)業(yè)機(jī)遇：端云結(jié)合/芯片/開(kāi)源

明敏 2024-04-01 08:37:00 來(lái)源：量子位

明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

中國(guó)大模型產(chǎn)業(yè)該怎么看？

最新權(quán)威參考來(lái)了。

博鰲亞洲論壇2024年年會(huì)期間，人民網(wǎng)正式發(fā)布《2024年中國(guó)AI大模型產(chǎn)業(yè)發(fā)展報(bào)告》。

報(bào)告系統(tǒng)性分析了AI大模型產(chǎn)業(yè)發(fā)展背景、現(xiàn)狀、典型案例、挑戰(zhàn)以及未來(lái)趨勢(shì)。旨在給政府部門(mén)、行業(yè)從業(yè)者、社會(huì)公眾提供價(jià)值參考。

大模型熱潮中，關(guān)于技術(shù)解讀分析的報(bào)告不少，但是由人民網(wǎng)主導(dǎo)發(fā)布的不多。而且還選在博鰲這樣的重要時(shí)間節(jié)點(diǎn)上發(fā)布，足見(jiàn)其意義非凡。

更深層傳遞出的信息是，大模型產(chǎn)業(yè)發(fā)展轟轟烈烈，轉(zhuǎn)瞬即逝的機(jī)會(huì)點(diǎn)會(huì)出現(xiàn)在哪里？

報(bào)告給出了初步判斷。

AI大模型產(chǎn)業(yè)當(dāng)下如何？

報(bào)告重點(diǎn)關(guān)注了AI大模型的當(dāng)下與未來(lái)。

當(dāng)下階段，一方面，在大眾、廠(chǎng)商、政府等共同推動(dòng)下，過(guò)去一年多時(shí)間里，大模型產(chǎn)業(yè)發(fā)展突飛猛進(jìn)。

聚焦到中國(guó)市場(chǎng)，推動(dòng)產(chǎn)業(yè)發(fā)展主要有三大驅(qū)動(dòng)力：

• 政策驅(qū)動(dòng)力
• 技術(shù)驅(qū)動(dòng)力
• 市場(chǎng)驅(qū)動(dòng)力

其中，語(yǔ)言大模型技術(shù)演進(jìn)給產(chǎn)業(yè)帶來(lái)本源動(dòng)力。經(jīng)典Transformer架構(gòu)是技術(shù)趨勢(shì)最核心主干，基于人類(lèi)反饋強(qiáng)化學(xué)習(xí)（RLHF）、指令微調(diào)、模型提示等重點(diǎn)技術(shù)，進(jìn)一步提升語(yǔ)言大模型能力。

市場(chǎng)驅(qū)動(dòng)力以實(shí)際存在的廣泛需求為主，報(bào)告重點(diǎn)提到了辦公、制造、金融、醫(yī)療、政務(wù)等場(chǎng)景。大模型能帶來(lái)的影響主要體現(xiàn)在降本增效、生產(chǎn)自動(dòng)化、降低風(fēng)險(xiǎn)、提高診斷準(zhǔn)確率、提高政務(wù)服務(wù)效率等。

政策方面，從去年年初大模型趨勢(shì)發(fā)生以來(lái)，北京、深圳、杭州、成都、福建、安徽、上海、廣東等地均發(fā)布了關(guān)于A(yíng)I大模型的相關(guān)政策，加快各地產(chǎn)業(yè)持續(xù)發(fā)展。

在多方因素影響下，“百模大戰(zhàn)”一觸即發(fā)，并將“戰(zhàn)火”延續(xù)至今。

按照部署方式劃分，已發(fā)布模型可分為云端大模型和端側(cè)大模型。云端大模型可進(jìn)一步分為通用大模型和行業(yè)大模型，端側(cè)大模型主要分為手機(jī)大模型和PC大模型。

目前，每一個(gè)分類(lèi)中都涌現(xiàn)出了代表玩家和代表案例。深入落地場(chǎng)景包括金融、醫(yī)療、政務(wù)等。

可以看到，通用大模型代表玩家主要是互聯(lián)網(wǎng)大廠(chǎng)、初創(chuàng)企業(yè)；行業(yè)大模型代表玩家以具備專(zhuān)業(yè)數(shù)據(jù)、行業(yè)知識(shí)壁壘的場(chǎng)景玩家為主；端云協(xié)同大模型代表廠(chǎng)商則是終端廠(chǎng)家。

值得一提的是，端云協(xié)同是大模型部署方面熱議的方向，也是公認(rèn)的未來(lái)趨勢(shì)，當(dāng)下正搶先在手機(jī)行業(yè)落地應(yīng)用。

報(bào)告中以vivo藍(lán)心大模型為例，展開(kāi)介紹端云結(jié)合大模型的特點(diǎn)。

vivo藍(lán)心大模型是行業(yè)首個(gè)在手機(jī)端運(yùn)行的開(kāi)源自研大模型，包含十億、百億、千億三個(gè)參數(shù)數(shù)量級(jí)，共5款自研大模型（10億、70億、700億、1300億和1750）。

通過(guò)不同參數(shù)量級(jí)、多種部署方式，矩陣化大模型能夠在帶來(lái)AIGC功能同時(shí)，實(shí)現(xiàn)低時(shí)延推理、低內(nèi)存占用。

1B和7B的端側(cè)模型，出詞更快、內(nèi)存占用小、安全性高、無(wú)網(wǎng)弱網(wǎng)條件都能使用。同時(shí)模型具備扎實(shí)底座，可實(shí)現(xiàn)精準(zhǔn)的指令跟隨，保持正確的價(jià)值觀(guān)取向。

70B模型是面向云端服務(wù)的主力，主要針對(duì)角色扮演、知識(shí)問(wèn)答等場(chǎng)景，能兼顧成本和性能。130B和175B兩款千億參數(shù)模型專(zhuān)門(mén)針對(duì)復(fù)雜任務(wù)。

而作為內(nèi)嵌于手機(jī)內(nèi)、和廣大手機(jī)用戶(hù)直接交互的大模型，藍(lán)心大模型在底層算法上還強(qiáng)調(diào)了3方面：基礎(chǔ)能力、指令跟隨和價(jià)值觀(guān)取向。

預(yù)訓(xùn)練階段，vivo在Transformer架構(gòu)上改良了注意力機(jī)制、位置編碼等模塊，采用混合精度訓(xùn)練以及梯度縮放策略縮短訓(xùn)練周期。采用“target only loss”方法，通過(guò)聚類(lèi)分析對(duì)指令進(jìn)行適應(yīng)性處理，能實(shí)現(xiàn)更精準(zhǔn)、均衡的指令跟隨。

并且專(zhuān)門(mén)建立了300人規(guī)模的專(zhuān)業(yè)審核團(tuán)隊(duì)，制定200余項(xiàng)安全審查機(jī)制，對(duì)模型輸出進(jìn)行篩查和標(biāo)注，確保模型價(jià)值觀(guān)正確。離線(xiàn)采樣策略和雙重獎(jiǎng)勵(lì)模型等策略，還進(jìn)一步提升了模型的安全性。

由此，端云結(jié)合大模型能直接以手機(jī)為載體，在設(shè)備上提供離線(xiàn)/在線(xiàn)AIGC功能。

vivo大模型已經(jīng)支持了兩款應(yīng)用：

藍(lán)心小V是vivo OriginOS 4上搭載的一款全局智能輔助功能，可提供超能語(yǔ)義搜索（利用自然語(yǔ)言搜索手機(jī)照片文檔日程等）、超能問(wèn)答（快速總結(jié)文檔、基于文檔回答問(wèn)題）、AI路人消除、智能識(shí)屏等能力。

藍(lán)心千詢(xún)則是一個(gè)AI私人小幫手APP。它無(wú)需付費(fèi)，支持AI對(duì)話(huà)和AI靈感兩大能力，帶來(lái)更多生產(chǎn)力功能，如PPT大綱生成、文案創(chuàng)作等。

以上是過(guò)去一年里，大模型產(chǎn)業(yè)落地取得的成績(jī)。

但從另一面來(lái)看，隨著趨勢(shì)演進(jìn)，大模型產(chǎn)業(yè)落地也浮現(xiàn)出更多復(fù)雜問(wèn)題。

報(bào)告關(guān)注了四方面問(wèn)題：

• 算力短缺
• 主流架構(gòu)存在局限
• 高質(zhì)量訓(xùn)練集需要擴(kuò)展
• 爆款應(yīng)用尚未出現(xiàn)

首先，最具代表性的問(wèn)題體現(xiàn)在算力方面。

大模型規(guī)模呈指數(shù)級(jí)增長(zhǎng)，其訓(xùn)練速度、產(chǎn)出質(zhì)量都和算力直接相關(guān)。一萬(wàn)塊英偉達(dá)A100，是公認(rèn)的AI大模型算力門(mén)檻。但國(guó)內(nèi)能擁有萬(wàn)卡規(guī)模的企業(yè)少之又少，相反缺卡才是絕大多數(shù)玩家的現(xiàn)狀。哪怕是閹割版的英偉達(dá)A800，也出現(xiàn)了嚴(yán)重缺貨和溢價(jià)的情況。

我國(guó)本土高性能芯片雖在奮力追趕，但與國(guó)際領(lǐng)先水平仍存在較大差距。

其次在架構(gòu)上，主流Transformer本身對(duì)算力資源消耗就很大，目前提升模型智能化水平主要靠擴(kuò)大參數(shù)規(guī)模，動(dòng)輒千億參數(shù)規(guī)模意味著消耗巨量的算力資源。而且Transformer架構(gòu)的大模型對(duì)存儲(chǔ)設(shè)備要求也更高，如1000億個(gè)參數(shù)的Transformer模型，存儲(chǔ)這些參數(shù)就需要400GB的空間。

并且國(guó)內(nèi)的AI大模型數(shù)據(jù)存在質(zhì)量不高、體量嚴(yán)重不足、缺乏數(shù)據(jù)源調(diào)用等問(wèn)題。行業(yè)需要構(gòu)建高質(zhì)量訓(xùn)練數(shù)據(jù)集。

如悟道語(yǔ)料庫(kù)，其包括文本、圖文和對(duì)話(huà)數(shù)據(jù)集，最大的僅5TB，其中開(kāi)源的文本部分僅為200GB。作為對(duì)比，GPT-3的訓(xùn)練數(shù)據(jù)達(dá)到45TB。訓(xùn)練數(shù)據(jù)來(lái)源主要來(lái)自互聯(lián)網(wǎng)、電商、社交、搜索等渠道，存在數(shù)據(jù)類(lèi)型不全面、信息可信度不高等問(wèn)題。以及可供大模型訓(xùn)練的有效數(shù)據(jù)源呈現(xiàn)碎片化分散狀態(tài)，導(dǎo)致大模型聯(lián)網(wǎng)無(wú)法直接調(diào)用的情況（如微信公眾號(hào)文章僅在搜狗引擎支持調(diào)用）。

最后，國(guó)內(nèi)大模型領(lǐng)域仍未出現(xiàn)爆款應(yīng)用。

報(bào)告提出，相比于ChatGPT而言，國(guó)內(nèi)爆款大模型應(yīng)用打造還任重道遠(yuǎn)，主要原因在于尚未找到商業(yè)化思路，缺乏滿(mǎn)足客戶(hù)需求的個(gè)性化應(yīng)用。

我國(guó)大模型產(chǎn)業(yè)要推出爆款級(jí)應(yīng)用，勢(shì)必要在應(yīng)用領(lǐng)域做深做細(xì)，讓每一個(gè)用戶(hù)都可以充分享受到大模型所帶來(lái)的的真正便利。

大模型產(chǎn)業(yè)通往何處去？

相比于當(dāng)前，更為關(guān)鍵的是大模型產(chǎn)業(yè)發(fā)展下一步該怎么走。

尤其是對(duì)于中國(guó)大模型領(lǐng)域，產(chǎn)業(yè)該如何最大化發(fā)揮自身優(yōu)勢(shì)？需要把握住哪些命脈？這關(guān)乎中國(guó)AI在全球格局下的站位。

報(bào)告認(rèn)為，目前我國(guó)大模型產(chǎn)業(yè)可以從四個(gè)方向洞見(jiàn)未來(lái)：

• 端云大模型滿(mǎn)足不同需求，C端用戶(hù)成為端側(cè)主要客群。
• 模型趨于通用化和專(zhuān)用化，垂直行業(yè)將成為主戰(zhàn)場(chǎng)。
• 大模型將廣泛開(kāi)源，小型開(kāi)發(fā)者可調(diào)用大模型提高開(kāi)發(fā)效率。
• AI高性能芯片不斷升級(jí)，大模型產(chǎn)業(yè)生態(tài)體系不斷完善。

第一點(diǎn)，端側(cè)大模型成為把握C端用戶(hù)的主力。

原因在于端側(cè)大模型成本低、移動(dòng)性強(qiáng)、更能保障數(shù)據(jù)安全，主要應(yīng)用在手機(jī)、PC等終端設(shè)備上。

端側(cè)大模型接入個(gè)人終端設(shè)備后，能提供更加個(gè)性化的專(zhuān)屬服務(wù)。同時(shí)還將云上計(jì)算分?jǐn)偟搅私K端芯片上，大大降低服務(wù)器成本。

瑞銀預(yù)計(jì)生成式AI智能手機(jī)出貨量將從2023年的5000萬(wàn)部增長(zhǎng)到2027年的5.83億部，到2027年收入將達(dá)5130億美元。未來(lái)面向廣大C端用戶(hù)的端側(cè)大模型市場(chǎng)前景廣闊。

第二點(diǎn)，行業(yè)大模型將成為主戰(zhàn)場(chǎng)。

報(bào)告認(rèn)為，未來(lái)大模型真正的價(jià)值體現(xiàn)在更多行業(yè)及企業(yè)的應(yīng)用落地層面。

一方面，行業(yè)大模型將通用大模型用于形成多領(lǐng)域能力的資源集中于特定領(lǐng)域，模型參數(shù)相對(duì)較小，對(duì)于企業(yè)落地而言具有顯著的成本優(yōu)勢(shì)。

另一方面，行業(yè)大模型結(jié)合企業(yè)或機(jī)構(gòu)內(nèi)部數(shù)據(jù)，為B端用戶(hù)的實(shí)際經(jīng)營(yíng)場(chǎng)景提供服務(wù)，能更加體現(xiàn)模型對(duì)于機(jī)構(gòu)的降本增效作用。

第三點(diǎn)，大模型將廣泛開(kāi)源。

閉源or開(kāi)源是大模型領(lǐng)域爭(zhēng)論已久的話(huà)題。報(bào)告認(rèn)為，開(kāi)源能降低大模型開(kāi)發(fā)者的使用門(mén)檻，同時(shí)提高算法的透明度和可信度。目前如GLM、Baichuan、Qwen等都在開(kāi)源領(lǐng)域取得了不錯(cuò)進(jìn)展。

小型開(kāi)發(fā)者是推動(dòng)AI應(yīng)用落地的關(guān)鍵力量之一。開(kāi)源則能進(jìn)一步提高小型開(kāi)發(fā)者的開(kāi)發(fā)效率。

第四點(diǎn)，高性能芯片不斷升級(jí)、產(chǎn)業(yè)生態(tài)不斷完善。

芯片方面，英偉達(dá)作為市場(chǎng)主導(dǎo)還在不斷迭代架構(gòu)。可以預(yù)見(jiàn)未來(lái)芯片性能還會(huì)不斷升級(jí)。

產(chǎn)業(yè)生態(tài)方面，我國(guó)已經(jīng)初步建成包括算力基礎(chǔ)設(shè)施、大模型服務(wù)平臺(tái)、數(shù)據(jù)平臺(tái)、大模型及應(yīng)用場(chǎng)景等層面在內(nèi)的體系。

各個(gè)層級(jí)都有代表玩家，如算力基礎(chǔ)設(shè)施層面的華為昇騰、服務(wù)平臺(tái)方面的百度千帆、大模型層面的百度、阿里、科大訊飛、vivo等。

綜上四個(gè)方面，概括了當(dāng)下對(duì)于大模型趨勢(shì)的主要展望。

它們最終都指向了一個(gè)方面“大模型接下來(lái)將朝著影響更多人的方向發(fā)展”。

對(duì)C端用戶(hù)的影響、開(kāi)源、垂直領(lǐng)域滲透等，都是大模型的逐步破圈。

而且這種大趨勢(shì)，其實(shí)已經(jīng)開(kāi)始發(fā)生了。代表性事件就是國(guó)內(nèi)外手機(jī)廠(chǎng)商紛紛擁抱大模型。

具體數(shù)據(jù)可以參考vivo的最新披露，目前藍(lán)心大模型已經(jīng)覆蓋了超過(guò)2000萬(wàn)用戶(hù)，實(shí)現(xiàn)了2761萬(wàn)次高質(zhì)量問(wèn)答、畫(huà)了1757萬(wàn)張畫(huà)，寫(xiě)了649萬(wàn)份報(bào)告，去掉了85萬(wàn)個(gè)路人。

同時(shí)對(duì)于模型本身，手機(jī)廠(chǎng)商也在不斷升級(jí)、繼續(xù)驗(yàn)證端云協(xié)同趨勢(shì)。藍(lán)心大模型整體數(shù)據(jù)量已升級(jí)到“端側(cè)7B”+“云側(cè)70B”的超大組合，能帶來(lái)更好的大模型體驗(yàn)。

vivo副總裁、vivo AI全球研究院院長(zhǎng)周?chē)?/strong>表示，從產(chǎn)業(yè)趨勢(shì)來(lái)看，投入基礎(chǔ)模型訓(xùn)練的公司可能會(huì)大幅減少，轉(zhuǎn)而更多的公司去尋找應(yīng)用場(chǎng)景和爆款應(yīng)用。

手機(jī)正是目前場(chǎng)景落地中，推進(jìn)比較快的領(lǐng)域。由此他們也為更多玩家提供了一定參考。

之所以能在手機(jī)行業(yè)快速形成大模型落地終端趨勢(shì)，有以下幾方面優(yōu)勢(shì)：

其一，有設(shè)備本身的優(yōu)勢(shì)。

手機(jī)現(xiàn)在是覆蓋人群最為廣泛、最為便攜、日常使用次數(shù)最多的一塊屏幕。在手機(jī)上引入大模型，能最快讓大眾感受到先進(jìn)AI能力；同時(shí)作為智能終端，手機(jī)本身也需要向著更便捷、智能、專(zhuān)屬化的方向發(fā)展，這和大模型的特性不謀而合。

其二，有落地形式帶來(lái)的優(yōu)勢(shì)。

手機(jī)想要落地大模型，只調(diào)用云端大模型無(wú)法全面覆蓋使用場(chǎng)景，端云協(xié)同是一種必然。這一形式對(duì)于算力的處理方式，加速了大模型應(yīng)用落地。

其三，有手機(jī)廠(chǎng)商本身帶來(lái)的優(yōu)勢(shì)。

在大模型趨勢(shì)里，手機(jī)廠(chǎng)商屬于場(chǎng)景玩家隊(duì)列，目前業(yè)界已經(jīng)達(dá)成共識(shí)，在大模型應(yīng)用落地過(guò)程中，場(chǎng)景玩家基于多年對(duì)行業(yè)的理解，能夠更快速形成閉環(huán)，正向推動(dòng)落地進(jìn)程。加之大模型應(yīng)用開(kāi)發(fā)需要遵循人機(jī)加交互基本邏輯，手機(jī)廠(chǎng)商對(duì)于交互的深刻理解，也能為大模型落地個(gè)人終端提供更多經(jīng)驗(yàn)參考。

總之，對(duì)于我國(guó)大模型產(chǎn)業(yè)而言，機(jī)會(huì)正在不斷涌現(xiàn)，手機(jī)行業(yè)已經(jīng)搶先得到驗(yàn)證。

大模型+，未來(lái)已來(lái)

來(lái)到2024年，行業(yè)內(nèi)外默默達(dá)成共識(shí)，這會(huì)是更AI化的一年。

如今，隨著人民網(wǎng)在博鰲亞洲論壇上發(fā)布《2024年中國(guó)AI大模型產(chǎn)業(yè)發(fā)展報(bào)告》，正式為這一趨勢(shì)帶來(lái)了官方定調(diào)。

這一動(dòng)作，不僅能推動(dòng)AI大模型向更多行業(yè)滲透，更是對(duì)當(dāng)下大模型產(chǎn)業(yè)的肯定。它給產(chǎn)業(yè)帶來(lái)信心、鼓勵(lì)生態(tài)圈內(nèi)各層玩家繼續(xù)向前，更從宏觀(guān)層面給出了發(fā)展建議，為下一階段集中資源解決核心問(wèn)題提供綱領(lǐng)建議。

更關(guān)鍵的是，普羅大眾在2024年的春天收到了明確信號(hào)：

歡迎來(lái)到大模型+萬(wàn)物時(shí)代。

報(bào)告獲取地址：
http://finance.people.com.cn/n1/2024/0326/c1004-40203918.html

版權(quán)所有，未經(jīng)授權(quán)不得以任何形式轉(zhuǎn)載及使用，違者必究。