中國軟件評測中心最新報告：文心大模型技術(shù)、產(chǎn)品、應用全面領(lǐng)跑

十三 2024-07-05 17:14:52 來源：量子位

近日，工業(yè)和信息化部直屬國家一級科研事業(yè)單位中國軟件評測中心發(fā)布《人工智能大語言模型技術(shù)發(fā)展研究報告（2024年）》，總結(jié)梳理大語言模型技術(shù)能力進展和應用情況，肯定國產(chǎn)大模型的發(fā)展成果，為產(chǎn)業(yè)界選用大模型提供了權(quán)威參考。報告顯示，文心大模型技術(shù)、產(chǎn)品、應用全面領(lǐng)先，在智能體、多模型創(chuàng)新具備先發(fā)優(yōu)勢。

報告認為，百度文心大模型在芯片、框架、模型和應用領(lǐng)域進行全棧布局，在理解、生成、邏輯、記憶等基礎(chǔ)能力以及安全能力方面全面領(lǐng)先，在智能體、多模型等模式引領(lǐng)技術(shù)創(chuàng)新、生態(tài)豐富，在大模型應用開發(fā)平臺方面功能完備、應用領(lǐng)域廣泛。目前，文心大模型4.0 Turbo已正式發(fā)布，速度更快，效果更好，網(wǎng)頁版、APP、API已陸續(xù)面向用戶開放。

算力、數(shù)據(jù)、算法是大模型三大基石，深度學習框架至關(guān)重要

報告指出，軟硬協(xié)同的算力底座，高豐富度、高質(zhì)量的數(shù)據(jù)，持續(xù)優(yōu)化與創(chuàng)新的算法是大模型的技術(shù)基石。尤其是 AI 芯片、深度學習框架、大規(guī)模算力集群等構(gòu)成的算力底座是實現(xiàn)大模型高效穩(wěn)定訓練的基礎(chǔ)。深度學習框架扮演了至關(guān)重要的角色，百度飛槳（PaddlePaddle）是其中的代表。

飛槳集核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、豐富的工具組件于一體，實現(xiàn)了動靜統(tǒng)一的框架設計，兼顧科研和產(chǎn)業(yè)需求，在開發(fā)便捷的深度學習框架、大規(guī)模分布式訓練、高性能推理引擎、產(chǎn)業(yè)級模型庫等技術(shù)上具備優(yōu)勢。目前，專為大模型設計的飛槳新一代框架3.0已經(jīng)發(fā)布，具有動靜統(tǒng)一自動并行、編譯器自動優(yōu)化、大模型訓推一體、大模型多硬件適配四大能力。最新數(shù)據(jù)顯示，截至目前，飛槳已擁有1465萬開發(fā)者，服務37萬家企事業(yè)單位，基于飛槳創(chuàng)建了95萬個模型，穩(wěn)居中國深度學習平臺市場綜合份額第一。

飛槳深度學習平臺提供了高效的分布式訓練架構(gòu)，在萬卡集群上，飛槳能夠支持超大規(guī)模的模型訓練任務，實現(xiàn)大量計算節(jié)點之間的高效協(xié)同，更好地完成大模型的訓練任務，這不僅提高了訓練效率，而且降低了訓練成本。目前，文心大模型的周均訓練有效率已達到98.8%，相比2023年文心一言發(fā)布時，訓練效率提升到當時的5.1倍，推理性能提升到105倍。

在算法優(yōu)化方面，國內(nèi)大模型廠商通過多階段對齊、知識增強等加速提升大模型性能。百度采用有監(jiān)督精調(diào)、偏好學習和強化學習等技術(shù)進行多階段對齊，逐步校準模型的行為，更準確地反映人類的意圖和偏好。報告強調(diào)，百度文心大模型4.0還在輸入、輸出兩個階段都運用知識點增強，提升大模型的準確性，做出更準確的預測和決策。

文心大模型綜合能力、效率優(yōu)勢明顯，智能體成重要發(fā)展方向

報告顯示，百度文心大模型在中文內(nèi)容的生成和推理方面的能力十分優(yōu)秀。在生成方面，文心大模型能根據(jù)給定的上下文或主題生成自然、流暢、富有創(chuàng)意的文本內(nèi)容；在推理方面，能在應對復雜問題時進行深入分析和邏輯推理，給出更加準確和全面的答案。這使得文心大模型在中文語言處理領(lǐng)域具有獨特的優(yōu)勢和價值。

智能體是開發(fā)最簡單的AI應用，是大模型最看好的AI應用方向。以文心大模型為例，百度基于基礎(chǔ)模型，進一步進行思考增強訓練得到思考模型。智能體可以通過思考模型的理解、規(guī)劃、反思能力，調(diào)用多個工具，完成復雜的任務。對 AI 開發(fā)者來說，在搭建智能體時，百度這樣的大模型服務商只要給出可調(diào)用的工具，以及相應的“說明書”即可。

報告中提到智能體的另一大應用是“代碼智能體”。近日，百度智能代碼助手Comate發(fā)布中文名“文心快碼”，并升級至2.5版本。目前百度80%的工程師已經(jīng)在深度使用文心快碼，代碼采納率已達到46%，新增代碼生成占比29%。

百度首提多模型應用理念，大模型落地持續(xù)領(lǐng)先

報告認為，未來大模型的發(fā)展趨勢包括多模態(tài)數(shù)據(jù)融合、提升自適應和遷移學習能力、可解釋性算法提高模型透明度、提升產(chǎn)品研發(fā)針對性和定制化水平，以及從垂直領(lǐng)域入手開發(fā)專用大模型產(chǎn)品等。面對未來趨勢，報告認為以文心大模型為代表的國產(chǎn)大模型在技術(shù)和產(chǎn)品上已具備顯著特點，形成了一定的優(yōu)勢。

目前，文心大模型的模型研發(fā)平臺化效率已實現(xiàn)快速提升，背后是百度在芯片、框架、模型和應用領(lǐng)域的全棧布局和端到端優(yōu)化。從應用角度看，除基礎(chǔ)模型的本身外，文心大模型已經(jīng)發(fā)展出智能體、多模態(tài)等多種創(chuàng)新應用模式，出現(xiàn)代碼生成、文生圖、視頻生成、數(shù)字人、自動駕駛等豐富多樣的應用生態(tài)。針對大模型的落地，百度在2024年AI開發(fā)者大會上首提多模型應用理念。研發(fā)側(cè)通過大小模型協(xié)同訓練機制，高效、低成本地進行模型生產(chǎn)；應用側(cè)構(gòu)建智能路由模型，發(fā)揮不同模型處理不同任務的能力，達到效果、效率和成本的動態(tài)平衡。

2023年以來，人工智能大模型開啟新一輪人工智能發(fā)展浪潮，成為科技產(chǎn)業(yè)發(fā)展強勁動能。2024年則有望成為大模型商業(yè)落地元年。百度文心大模型等國產(chǎn)模型在底層技術(shù)、核心能力和創(chuàng)新應用上展現(xiàn)出可貴的發(fā)展態(tài)勢，具有廣闊的應用前景和巨大的潛力。