騰訊云祭出行業(yè)大模型平臺(tái)：鵝廠開(kāi)搞「量體裁衣」，花小成本用大模型

明敏 衡宇 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

大模型浪潮，鵝廠給出了第一波明確回應(yīng)。

昨天，騰訊云帶著行業(yè)大模型平臺(tái)，掀開(kāi)騰訊大模型戰(zhàn)略的一角。

切入方向十分明確——服務(wù)產(chǎn)業(yè)界。

在騰訊云舉辦的行業(yè)大模型及智能應(yīng)用技術(shù)峰會(huì)上，所有疑問(wèn)和好奇，都在現(xiàn)場(chǎng)演示中有了解答。

該行業(yè)大模型平臺(tái)，技術(shù)底座來(lái)自騰訊全棧能力，提供高性能計(jì)算集群HCC、高性能網(wǎng)絡(luò)、向量數(shù)據(jù)庫(kù)等基礎(chǔ)設(shè)施。

依托騰訊云TI平臺(tái)，將能力對(duì)外輸出，向產(chǎn)業(yè)界用戶提供MaaS（Model as a service）服務(wù)。

平臺(tái)的能力，已同步支持騰訊自家業(yè)務(wù)，如騰訊會(huì)議、騰訊企點(diǎn)等。

當(dāng)下，ChatGPT方興未艾，面對(duì)轉(zhuǎn)瞬即逝的機(jī)會(huì)，沒(méi)有哪家云廠商能坐視不理，騰訊云自然也不例外。

在這場(chǎng)異常激烈的競(jìng)爭(zhēng)中，騰訊云的策略是什么？背后動(dòng)因如何？又有哪些亮點(diǎn)值得關(guān)注？

騰訊云行業(yè)大模型平臺(tái)是什么？

要回答上述問(wèn)題，就要先感知騰訊云行業(yè)大模型平臺(tái)的廬山真面目。

騰訊云行業(yè)大模型平臺(tái)，顧名思義，功能是以不同產(chǎn)業(yè)需求場(chǎng)景出發(fā)，提供MaaS一站式服務(wù)，讓千行百業(yè)使用大模型的門(mén)檻往低了降。

這是騰訊云在圍繞行業(yè)大模型平臺(tái)的快速布局中，從一開(kāi)始就有的精準(zhǔn)目標(biāo)：解決千行百業(yè)“想用大模型而用不上”這個(gè)痛點(diǎn)。

也是無(wú)數(shù)行業(yè)在大模型時(shí)代的焦慮來(lái)源。

畢竟面對(duì)大模型貪婪汲取的算力，企業(yè)和機(jī)構(gòu)或缺乏，或根本沒(méi)有，無(wú)法進(jìn)行訓(xùn)練和推理，不得不將求助的目光投向云廠商。而打造一個(gè)大模型所需的數(shù)據(jù)，需要進(jìn)行搜集、整理、清晰洗、標(biāo)注等層層加工，繁雜的步驟和專(zhuān)業(yè)需求無(wú)疑是雪上加霜。

再者說(shuō)，為確保業(yè)務(wù)使用的效果和可持續(xù)性，自研大模型的成本對(duì)企業(yè)和機(jī)構(gòu)來(lái)說(shuō)已是天文數(shù)字，更別提難以邁出的第一步——計(jì)算資源、網(wǎng)絡(luò)帶寬、安全性等方面的經(jīng)驗(yàn)和人才，都不是各個(gè)行業(yè)本身所擅長(zhǎng)的。

于是引出騰訊云為行業(yè)大模型平臺(tái)提出的基本理念：量體裁衣、普惠適用。

換一句更好理解的通俗說(shuō)法，騰訊云想做和正在做的事，是把大模型能力放在一個(gè)平臺(tái)上向外花式輸出。需要大模型提供支持的行業(yè)面對(duì)騰訊云行業(yè)大模型平臺(tái)時(shí)，就像在面對(duì)一個(gè)貨架擺滿、品類(lèi)豐富的精選商店。

按需挑選，需要什么，就拿什么。

活動(dòng)現(xiàn)場(chǎng)，騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲進(jìn)行了實(shí)時(shí)演示，以證明“量體裁衣”后的模型對(duì)擁有不同場(chǎng)景的企業(yè)來(lái)說(shuō)更加好用。

端午節(jié)小長(zhǎng)假在即，吳運(yùn)聲拋出了一個(gè)很貼生活的問(wèn)題，讓大模型規(guī)劃行程，要求是：

我和孩子都是歷史人文愛(ài)好者，端午想去上海周邊，預(yù)算在5000以內(nèi)，最好每天去2個(gè)不同的景點(diǎn)玩。

通用大模型很快給出了3天假期的大致規(guī)劃。

感受下來(lái)，能為出行做大方向的參考，但相對(duì)簡(jiǎn)略，不是最理想的保姆級(jí)出行指南。

于是，吳運(yùn)聲加入了一些旅游相關(guān)的行業(yè)場(chǎng)景數(shù)據(jù)，給模型喂了2個(gè)江浙滬旅游攻略，及1份蘇州旅游攻略。

而后面對(duì)同樣的提問(wèn)，大模型給出的端午旅游規(guī)劃就細(xì)致了許多，不僅有每天的旅程安排，還含有旅游景點(diǎn)的相關(guān)簡(jiǎn)介。

如果接入旅游領(lǐng)域企業(yè)用戶的API呢？

除了出行的交通方式和景點(diǎn)安排，所涉及景點(diǎn)的實(shí)時(shí)票價(jià)，提問(wèn)人也能及時(shí)在大模型規(guī)劃的行程中獲得了。

而且此模式（騰訊云稱(chēng)之為“大模型精調(diào)”）中，大模型還開(kāi)啟了上網(wǎng)檢索功能，查詢酒店特色、房?jī)r(jià)等消息是小菜一碟。

能夠感知到，此時(shí)的大模型給出的建議服務(wù)更加人性化，“實(shí)現(xiàn)了服務(wù)到商業(yè)的閉環(huán)”。

現(xiàn)場(chǎng)演示僅針對(duì)旅游行業(yè)一家而言，但這樣的需求并不局限在旅游場(chǎng)景中。

針對(duì)差異化需求應(yīng)運(yùn)而生后，所有有使用大模型需求的行業(yè)伸出一只援手。

如騰訊集團(tuán)高級(jí)執(zhí)行副總裁云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生所說(shuō)，實(shí)際生活中，騰訊云行業(yè)大模型平臺(tái)已經(jīng)把產(chǎn)業(yè)場(chǎng)景當(dāng)作了大模型的最佳練兵場(chǎng)。

目前，騰訊云行業(yè)大模型平臺(tái)已經(jīng)涵蓋金融、傳媒、文旅、政務(wù)、教育等10多個(gè)行業(yè)場(chǎng)景，提供50+大模型解決方案。

所以具體來(lái)看，騰訊云提出的行業(yè)大模型平臺(tái)，將如何幫助他們解決面臨的這些問(wèn)題？

輸出自家沉淀能力

總體來(lái)看，騰訊云構(gòu)建行業(yè)大模型平臺(tái)的思路，是盡可能提供更加底層強(qiáng)大、覆蓋全面、落地便捷的能力。

而且誠(chéng)意滿滿，一次性掏出了騰訊云及騰訊積累多年的技術(shù)能力、工程經(jīng)驗(yàn)及創(chuàng)新成果，并已率先在自家業(yè)務(wù)上落地應(yīng)用。

技術(shù)方面，騰訊云行業(yè)大模型平臺(tái)的亮點(diǎn)可分為三部分：

• 模型層面
• 平臺(tái)工具
• 流程方法、配套服務(wù)、安全保障

首先來(lái)看底層模型，這也是大模型平臺(tái)的核心。

騰訊云TI平臺(tái)支持企業(yè)用戶直接結(jié)合自身場(chǎng)景數(shù)據(jù)按需定制精調(diào)模型，或者按照所需開(kāi)展多模型訓(xùn)練任務(wù)，讓企業(yè)用戶能更加靈活地調(diào)用大模型能力。

平臺(tái)上內(nèi)置了多個(gè)行業(yè)大模型，可以滿足金融、傳媒、文旅、政務(wù)、教育等領(lǐng)域的需求。

在模型層的具體能力上，騰訊云TI平臺(tái)還在降本增效和簡(jiǎn)單易用上提出了四大亮點(diǎn)：

第一是低成本訓(xùn)練和推理，這也是企業(yè)用戶在使用大模型時(shí)首要關(guān)心的事。騰訊云TI平臺(tái)實(shí)現(xiàn)了在少量算力基礎(chǔ)上，可提升特定任務(wù)的效果；并選擇專(zhuān)注產(chǎn)業(yè)場(chǎng)景，降低訓(xùn)練成本、縮短訓(xùn)練周期。

第二是無(wú)需配置對(duì)話+支持API調(diào)用?？焖俳尤胝{(diào)用產(chǎn)業(yè)用戶API接口，能夠端到端高質(zhì)量完成多輪服務(wù)。

第三是高效觸達(dá)網(wǎng)絡(luò)知識(shí)。這也是大模型的發(fā)展趨勢(shì)，如ChatGPT已經(jīng)推出聯(lián)網(wǎng)插件，回答體驗(yàn)立馬提升。騰訊云TI平臺(tái)通過(guò)搜索引擎獲取網(wǎng)絡(luò)知識(shí)，更廣泛和實(shí)時(shí)的信息，能有效提高回答的多樣性和相關(guān)性。

第四是高時(shí)效、快速更新。目前階段大模型能獲取和理解多少信息，會(huì)直接影響它的表現(xiàn)。在這方面，騰訊云建立了實(shí)時(shí)更新的大模型向量數(shù)據(jù)庫(kù)，讓大模型閱讀理解的長(zhǎng)度從2k字增長(zhǎng)到8k，翻了4倍。

其次來(lái)看平臺(tái)工具方面。

TI-ONE平臺(tái)提供了完善的大模型工具鏈，覆蓋數(shù)據(jù)標(biāo)注、訓(xùn)練、評(píng)估、測(cè)試和部署等。同時(shí)具備多機(jī)多卡訓(xùn)練加速能力，能快速進(jìn)行一站式大模型微調(diào)。

在算力方面，騰訊云今年4月發(fā)布了面向大模型訓(xùn)練的新一代HCC（High-Performance Computing Cluster）高性能計(jì)算集群，具備3.2Tbps業(yè)界最高互聯(lián)網(wǎng)帶寬，算力性能提升3倍。

它采用最新一代騰訊云星海自研服務(wù)器，結(jié)合多層加速的高性能存儲(chǔ)系統(tǒng)，加上高帶寬、低延遲的網(wǎng)絡(luò)傳輸。

數(shù)據(jù)方面，上面提到的實(shí)時(shí)更新騰訊云向量數(shù)據(jù)庫(kù)（Tecent Cloud Vector DB），是騰訊自研、基于內(nèi)部多年運(yùn)營(yíng)積累的分布式向量數(shù)據(jù)庫(kù)，已經(jīng)過(guò)騰訊海量業(yè)務(wù)場(chǎng)景驗(yàn)證，日均處理向量檢索千億次，支持標(biāo)量+向量的混合檢索，具有高性能、大容量等特點(diǎn)，支持全內(nèi)存索引。

與此同時(shí)，TI-ONE平臺(tái)還提供了多個(gè)單點(diǎn)工具。

TI-ONE訓(xùn)練平臺(tái)是為AI工程師打造的一站式機(jī)器學(xué)習(xí)平臺(tái)，提供從數(shù)據(jù)接入、模型訓(xùn)練、模型管理到模型服務(wù)的全流程開(kāi)發(fā)支持，內(nèi)置多種訓(xùn)練方式和算法框架。

TI-DataTruth數(shù)據(jù)標(biāo)注平臺(tái)面向AI數(shù)據(jù)服務(wù)商提供數(shù)據(jù)標(biāo)注作業(yè)、數(shù)據(jù)眾包管理、場(chǎng)景數(shù)據(jù)挖掘等智能數(shù)據(jù)生產(chǎn)服務(wù)。

TI-Matrix應(yīng)用平臺(tái)支持快速接入各種數(shù)據(jù)、算法和智能設(shè)備，并提供可視化編排工具，進(jìn)行模型服務(wù)和資源的管理及調(diào)度，進(jìn)一步通過(guò)AI服務(wù)組建集成和標(biāo)準(zhǔn)化接口開(kāi)放，降低AI應(yīng)用開(kāi)發(fā)成本。

值得一提的是，騰訊云TI-ACC升級(jí)為太極Angel，能提供更強(qiáng)大的訓(xùn)練和推理加速能力。通過(guò)異步調(diào)度優(yōu)化、顯存優(yōu)化、計(jì)算優(yōu)化等方式，相較于行業(yè)常用方案提升30%+。

此外，基于騰訊云IaaS層產(chǎn)品服務(wù)（計(jì)算集群、對(duì)象存儲(chǔ)、網(wǎng)絡(luò)加速等），可支持豐富的訓(xùn)練需求和推理應(yīng)用場(chǎng)景。

騰訊云還聯(lián)合中國(guó)信通院、客戶，共建了行業(yè)大模型的標(biāo)準(zhǔn)體系及能力架構(gòu)。包括1套ILMOps方法論、60+的能力建設(shè)指標(biāo)、覆蓋主觀和客觀的能力要求、細(xì)化超過(guò)200+能力驗(yàn)證指標(biāo)。覆蓋金融、政務(wù)、傳媒、教育、文旅等各大行業(yè)，涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡(luò)、模型安全可靠等方面。

最后，騰訊云行業(yè)大模型平臺(tái)還提供了一系列成熟的配套服務(wù)。

提供行業(yè)大模型全生命周期一體化的完整方法論，覆蓋“模型選型-訓(xùn)練共建-部署應(yīng)用”全流程，包括“業(yè)務(wù)分析-數(shù)據(jù)分析-數(shù)據(jù)清洗-數(shù)據(jù)標(biāo)注-大模型選擇-訓(xùn)練加速-模型評(píng)測(cè)-應(yīng)用落地”等，同時(shí)支持MLOps的體系及工具，保障需求順利交付。

在配套服務(wù)方面，騰訊云提供本地化的訓(xùn)練、落地及陪跑優(yōu)化服務(wù)；針對(duì)客戶需求，提供私有化部署、公有云托管、混合云部署等靈活部署方案。

安全方面，騰訊云在問(wèn)題側(cè)、模型側(cè)、答案?jìng)?cè)三個(gè)層面進(jìn)行敏感信息的過(guò)濾和規(guī)避，讓最終的答案符合安全、規(guī)范的要求。同時(shí)，依托騰訊二十余年的安全經(jīng)驗(yàn)和天御風(fēng)控能力，提供AIGC全鏈路內(nèi)容合規(guī)解決方案，確保大模型可信、可靠、可用。

那么，平臺(tái)能力如此強(qiáng)大，實(shí)際能夠帶來(lái)怎樣的效果？

這可以從騰訊自家的業(yè)務(wù)看起。如騰訊會(huì)議的AI會(huì)議助手、騰訊云AI代碼助手、騰訊企點(diǎn)新一代智能客服等，都在基于這一次底層平臺(tái)能力進(jìn)行加速開(kāi)發(fā)。

據(jù)介紹，騰訊會(huì)議·AI會(huì)議助手將能夠基于簡(jiǎn)單的文本指令，基于對(duì)會(huì)議內(nèi)容的理解，快速提取信息、分析內(nèi)容等，并且能自動(dòng)生成智能總結(jié)。

騰訊云新一代AI代碼助手將支持多種編程語(yǔ)言、主流開(kāi)發(fā)框架和常用IDE。具備代碼補(bǔ)全、生成單元測(cè)試、代碼糾錯(cuò)等能力，加速程序員日常開(kāi)發(fā)。其能力將覆蓋溝通、編碼、評(píng)審等關(guān)節(jié)環(huán)節(jié)。

騰訊企點(diǎn)的新一代智能客服在接入行業(yè)大模型平臺(tái)能力后，將覆蓋單輪知識(shí)問(wèn)答、復(fù)雜知識(shí)問(wèn)答、業(yè)務(wù)辦理等核心場(chǎng)景，從冷啟動(dòng)7天以上升級(jí)至分鐘級(jí)/小時(shí)級(jí)啟動(dòng)，準(zhǔn)確率提升30%。

當(dāng)然，騰訊云大模型平臺(tái)的能力已經(jīng)向外輸出。

比如在金融客服場(chǎng)景，基于騰訊云金融行業(yè)大模型能力，客戶結(jié)合自身場(chǎng)景數(shù)據(jù)+騰訊云TI平臺(tái)精調(diào)實(shí)現(xiàn)，構(gòu)建了專(zhuān)屬的金融客服大模型，并進(jìn)行私有化部署。

在銀行投資、財(cái)富管理、綠色金融等業(yè)務(wù)方面，提供智能咨詢、輔助分析、決策等服務(wù)。

再比如多年下來(lái)積累了海量的音視頻、圖片、文稿等信息資源的領(lǐng)域——傳媒。

央視就已經(jīng)基于騰訊云智能媒體AI中臺(tái)，部署TI平臺(tái)原生模型服務(wù)，打造AI開(kāi)放平臺(tái)，通過(guò)引入自研“標(biāo)簽權(quán)重引擎”，讓內(nèi)容標(biāo)簽顆粒度更細(xì)、理解度更深、泛化性更高。

進(jìn)一步的，結(jié)合傳媒行業(yè)需要，重新構(gòu)建了細(xì)分場(chǎng)景的標(biāo)簽體系，包括新聞、綜藝、融媒體、影視劇等；同時(shí)通過(guò)跨模態(tài)的文本-圖像理解模型，實(shí)現(xiàn)跨模態(tài)檢索。

總之，騰訊云行業(yè)大模型平臺(tái)，是有充分準(zhǔn)備而來(lái)。

為什么做行業(yè)大模型平臺(tái)？

ChatGPT掀起新一輪AI浪潮后，各方勢(shì)力搶灘登陸。

但在一場(chǎng)新的技術(shù)革命周期下，一味求快顯然不是上上策，明確身位后精準(zhǔn)出擊，更容易站上潮頭。

所以，騰訊云亮出了在大模型熱潮下的第一張牌：基于騰訊云TI平臺(tái)打造模型精選商店，提供MaaS一站式服務(wù)，以“產(chǎn)業(yè)助手”的身份向外輸出大模型能力。

為什么瞄準(zhǔn)這一身位？

從外到內(nèi)，有兩方面因素驅(qū)動(dòng)。

一方面是外因，也是直接原因：行業(yè)亟需MaaS服務(wù)。

很長(zhǎng)一段時(shí)間以來(lái)，大模型都被認(rèn)為只有科技巨頭、大廠才能玩得起。因?yàn)樗鼘?duì)算力、算法都提出極高要求，不僅燒錢(qián)而且需要頂尖技術(shù)團(tuán)隊(duì)開(kāi)發(fā)維護(hù)。

但大模型的好處有目共睹，它強(qiáng)大的泛化能力可以解決行業(yè)應(yīng)用場(chǎng)景碎片化、AI“手工作坊式”開(kāi)發(fā)等問(wèn)題，能推動(dòng)企業(yè)更快完成智能化升級(jí)、降本增效。

加之如今新趨勢(shì)到來(lái)，各行各業(yè)都開(kāi)始意識(shí)到，如果不搭上AI這班快車(chē)，就有被時(shí)代淘汰的風(fēng)險(xiǎn)。

由此，MaaS服務(wù)被推至臺(tái)前。

另一方面是受到騰訊自身的影響。

一直以來(lái)，騰訊在產(chǎn)業(yè)互聯(lián)網(wǎng)中的定位都是做產(chǎn)業(yè)的“數(shù)字化助手”，騰訊云智能則是實(shí)現(xiàn)這一目標(biāo)的重要抓手。

具體技術(shù)能力上，AI方面，騰訊在AI大模型領(lǐng)域有多年積累。內(nèi)部騰訊優(yōu)圖實(shí)驗(yàn)室、騰訊AI Lab等都是產(chǎn)業(yè)內(nèi)“明星”實(shí)驗(yàn)室，在NLP、CV等熱門(mén)領(lǐng)域已積累豐富的學(xué)術(shù)成果和產(chǎn)業(yè)落地經(jīng)驗(yàn)。

云能力上，騰訊云是中國(guó)云市場(chǎng)的頭部廠商之一，提供混合云服務(wù)。

基于騰訊全棧能力，騰訊云智能目前形成了四級(jí)加速框架，為產(chǎn)業(yè)輸出從底層算力支撐到AI開(kāi)發(fā)平臺(tái)、到AI產(chǎn)品解決方案、再到頂層數(shù)智化轉(zhuǎn)型方法的四級(jí)全鏈條服務(wù)，覆蓋金融、教育、工業(yè)、傳媒、交通等領(lǐng)域。

由此也就不難理解，為何騰訊云要推出行業(yè)大模型平臺(tái)，并選擇在此時(shí)此刻登場(chǎng)亮相。

當(dāng)下，ChatGPT扇動(dòng)翅膀，引發(fā)的AI龍卷風(fēng)正在快速席卷各行各業(yè)，勢(shì)不可擋。

正如互聯(lián)網(wǎng)浪潮對(duì)工業(yè)、電子商務(wù)、媒體、傳播等領(lǐng)域的重塑與變革，最新一輪AI趨勢(shì)也勢(shì)必會(huì)顛覆眾多行業(yè)領(lǐng)域的運(yùn)作方式、推動(dòng)智能化升級(jí)更快發(fā)生。

AI行業(yè)、云廠商等身處變革風(fēng)暴核心，肩負(fù)推動(dòng)技術(shù)更快向外圈輻射、影響千行百業(yè)的使命，如今已最先起跑，合力拉開(kāi)變革的序幕。

接下來(lái)還會(huì)有哪些行業(yè)緊跟趨勢(shì)，還不確定，值得期待。

而可以確定的是，以大模型、AI為圓點(diǎn)，這場(chǎng)變革輻射圈的半徑，還在加速擴(kuò)展。