瀾舟堅持四兩撥千斤：ToB場景落地，10B參數(shù)大模型足矣

衡宇 2024-03-19 16:29:20 來源：量子位

衡宇 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

專注、極致、口碑、快、成本。

這是瀾舟科技創(chuàng)始人兼CEO周明給出的“大模型落地九字法則”，是他在雷軍互聯(lián)網(wǎng)“七字訣”的基礎(chǔ)上，加上了“成本”一詞而來。

他將2024年稱為大模型落地元年，但同時堅定地表示，這并不意味著遍地是黃金。

而大模型的具體落地姿態(tài)，周明用自己帶領(lǐng)的大模型創(chuàng)業(yè)團隊瀾舟科技身先士卒地做了個表率——利用瀾舟“一橫N縱”體系，以孟子大模型為基礎(chǔ)，面向場景，發(fā)布產(chǎn)品。

簡單來說，就是抓技術(shù)和應(yīng)用的雙輪驅(qū)動，在積極研究和掌握前沿技術(shù)的同時，致力于確保這些技術(shù)的有效應(yīng)用。

3月18日的瀾舟大模型技術(shù)和產(chǎn)品發(fā)布會現(xiàn)場，瀾舟科技還與零一萬物進行了戰(zhàn)略合作簽約。

現(xiàn)場，創(chuàng)新工場董事長、零一萬物CEO李開復(fù)分享，目前世界上最好的大模型智能已經(jīng)達到人類平均智力水平的3倍，也就是說，100道題普通人只能答對33道，而最好的AI大模型可以答對99道以上。

他展望了AI 2.0時代未來的四大趨勢：

• 最革命性的AI 2.0應(yīng)用應(yīng)該是AI-First / AI-Native：最終脫穎而出的應(yīng)用，屬于那些敢于全力投入新技術(shù)的先驅(qū)者。大語言模型的引入為 AI-First 應(yīng)用帶來了巨大的推動力。
• 大模型始于文本，未來將拓展至“全模態(tài)”：跨模態(tài)生成技術(shù)是實現(xiàn)認(rèn)知和決策智能的轉(zhuǎn)折點?，F(xiàn)實世界的信息是文本、音頻、視覺、傳感器以及人類各種觸覺的綜合體系，要更為精準(zhǔn)地模擬現(xiàn)實世界，就需要將各種模態(tài)能力打通，例如文本-圖像、文本-視頻等跨模態(tài)甚至全模態(tài)的綜合能力。
• AI 2.0 將超越對話，從聊天工具到智能生產(chǎn)力工具：用戶體驗以及未來交互界面和商業(yè)模式都會發(fā)生大的變革。
• AI 2.0 將走向?qū)嶓w，大幅提振社會生產(chǎn)力：具身智能可以讓機器人制造機器人，進一步實現(xiàn)AI 2.0+生產(chǎn)線智能規(guī)劃。

專注研發(fā)10B-100B參數(shù)大模型

瀾舟科技成立于2021年6月，是國內(nèi)最早一批下場，進行大模型創(chuàng)業(yè)的團隊。

去年3月，瀾舟發(fā)布了孟子GPT V1（MChat）；今年1月，孟子大模型GPT V2（含孟子大模型-標(biāo)準(zhǔn)、孟子大模型-輕量、孟子大模型-金融、孟子大模型-編碼）對公眾開放。

近期，瀾舟團隊完成了Mengzi3-13B的大模型訓(xùn)練。

多說一句，孟子大模型訓(xùn)練背后有個大功臣，即總規(guī)模3T tokens的Mengzi-3數(shù)據(jù)集，包含了網(wǎng)頁、代碼、書籍、論文等高質(zhì)量數(shù)據(jù)來源。

據(jù)介紹，本月底（3月30日），Mengzi3-13B的模型將在GitHub、HuggingFace、魔搭和始智AI社區(qū)開源。

為什么開源的孟子大模型，是13B版本的？周明正面回答了這個問題。

首先，瀾舟明確以服務(wù)ToB場景為主，ToC為輔。

實踐發(fā)現(xiàn)，ToB場景使用頻率最高的大模型參數(shù)量多為7B、13B、40B、100B，整體集中在10B-100B之間。

其次，在這個區(qū)間范圍內(nèi)，從ROI角度來講，既滿足場景需求，又最具性價比。

所以很長一段時間內(nèi)，瀾舟的目標(biāo)都是做好10B-100B參數(shù)規(guī)模范圍內(nèi)的行業(yè)大模型。這就不能理解為什么開源版本選擇13B。

周明解釋道，他自己本身其實也是Scaling law的信仰者，但創(chuàng)業(yè)不同于科研。

“第一，這個大小的大模型已經(jīng)可以解決80%的問題；第二，對團隊來說也比較穩(wěn)定，不會因為不斷擴大的模型規(guī)模競賽而感到焦躁不安?！敝苊餮a充說，這樣冷靜的思考，可以保證良好的成本控制，避免無謂的GPU算力、數(shù)據(jù)、人力投入競賽。

“一橫N縱”體系

發(fā)布會上，瀾舟公布了自己的一橫N縱體系。

“一橫”是模型層，是孟子大模型技術(shù)基礎(chǔ)上研發(fā)的各個模型；

“N縱”則是基于孟子大模型的面向ToB應(yīng)用最重要的技術(shù)和產(chǎn)品。

據(jù)了解，瀾舟目前重點投入到了金融行業(yè)，輔助編程等領(lǐng)域，旨在通過更加全面、專業(yè)、優(yōu)質(zhì)的領(lǐng)域數(shù)據(jù)，打造更加貼近行業(yè)場景的垂直大模型。

以孟子GPT通用大模型的“一橫”為基礎(chǔ)，瀾舟科技合伙人、首席產(chǎn)品官李京梅，介紹了瀾舟的應(yīng)用能力型產(chǎn)品，包括：

• AI文檔理解：涵蓋專業(yè)的PDF文檔解析能力和信息抽取能力，為RAG方案中的文檔理解提供了更優(yōu)的基礎(chǔ)能力；
• AI文檔問答：根據(jù)企業(yè)需要，提供私有化企業(yè)智能知識庫構(gòu)建的解決方案能力；
• AI文檔輔助寫作：支持用戶上傳多個文檔作為參考資料，支持自定義多級題目和寫作提綱，由大模型賦能自動化按要求生成完整的文章初稿；
• 機器翻譯平臺：專注以中文為中心的世界主要語種之間互譯和20幾個領(lǐng)域的專業(yè)翻譯；
• 瀾舟智會：專注會議內(nèi)容的智能分析和問答的產(chǎn)品， 是基于大模型打造的大模型原生的智能會議助手；
• 瀾舟AI搜索：大語言模型時代的搜索引擎。

過去一年，大模型領(lǐng)域日新月異。

OpenAI在干什么我們就去干什么，短期可以，長期不可取，一定要有自己的創(chuàng)新思路。

如何揚長避短，走出自己的獨特的創(chuàng)新之路，周明表達了自己的看法。

最關(guān)鍵的第一步，就是企業(yè)要有明確定位。瀾舟科技的定位就和國內(nèi)其它大模型創(chuàng)業(yè)公司有明顯差異。

他舉例，瀾舟的定位就是作“大模型技術(shù)+企業(yè)場景應(yīng)用”的綜合公司，“我們希望能做到站在技術(shù)角度最懂應(yīng)用，站在應(yīng)用角度最懂技術(shù)，同時又希望把技術(shù)和應(yīng)用形成一種生態(tài)連接在一起，讓兩邊可以快速迭代?！?/p>

同時，依然需要聚焦和抓緊落地——通過落地，創(chuàng)造價值，拉動創(chuàng)新。

而且需要注意，創(chuàng)新和落地是相輔相成的。

不要一味的創(chuàng)新或者一味的落地，要把這兩者聯(lián)系在一起，讓它快速的迭代。

最后周明還語重心長地提醒：

今年是大模型落地元年，就遍地是黃金是嗎？不是的，我可以負(fù)責(zé)任地說，很多地方我們都沒有開拓出來。

比如大模型如何解決落地的最后一公里？大模型的商業(yè)模式是什么？如何加強交付能力？如何提高產(chǎn)品的商業(yè)化？

大模型落地的一切，其實才剛剛開始。