快速低成本構(gòu)建應(yīng)用，浪潮信息把企業(yè)大模型落地門(mén)檻打下來(lái)了

克雷西 2024-04-24 22:13:44 來(lái)源：量子位

克雷西 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

百模大戰(zhàn)愈演愈烈，各大廠商卷出了不同形態(tài)：

有的大秀肌肉，在文本長(zhǎng)度上一騎絕塵；有的與搜索等功能深度融合，成為了全能型AI助手……琳瑯滿目的大模型產(chǎn)品令人目不暇接。

但對(duì)于企業(yè)用戶而言，盡管這些通用大模型各有各的特色，但在解決行業(yè)任務(wù)時(shí)，表現(xiàn)得卻并非那么完美。

究其“不能勝任”的原因，主要是通用大模型在特定行業(yè)的知識(shí)儲(chǔ)備并不充足，甚至存在嚴(yán)重的幻覺(jué)。

為了彌補(bǔ)這樣的缺陷，需要大量的行業(yè)數(shù)據(jù)，模型算法也需要進(jìn)行優(yōu)化，而這又會(huì)牽扯出算力問(wèn)題……

也是這種背景之下，為了幫助企業(yè)用戶更好地實(shí)現(xiàn)大模型應(yīng)用落地，浪潮信息提出了集算法、算力、數(shù)據(jù)和互聯(lián)為一體的端到端解決方案。

大模型進(jìn)入2.0時(shí)代，但落地依舊困難

隨著人工智能技術(shù)的快速發(fā)展，AI正在變得無(wú)處不在，影響著各種計(jì)算設(shè)備和平臺(tái)。

從服務(wù)器到個(gè)人電腦（PC），甚至是移動(dòng)設(shè)備，AI算力正在滲透進(jìn)每一個(gè)計(jì)算設(shè)備，面向人工智能的算力范式不斷革新。

除了這種“一切計(jì)算皆AI”的大背景，人工智能的代表性產(chǎn)品——大模型也進(jìn)入了2.0時(shí)代。

這意味著將會(huì)出現(xiàn)更大的模型，隨之而來(lái)的是更多的數(shù)據(jù)需求，以及對(duì)算力資源的更大需求。

而算法、算力和數(shù)據(jù)正是人工智能發(fā)展的“三駕馬車(chē)”，但從當(dāng)今發(fā)展來(lái)看，發(fā)展得都不充分。

首先，由于大模型的訓(xùn)練成本極其高昂，導(dǎo)致試錯(cuò)代價(jià)極高，進(jìn)而出現(xiàn)了在大模型時(shí)代對(duì)于算法的創(chuàng)新依舊有所保守的局面。

算力的資源也并不均衡，北京智源研究院副院長(zhǎng)兼總工程師林詠華認(rèn)為，大模型2.0時(shí)代，不能只關(guān)注單顆芯片的能力，而是需要考慮從芯片到服務(wù)器集群，再到數(shù)據(jù)中心的存儲(chǔ)和計(jì)算關(guān)系，以及整個(gè)網(wǎng)絡(luò)的協(xié)同。

數(shù)據(jù)方面的情況一樣不樂(lè)觀，隨著大模型對(duì)計(jì)算規(guī)模的需求增加，人類(lèi)產(chǎn)生的已知數(shù)據(jù)，對(duì)于大模型而言即將甚至已經(jīng)不足。

除了大模型自身發(fā)展受到算力和數(shù)據(jù)等方面的桎梏，對(duì)于企業(yè)用戶來(lái)說(shuō)，大模型落地還存在更多的現(xiàn)實(shí)問(wèn)題。

一是大模型缺少專(zhuān)業(yè)的行業(yè)數(shù)據(jù)，不可避免地導(dǎo)致了幻覺(jué)問(wèn)題，難以適用于企業(yè)場(chǎng)景。

另一方面，有些企業(yè)應(yīng)用場(chǎng)景中，對(duì)模型窗口長(zhǎng)度需求極大，現(xiàn)有的模型可能無(wú)法滿足需求。

此外，開(kāi)發(fā)難度大、技術(shù)門(mén)檻高，也是企業(yè)實(shí)現(xiàn)大模型落地的一個(gè)重要壁壘。

想要解決這些痛點(diǎn)難點(diǎn)，需要從上到下的整個(gè)生態(tài)為之發(fā)力，而浪潮信息正是企業(yè)大模型落地助推者中的一份子。

端到端開(kāi)發(fā)企業(yè)大模型應(yīng)用

第十屆IPF浪潮信息生態(tài)伙伴大會(huì)上，浪潮信息AI軟件研發(fā)總監(jiān)吳韶華隆重發(fā)布了企業(yè)大模型開(kāi)發(fā)平臺(tái)元腦企智EPAI。

EPAI平臺(tái)提供了端到端的企業(yè)大模型落地解決方案，解決了企業(yè)大模型應(yīng)用開(kāi)發(fā)流程復(fù)雜、門(mén)檻高等困難。

大模型2.0時(shí)代，數(shù)據(jù)就是資產(chǎn)，掌握數(shù)據(jù)就等于掌握了話語(yǔ)權(quán)。

而EPAI提供了上億條基礎(chǔ)知識(shí)數(shù)據(jù)，同時(shí)還包含了自動(dòng)化的數(shù)據(jù)處理工具，可以幫助用戶整理行業(yè)數(shù)據(jù)和專(zhuān)業(yè)數(shù)據(jù)，生成高質(zhì)量的微調(diào)數(shù)據(jù)和行業(yè)/企業(yè)知識(shí)庫(kù)，進(jìn)而打造企業(yè)專(zhuān)屬數(shù)據(jù)資產(chǎn)。

有優(yōu)質(zhì)的基礎(chǔ)+行業(yè)+企業(yè)數(shù)據(jù)作為支撐，大模型生成內(nèi)容的準(zhǔn)確性和可靠性就有了保證，幻覺(jué)問(wèn)題將大幅縮減。

同時(shí)，結(jié)合檢索增強(qiáng)生成（RAG）技術(shù)，EPAI可以解決企業(yè)知識(shí)庫(kù)更新頻率高但大模型微調(diào)耗時(shí)長(zhǎng)、頻率低的矛盾，保證模型能夠及時(shí)獲得處理最新知識(shí)的能力。

另一方面，EPAI還提供了高效的微調(diào)工具，支持千億參數(shù)模型面向產(chǎn)業(yè)知識(shí)的快速再學(xué)習(xí)，并讓模型具備百萬(wàn)Token的長(zhǎng)文檔處理能力，解決窗口長(zhǎng)度不足的問(wèn)題，快速打造領(lǐng)域大模型。

好馬當(dāng)配好鞍，EPAI不僅擁有強(qiáng)大的企業(yè)大模型開(kāi)發(fā)功能，在易用性方面也幫助開(kāi)發(fā)者降低了使用門(mén)檻。

使用方式上，EPAI支持API、對(duì)話UI和智能體三種使用方式，可以面對(duì)不同的業(yè)務(wù)場(chǎng)景需求，并讓不同技術(shù)水平的開(kāi)發(fā)者都能擁有與自己能力相匹配的開(kāi)發(fā)方式。

甚至是非專(zhuān)業(yè)開(kāi)發(fā)人員，也能在幾天培訓(xùn)之后快速掌握平臺(tái)的使用方法，擺脫專(zhuān)業(yè)知識(shí)的限制。EPAI實(shí)現(xiàn)了大模型應(yīng)用開(kāi)發(fā)的普及化，降低了企業(yè)的用工成本。

吳韶華舉例說(shuō)，假如要開(kāi)發(fā)一個(gè)“智能編程助手”，即使是經(jīng)驗(yàn)非常豐富的工程師可能也需要兩到三周的時(shí)間，但用了EPAI，可以非?？焖俚貓?zhí)行。

而且EPAI既支持包括CPU和各種GPU在內(nèi)的多元算力，又支持包括自研的“源”大模型和其他主流開(kāi)源、閉源模型，適配快，遷移成本低，為企業(yè)提供了豐富的模型和算力選擇。

此外，企業(yè)用戶最擔(dān)心的數(shù)據(jù)安全問(wèn)題，EPAI也提供了堅(jiān)實(shí)保障，通過(guò)權(quán)限管理、數(shù)據(jù)加密、內(nèi)容審查等多種技術(shù)手段，確保數(shù)據(jù)和模型安全，做到了隱私信息不泄露。

相較于其他開(kāi)發(fā)平臺(tái)，浪潮信息的一個(gè)獨(dú)特優(yōu)勢(shì)是，從“左手”的算力、模型等底層技術(shù)提供者，到“右手”的各行業(yè)軟件開(kāi)發(fā)商，都是浪潮信息生態(tài)中的伙伴。

這意味著，EPAI平臺(tái)可以上承算力，下接應(yīng)用，成為整個(gè)生態(tài)的“交通樞紐”，加速面向應(yīng)用的快速創(chuàng)新。

EPAI為企業(yè)用戶很好地解決了算法和數(shù)據(jù)問(wèn)題，但浪潮信息提供的支持不止于此，而是集算法、算力、數(shù)據(jù)、存儲(chǔ)、互聯(lián)為一體的全面布局。

在算力方面，面向越來(lái)越多的大模型推理場(chǎng)景，浪潮信息還聯(lián)合英特爾發(fā)布可運(yùn)行千億參數(shù)大模型的AI通用服務(wù)器；存儲(chǔ)方面，發(fā)布分布式全閃存儲(chǔ)AS13000G7，解決大模型訓(xùn)練數(shù)據(jù)挑戰(zhàn)；互聯(lián)方面，發(fā)布國(guó)內(nèi)首款超級(jí)AI以太網(wǎng)交換機(jī) X400，加速大模型訓(xùn)練推理……

浪潮信息的這一系列布局，或?qū)⒔o大模型行業(yè)帶來(lái)新的格局。

EPAI將促進(jìn)大模型產(chǎn)業(yè)協(xié)作

談及EPAI平臺(tái)的意義，吳韶華介紹到，EPAI平臺(tái)提供的是工具箱和方法論，讓用戶可以盡可能地發(fā)揮自己企業(yè)的價(jià)值。

而且，EPAI平臺(tái)將能夠?qū)崿F(xiàn)對(duì)于開(kāi)發(fā)者的普惠，企業(yè)不必再花費(fèi)大量資金構(gòu)建一個(gè)高精尖的團(tuán)隊(duì)，也可以做起大模型。

通過(guò)EPAI和其所提供的方法論，企業(yè)用戶可以從自己做起，掌握這樣一套方法和工具，然后再去服務(wù)好、支持好他們行業(yè)的客戶。

只有借助最適合、最高效的工具，讓它在工作的時(shí)候擁有很高的效率和成功率，才能真正把產(chǎn)業(yè)快速地做大。

對(duì)此，浪潮信息高級(jí)副總裁劉軍表示，EPAI“讓我們看到大模型的另外一面，它的產(chǎn)業(yè)化落地的這一面”。

此外，EPAI對(duì)于整個(gè)產(chǎn)業(yè)的協(xié)作也大有裨益——

過(guò)去，恨不得每個(gè)人都想做大模型企業(yè)，都想自己從頭徹尾都搞一套工具，但事實(shí)上不可能所有人都能把生意做大。

只有依靠?jī)?yōu)質(zhì)的產(chǎn)業(yè)協(xié)作分工，大家都做自己最擅長(zhǎng)的事情，形成多元多樣化的、共同去促進(jìn)的生態(tài)，才能讓產(chǎn)業(yè)AI真正落地。