快速低成本構(gòu)建應(yīng)用，浪潮信息把企業(yè)大模型落地門檻打下來了

克雷西 2024-04-24 22:13:44 來源：量子位

克雷西 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

百模大戰(zhàn)愈演愈烈，各大廠商卷出了不同形態(tài)：

有的大秀肌肉，在文本長度上一騎絕塵；有的與搜索等功能深度融合，成為了全能型AI助手……琳瑯滿目的大模型產(chǎn)品令人目不暇接。

但對于企業(yè)用戶而言，盡管這些通用大模型各有各的特色，但在解決行業(yè)任務(wù)時，表現(xiàn)得卻并非那么完美。

究其“不能勝任”的原因，主要是通用大模型在特定行業(yè)的知識儲備并不充足，甚至存在嚴(yán)重的幻覺。

為了彌補這樣的缺陷，需要大量的行業(yè)數(shù)據(jù)，模型算法也需要進行優(yōu)化，而這又會牽扯出算力問題……

也是這種背景之下，為了幫助企業(yè)用戶更好地實現(xiàn)大模型應(yīng)用落地，浪潮信息提出了集算法、算力、數(shù)據(jù)和互聯(lián)為一體的端到端解決方案。

大模型進入2.0時代，但落地依舊困難

隨著人工智能技術(shù)的快速發(fā)展，AI正在變得無處不在，影響著各種計算設(shè)備和平臺。

從服務(wù)器到個人電腦（PC），甚至是移動設(shè)備，AI算力正在滲透進每一個計算設(shè)備，面向人工智能的算力范式不斷革新。

除了這種“一切計算皆AI”的大背景，人工智能的代表性產(chǎn)品——大模型也進入了2.0時代。

這意味著將會出現(xiàn)更大的模型，隨之而來的是更多的數(shù)據(jù)需求，以及對算力資源的更大需求。

而算法、算力和數(shù)據(jù)正是人工智能發(fā)展的“三駕馬車”，但從當(dāng)今發(fā)展來看，發(fā)展得都不充分。

首先，由于大模型的訓(xùn)練成本極其高昂，導(dǎo)致試錯代價極高，進而出現(xiàn)了在大模型時代對于算法的創(chuàng)新依舊有所保守的局面。

算力的資源也并不均衡，北京智源研究院副院長兼總工程師林詠華認(rèn)為，大模型2.0時代，不能只關(guān)注單顆芯片的能力，而是需要考慮從芯片到服務(wù)器集群，再到數(shù)據(jù)中心的存儲和計算關(guān)系，以及整個網(wǎng)絡(luò)的協(xié)同。

數(shù)據(jù)方面的情況一樣不樂觀，隨著大模型對計算規(guī)模的需求增加，人類產(chǎn)生的已知數(shù)據(jù)，對于大模型而言即將甚至已經(jīng)不足。

除了大模型自身發(fā)展受到算力和數(shù)據(jù)等方面的桎梏，對于企業(yè)用戶來說，大模型落地還存在更多的現(xiàn)實問題。

一是大模型缺少專業(yè)的行業(yè)數(shù)據(jù)，不可避免地導(dǎo)致了幻覺問題，難以適用于企業(yè)場景。

另一方面，有些企業(yè)應(yīng)用場景中，對模型窗口長度需求極大，現(xiàn)有的模型可能無法滿足需求。

此外，開發(fā)難度大、技術(shù)門檻高，也是企業(yè)實現(xiàn)大模型落地的一個重要壁壘。

想要解決這些痛點難點，需要從上到下的整個生態(tài)為之發(fā)力，而浪潮信息正是企業(yè)大模型落地助推者中的一份子。

端到端開發(fā)企業(yè)大模型應(yīng)用

第十屆IPF浪潮信息生態(tài)伙伴大會上，浪潮信息AI軟件研發(fā)總監(jiān)吳韶華隆重發(fā)布了企業(yè)大模型開發(fā)平臺元腦企智EPAI。

EPAI平臺提供了端到端的企業(yè)大模型落地解決方案，解決了企業(yè)大模型應(yīng)用開發(fā)流程復(fù)雜、門檻高等困難。

大模型2.0時代，數(shù)據(jù)就是資產(chǎn)，掌握數(shù)據(jù)就等于掌握了話語權(quán)。

而EPAI提供了上億條基礎(chǔ)知識數(shù)據(jù)，同時還包含了自動化的數(shù)據(jù)處理工具，可以幫助用戶整理行業(yè)數(shù)據(jù)和專業(yè)數(shù)據(jù)，生成高質(zhì)量的微調(diào)數(shù)據(jù)和行業(yè)/企業(yè)知識庫，進而打造企業(yè)專屬數(shù)據(jù)資產(chǎn)。

有優(yōu)質(zhì)的基礎(chǔ)+行業(yè)+企業(yè)數(shù)據(jù)作為支撐，大模型生成內(nèi)容的準(zhǔn)確性和可靠性就有了保證，幻覺問題將大幅縮減。

同時，結(jié)合檢索增強生成（RAG）技術(shù)，EPAI可以解決企業(yè)知識庫更新頻率高但大模型微調(diào)耗時長、頻率低的矛盾，保證模型能夠及時獲得處理最新知識的能力。

另一方面，EPAI還提供了高效的微調(diào)工具，支持千億參數(shù)模型面向產(chǎn)業(yè)知識的快速再學(xué)習(xí)，并讓模型具備百萬Token的長文檔處理能力，解決窗口長度不足的問題，快速打造領(lǐng)域大模型。

好馬當(dāng)配好鞍，EPAI不僅擁有強大的企業(yè)大模型開發(fā)功能，在易用性方面也幫助開發(fā)者降低了使用門檻。

使用方式上，EPAI支持API、對話UI和智能體三種使用方式，可以面對不同的業(yè)務(wù)場景需求，并讓不同技術(shù)水平的開發(fā)者都能擁有與自己能力相匹配的開發(fā)方式。

甚至是非專業(yè)開發(fā)人員，也能在幾天培訓(xùn)之后快速掌握平臺的使用方法，擺脫專業(yè)知識的限制。EPAI實現(xiàn)了大模型應(yīng)用開發(fā)的普及化，降低了企業(yè)的用工成本。

吳韶華舉例說，假如要開發(fā)一個“智能編程助手”，即使是經(jīng)驗非常豐富的工程師可能也需要兩到三周的時間，但用了EPAI，可以非?？焖俚貓?zhí)行。

而且EPAI既支持包括CPU和各種GPU在內(nèi)的多元算力，又支持包括自研的“源”大模型和其他主流開源、閉源模型，適配快，遷移成本低，為企業(yè)提供了豐富的模型和算力選擇。

此外，企業(yè)用戶最擔(dān)心的數(shù)據(jù)安全問題，EPAI也提供了堅實保障，通過權(quán)限管理、數(shù)據(jù)加密、內(nèi)容審查等多種技術(shù)手段，確保數(shù)據(jù)和模型安全，做到了隱私信息不泄露。

相較于其他開發(fā)平臺，浪潮信息的一個獨特優(yōu)勢是，從“左手”的算力、模型等底層技術(shù)提供者，到“右手”的各行業(yè)軟件開發(fā)商，都是浪潮信息生態(tài)中的伙伴。

這意味著，EPAI平臺可以上承算力，下接應(yīng)用，成為整個生態(tài)的“交通樞紐”，加速面向應(yīng)用的快速創(chuàng)新。

EPAI為企業(yè)用戶很好地解決了算法和數(shù)據(jù)問題，但浪潮信息提供的支持不止于此，而是集算法、算力、數(shù)據(jù)、存儲、互聯(lián)為一體的全面布局。

在算力方面，面向越來越多的大模型推理場景，浪潮信息還聯(lián)合英特爾發(fā)布可運行千億參數(shù)大模型的AI通用服務(wù)器；存儲方面，發(fā)布分布式全閃存儲AS13000G7，解決大模型訓(xùn)練數(shù)據(jù)挑戰(zhàn)；互聯(lián)方面，發(fā)布國內(nèi)首款超級AI以太網(wǎng)交換機 X400，加速大模型訓(xùn)練推理……

浪潮信息的這一系列布局，或?qū)⒔o大模型行業(yè)帶來新的格局。

EPAI將促進大模型產(chǎn)業(yè)協(xié)作

談及EPAI平臺的意義，吳韶華介紹到，EPAI平臺提供的是工具箱和方法論，讓用戶可以盡可能地發(fā)揮自己企業(yè)的價值。

而且，EPAI平臺將能夠?qū)崿F(xiàn)對于開發(fā)者的普惠，企業(yè)不必再花費大量資金構(gòu)建一個高精尖的團隊，也可以做起大模型。

通過EPAI和其所提供的方法論，企業(yè)用戶可以從自己做起，掌握這樣一套方法和工具，然后再去服務(wù)好、支持好他們行業(yè)的客戶。

只有借助最適合、最高效的工具，讓它在工作的時候擁有很高的效率和成功率，才能真正把產(chǎn)業(yè)快速地做大。

對此，浪潮信息高級副總裁劉軍表示，EPAI“讓我們看到大模型的另外一面，它的產(chǎn)業(yè)化落地的這一面”。

此外，EPAI對于整個產(chǎn)業(yè)的協(xié)作也大有裨益——

過去，恨不得每個人都想做大模型企業(yè)，都想自己從頭徹尾都搞一套工具，但事實上不可能所有人都能把生意做大。

只有依靠優(yōu)質(zhì)的產(chǎn)業(yè)協(xié)作分工，大家都做自己最擅長的事情，形成多元多樣化的、共同去促進的生態(tài)，才能讓產(chǎn)業(yè)AI真正落地。