零代碼基礎(chǔ)也能復(fù)刻！大模型化身AI售前助手，百頁萬字標(biāo)書秒解讀

克雷西 2024-09-24 13:39:35 來源：量子位

克雷西 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

大模型正式上崗，化身AI售前助手，已經(jīng)開始拯救IT售前人了！

在浪潮信息內(nèi)部，一款名為“元小智”的AI助手，已經(jīng)成為了員工們的得力助手。

不僅能幾秒鐘讀完上百頁的招標(biāo)文件，產(chǎn)品資料問答、信息比對、查詢檢索等工作也都得心應(yīng)手。

過去，人工需要幾天才能完成的任務(wù)，只要幾分鐘就能搞定了。

而且模型微調(diào)、應(yīng)用開發(fā)過程全程零代碼，售前團(tuán)隊1人1月即可完成，工作效率UP UP。

售前工作困難重重

售前是IT行業(yè)解決方案的構(gòu)建者，所需具備的技能自然也多種多樣，需要“三頭六臂”的全能選手才能勝任——

不僅針對IT本專業(yè)需要具備扎實的基礎(chǔ)知識，還要有良好的市場敏感度、快速學(xué)習(xí)能力和強(qiáng)大的溝通技巧。

而在IT行業(yè)的銷售中，招投標(biāo)又是一種重要形式，因此售前人員還要向投標(biāo)工作中投入大量精力。

他們要先完成對招標(biāo)文件的解讀分析，精準(zhǔn)理解并解答招標(biāo)文件的技術(shù)需求，并在此基礎(chǔ)上撰寫出符合招標(biāo)要求的文件。

但交付的時間，往往又極為有限，不僅如此，標(biāo)書的制作還面臨著多重困難。

首先，招標(biāo)文件內(nèi)容冗長，而且充滿了細(xì)節(jié)，導(dǎo)致標(biāo)書材料分析耗時，且關(guān)鍵信息容易遺漏。

但在需求一側(cè)，招投標(biāo)業(yè)務(wù)時間窗口十分緊迫，同時又要嚴(yán)格按照業(yè)務(wù)規(guī)則執(zhí)行，容錯率低，對文件內(nèi)容的精準(zhǔn)性要求極高。

這對業(yè)務(wù)人員的綜合經(jīng)驗和技術(shù)水平，是一項不小的考驗。

同時，他們還需要對公司產(chǎn)品、技術(shù)白皮書、標(biāo)書、解決方案等了如指掌。

但是這些產(chǎn)品及方案材料更新速度非?？欤址稚⒃诓煌块T，信息整合與查閱工作又是一項新的挑戰(zhàn)。

不難看出，僅標(biāo)書這一項工作就足以讓售前人員焦頭爛額，更不必說還有一系列其他工作。

面對重重困難，人們想到了讓機(jī)器替代一部分人工，減輕售前人員的壓力——

基于大模型開發(fā)的AI助手，在分析處理長文本方面有著得天獨(dú)厚的優(yōu)勢。

但實際操作起來，很快就又發(fā)現(xiàn)了新的問題。

首先，無論是人還是大模型，想要勝任售前崗位，對自身產(chǎn)品信息的了解都是不可或缺的。

對于大模型而言，了解的方式就是建立專用知識庫。

一家大型IT公司的全業(yè)務(wù)線可能包含近千款產(chǎn)品，大到產(chǎn)品迭代型號，小到插槽數(shù)量、板卡規(guī)格，這些信息都要精準(zhǔn)無誤，才能讓大模型幫助售前完成繁重的產(chǎn)品信息查閱工作。

但這些信息內(nèi)容繁雜，且數(shù)據(jù)本身結(jié)構(gòu)化程度低，提取工作復(fù)雜，導(dǎo)致專用知識庫建設(shè)并非易事。

退一步講，即便有了這樣的知識庫，基礎(chǔ)模型+RAG的模式也不足以滿足工作中的專業(yè)能力需求——

售前需要撰寫的標(biāo)書文件具有十分專業(yè)的行文格式、專業(yè)術(shù)語，雖然這種模式在問答任務(wù)中有一定準(zhǔn)確率，但是并不代表理解了招投標(biāo)工作的業(yè)務(wù)邏輯。

解決這個問題的辦法便是微調(diào)，但優(yōu)質(zhì)微調(diào)數(shù)據(jù)是一大難題，并且需要開發(fā)人員具備豐富的大模型微調(diào)經(jīng)驗，研發(fā)周期長、試錯成本高。

另外，招投標(biāo)文件包含大量企業(yè)隱私數(shù)據(jù)，必須確保數(shù)據(jù)絕對安全，因而不能上傳云端利用公共大模型進(jìn)行訓(xùn)練推理，也就是說，企業(yè)大模型必須進(jìn)行本地化私有部署。

這些要求疊加在一起，涉及多環(huán)節(jié)、工具，使得這樣的模型開發(fā)本就十分困難且周期漫長。

雖然售前人員最了解業(yè)務(wù)場景，對這些痛點(diǎn)也是如數(shù)家珍，但他們并不具有相應(yīng)的代碼開發(fā)能力，更不用說定制化的應(yīng)用開發(fā)了。

“元小智”拯救售前人

不過好消息是，現(xiàn)在大模型應(yīng)用開發(fā)已經(jīng)沒有那么復(fù)雜了——即使沒有技術(shù)出身，只要明確需求，簡單學(xué)習(xí)之后也能上手。

在浪潮信息內(nèi)部，售前部門就已經(jīng)利用大模型開發(fā)平臺工具開發(fā)出了售前AI助理“元小智”，針對售前工作中的痛點(diǎn)各個擊破，將員工從龐雜的工作中解放了出來。

“元小智”可以一鍵處理招標(biāo)文件，對招標(biāo)文件中的重要信息進(jìn)行全面且準(zhǔn)確的解讀。

根據(jù)項目需求，“元小智”可以高效識別數(shù)萬字上百頁的招標(biāo)文件，招標(biāo)關(guān)鍵信息的識別準(zhǔn)確率達(dá)到85%，秒級提取客戶核心需求。

過去需要幾天的招標(biāo)文件分析工作，幾分鐘就能完成，大幅提升了業(yè)務(wù)人員的工作效率，縮短時間窗口。

“元小智”還憑借智能問答功能，成為了浪潮信息售前專屬的“百科全書”，輔助產(chǎn)品信息查閱與專業(yè)內(nèi)容生產(chǎn)。

通過該功能，售前人員快速查閱并生成浪潮信息全系列在售產(chǎn)品及方案的相關(guān)內(nèi)容，生成對應(yīng)的產(chǎn)品優(yōu)勢、核心參數(shù)等支撐信息，免去了售前人員在海量產(chǎn)品文件中逐一查閱的繁瑣過程。

知己知彼才能百戰(zhàn)不殆，除了自身產(chǎn)品體系之外，了解同類產(chǎn)品方能有的放矢地制定策略，在競爭中取得優(yōu)勢。

針對招標(biāo)核心信息，“元小智”可以通過網(wǎng)絡(luò)檢索功能查詢同類產(chǎn)品情況，輔助售前人員快速了解產(chǎn)品信息，節(jié)約了至少一半的分析時間，整體將售前的投標(biāo)工作提速3-5倍。

而且聯(lián)網(wǎng)檢索有需要時才會調(diào)用，并與企業(yè)數(shù)據(jù)庫隔離，數(shù)據(jù)安全有保障。

在“元小智”的背后，是浪潮信息的企業(yè)大模型開發(fā)平臺——元腦企智EPAI（Enterprise Platform of AI）。

其中的數(shù)據(jù)處理工具能夠自動解析結(jié)構(gòu)化數(shù)據(jù)（如表格），并將其轉(zhuǎn)化為標(biāo)準(zhǔn)格式的知識庫條目；針對非結(jié)構(gòu)化數(shù)據(jù)（如純文本信息），元腦企智EPAI則能夠自動提取有用信息并進(jìn)行高效存儲。

浪潮信息售前團(tuán)隊使用元腦企智EPAI實現(xiàn)了數(shù)據(jù)的自動化收集、整理、清洗和索引，從1500+的pdf、docx、doc、xls等多種格式在內(nèi)的業(yè)務(wù)資料、企業(yè)產(chǎn)品信息與方案文件中抽取數(shù)據(jù)，構(gòu)建起了8大業(yè)務(wù)線全部在售產(chǎn)品的知識庫。

同時有效融合RAG技術(shù)，將繁雜的企業(yè)知識成功轉(zhuǎn)換為大模型“最強(qiáng)外掛”。

對于大模型微調(diào)，元腦企智EPAI也提供了全鏈路數(shù)據(jù)治理工具，可以從種類多樣、場景復(fù)雜、規(guī)模龐大的招投標(biāo)文件、產(chǎn)品信息、行業(yè)報告中，自動抽取生成微調(diào)數(shù)據(jù)。

利用元腦企智EPAI平臺的評判大模型，針對生成的每一條微調(diào)數(shù)據(jù)進(jìn)行自動打分，剔除低質(zhì)量數(shù)據(jù)，通過格式過濾進(jìn)一步提升微調(diào)數(shù)據(jù)質(zhì)量，減少數(shù)據(jù)篩選和處理的時間和成本。

如此反復(fù)多次，最終形成了數(shù)十萬條高質(zhì)量微調(diào)數(shù)據(jù)，利用元腦企智EPAI平臺的零代碼微調(diào)工具進(jìn)行模型微調(diào)，多次迭代后成功實現(xiàn)模型專業(yè)能力提升，構(gòu)建起了符合業(yè)務(wù)需求的專用大模型。

元腦企智EPAI還提供了多種應(yīng)用開發(fā)工具，可零代碼快捷開發(fā)本地應(yīng)用，平臺支持多種參數(shù)的設(shè)置、修改，同時提供 API 調(diào)用、chat頁面對話等多種交互方式，實現(xiàn)開箱即用。

同時，元腦企智EPAI及利用其打造的大模型應(yīng)用可完全本地化部署，并配有多種安全技術(shù)，數(shù)據(jù)安全能夠得到保障。

打造自己的“元小智”

“元小智”雖然是浪潮信息的內(nèi)部應(yīng)用，但是借助其背后的元腦企智EPAI提供的數(shù)據(jù)處理工具、零代碼微調(diào)工具、知識庫檢索工具等，其他企業(yè)也可以建立起自己的“元小智”。

不僅如此，元腦企智EPAI平臺更是加速大模型落地的有效賦能工具，提供了一套更完整的企業(yè)大模型落地解決方案。

元腦企智EPAI平臺提供了上億條基礎(chǔ)知識數(shù)據(jù)，同時還包含了自動化的數(shù)據(jù)處理工具，可以幫助用戶整理行業(yè)數(shù)據(jù)和專業(yè)數(shù)據(jù)，生成高質(zhì)量的微調(diào)數(shù)據(jù)和行業(yè)/企業(yè)知識庫，進(jìn)而打造企業(yè)專屬數(shù)據(jù)資產(chǎn)。

有優(yōu)質(zhì)的基礎(chǔ)+行業(yè)+企業(yè)數(shù)據(jù)作為支撐，大模型生成內(nèi)容的準(zhǔn)確性和可靠性就有了保證，大模型落地的最大痛點(diǎn)——幻覺問題將大幅縮減。

同時，結(jié)合RAG技術(shù)，元腦企智EPAI可以解決企業(yè)知識庫更新頻率高但大模型微調(diào)耗時長、頻率低的矛盾，保證模型能夠及時獲得處理最新知識的能力。

另一方面，元腦企智EPAI還提供了高效的微調(diào)工具，支持千億參數(shù)模型面向產(chǎn)業(yè)知識的快速再學(xué)習(xí)，并讓模型具備百萬Token的長文檔處理能力，解決窗口長度不足的問題，快速打造領(lǐng)域大模型。

而且元腦企智EPAI支持包括CPU和各種GPU在內(nèi)的多元算力，以及各種主流開源、閉源模型，適配快，遷移成本低，為企業(yè)提供了豐富的模型和算力選擇。

此外，企業(yè)用戶最擔(dān)心的數(shù)據(jù)安全問題，元腦企智EPAI也提供了堅實保障，通過權(quán)限管理、數(shù)據(jù)加密、內(nèi)容審查等多種技術(shù)手段，確保數(shù)據(jù)和模型安全，做到了隱私信息不泄露。

“元小智”就是浪潮信息打下的一個很好的樣板，通過“元小智”，我們可以見微知著，看到其背后元腦企智EPAI平臺的強(qiáng)大能力——

從耗時的招標(biāo)文件分析，到繁瑣的產(chǎn)品信息查詢，再到專業(yè)的標(biāo)書撰寫……這些曾經(jīng)讓售前人員頭疼不已的難題，現(xiàn)在都能夠得到高效、準(zhǔn)確的解決。

借助元腦企智EPAI這樣的企業(yè)大模型開發(fā)平臺，即使是非技術(shù)背景的售前團(tuán)隊，也能夠快速構(gòu)建起適合自身需求的AI助手，技術(shù)門檻大大降低。

可以說，元腦企智EPAI，使大模型落地成為了可觸可及的現(xiàn)實。