一手實測！0門檻、分鐘級打造智能體

魚羊 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

“大模型元年”下半年，話題焦點，已經(jīng)顯現(xiàn)出從技術(shù)向的基礎(chǔ)模型，向“agent（智能體）”這樣的應用關(guān)鍵詞轉(zhuǎn)移之勢。

從各家大模型廠商最新卷出的花樣中，亦可見一斑——

剛剛，百度智能云就率先露了一手：分分鐘，打造一個“面試官”智能體。

這樣的能力，來自今天百度智算大會上重磅展示的“百度智能云千帆AppBuilder”，一個可以高效開發(fā)AI原生應用的工作臺。

只見百度智能云技術(shù)委員會主席孫珂一鍵點擊，一個具備人設，自帶代碼解釋器、問答以及文生圖能力的Agent就自動創(chuàng)建完成了。

只需要輸入“角色指令”，再選一下代碼解釋器等插件工具，“面試官助手”當場就能上線干活。

具體能做什么？就像這樣，直接拋給它一份簡歷，這個智能體就能根據(jù)崗位描述，幫HR劃好重點，從5個維度給候選人簡歷打分并做出評價。

還能進一步提出需求，畫出候選人能力雷達圖、推薦面試問題也不在話下。

甚至還會自動貼心地幫忙寫上保存圖片的代碼。

沒錯，打造這樣一個智能體，不要3個月，不要3個星期，甚至分鐘級就能實現(xiàn)。

如果覺得簡單的低代碼圖形界面還不夠定制化，千帆AppBuilder還提供了更“黑科技”的代碼形態(tài)。

通過各種組件的自由替換組合，程序員們可以按照自身所需，且同樣高效地創(chuàng)建大模型應用。

在今天智算大會的現(xiàn)場，孫珂通過幾行代碼，直接從10份簡歷中迅速篩選出了最符合JD的候選人。

看這演示，是不是有點意思？我們還探聽到，不只是agent，大熱的RAG（檢索增強生成）、GBI（智能數(shù)據(jù)分析），都能基于這么一個工作臺快速實現(xiàn)。

話不多說，我們當然是第一時間進入千帆AppBuilder官網(wǎng)進行了測試，親睹為快~

分分鐘，AI同事成功上崗

第一輪實測，先來試試用“RAG問答應用”打造一個“量子位小助手”到底難不難。

所謂RAG（檢索增強生成），是指將生成模型和檢索模塊結(jié)合起來，讓生成式AI能從外部知識源中獲取信息，以提升準確性和可靠性的技術(shù)。

以打造“量子位小助手”為例，采用RAG框架，我們不需要微調(diào)模型，只需要給大模型準備一些量子位內(nèi)部參考資料，讓它能在面對提問時“開卷”作答，大模型就能更準確地回答一些特定領(lǐng)域問題。

實際操作中，點擊界面中的“上傳知識”按鈕，導入任意知識文檔（支持.doc，.txt，.docx，.pdf四種格式），就可以創(chuàng)建自己的知識集合了。

在簡單投喂了一些量子位智庫報告和內(nèi)部知識文檔后，一個RAG應用不到5分鐘就創(chuàng)建完成了。我們正式進入測試環(huán)節(jié)。

需要說明的是，為了驗證打造這么一個RAG應用到底能有多“傻瓜式”，本次上傳的文檔沒咋處理過，給人看是啥樣，給大模型看就是啥樣。

Q1：量子位提名的年度十大科技趨勢是什么？

回答得很準確，相比于文心一言4.0基于網(wǎng)絡搜索給出的答案，更加詳細。

再來進一步問問一些技術(shù)細節(jié)呢？

面對“3D生成的主流技術(shù)分為哪幾類”這個問題，分鐘級速成的“量子位小助手”給出的答案是醬嬸的：

跟通用版大模型對比，在參考了量子位內(nèi)部的知識文檔后，量子位小助手能回答得更有針對性一些。

我們再來加大難度，問問這個小助手一些“百度”不到的問題。

比如，量子位的編輯同學每天早上該怎么看選題？

看著架勢，老板再也不用擔心我不好好學文檔了。

同樣，一些提升效率的技巧，速成版“量子位小助手”也妥妥掌握。

這一波測試下來，我只想對這位AI同事說：

在智能體和RAG之外，在百度，BI（商業(yè)智能）也已經(jīng)被大模型重構(gòu)。現(xiàn)在，全新的GBI（智能數(shù)據(jù)分析）能力也被放到了AppBuilder上，開啟了小范圍測試。

簡單來說，GBI主打一個“聊天搞定一切”：用任意問題詢問任意一張或多張數(shù)據(jù)表，快速得到結(jié)論。

打個比方，老板要求10分鐘之內(nèi)處理海量數(shù)據(jù)，給出精確的成本估算，甚至要根據(jù)分析結(jié)果做出決策，該怎么辦？當然是交給大模型來算~

具體創(chuàng)建過程跟RAG一樣，通過簡單的圖形化點選就能完成，主要分為三步：數(shù)據(jù)源接入、選擇數(shù)據(jù)范圍、開啟智能分析。

接下來，提問測試就完事兒了。即使是復雜問題的洞察分析，也能快速完成。

另外，這個GBI框架還支持專業(yè)知識注入和復雜計算邏輯，可以滿足更高級的分析需求。

百度開放AI原生應用開發(fā)秘籍

一番測試之后，是不是覺得百度智能云的這個AppBuilder確實有點東西？實際上，我們的實測還只是體驗到了其中比較基礎(chǔ)的一部分功能。

不難看出，AppBuilder其實是百度把自己開發(fā)大模型應用的經(jīng)驗和工具，沉淀成了一個工具完備的工作臺。

具體來說，這個工作臺主要由兩部分組成：應用組件+應用框架。

應用組件，主要是云和AI能力的組件化封裝。其中包括：

• 多模態(tài)AI能力組件，覆蓋文字、圖像、語音等各類AI能力，語音識別、AI作畫都可以通過這類組件實現(xiàn)。
• 基于大語言模型的AI能力組件，包含問答對抽取、query改寫、nl2sql等大模型能力。
• 基礎(chǔ)云能力組件，包含向量數(shù)據(jù)庫、對象存儲等傳統(tǒng)云服務能力。

應用框架，則面向具體的場景任務，是應用組件的串聯(lián)組合。目前，百度智能云在AppBuilder里提供了以下幾種常用的AI原生應用框架：

• 檢索增強生成RAG
• 智能體Agent
• 智能數(shù)據(jù)分析GBI
• 基礎(chǔ)生成應用，如多風格營銷文案生成器、問答對生成器等。

就是說，在應用框架里，百度智能云提前把構(gòu)建agent、RAG這樣的AI原生應用所需要的AI、云能力都打包好了。就像我們實際體驗的那樣，開發(fā)者甚至可以一行代碼都不寫，開箱即用。

除了“快”之外，此前，百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖之前還透露，搭建這樣一個RAG“助手”，即使需要處理幾千篇萬字長文檔，成本也只需幾百塊錢；之后用戶每次咨詢，成本僅為幾分錢。

中天鋼鐵也基于Agent框架，打造了智能化的“企業(yè)調(diào)度中樞”，實現(xiàn)了任務指令的自動感知、分解和執(zhí)行。

比如，在發(fā)現(xiàn)鋼鐵產(chǎn)量不達標時，只需提問一次，大模型就可以自動調(diào)用平臺納管的各種資源和API，找出未達標原因，及時調(diào)整排產(chǎn)計劃并發(fā)送郵件通知調(diào)度人員。

值得一提的是，除了應用框架這樣的“低代碼態(tài)”服務，AppBuilder還為開發(fā)者提供了“代碼態(tài)”服務：提供可編程的全套開發(fā)套件，包含調(diào)用組件的SDK、開發(fā)環(huán)境和相關(guān)調(diào)試工具。

孫珂博士還介紹了這套“低代碼態(tài)+代碼態(tài)”開發(fā)組合拳中一個值得關(guān)注的細節(jié)：

低代碼套件除了能夠讓開發(fā)者快速地試驗應用效果之外，其中的代碼解釋器模塊還能夠根據(jù)任務需求寫代碼，這些代碼都是直接可獲取的。

參考這些代碼示例，程序員可以在代碼模式下自行開發(fā)調(diào)試，或者替換成任何自己想要的應用組件。

這就意味著，程序員們可以進行更深層次的AI原生應用開發(fā)，把自己的創(chuàng)意更充分地展現(xiàn)出來。

“大模型時代真正的價值在于原生應用”

百度卷AI原生應用這事兒，其實早已有跡可循。

百度CEO李彥宏就不止一次發(fā)表觀點：在基礎(chǔ)模型之上，要有千千萬萬甚至數(shù)以百萬計的AI原生應用，大模型的價值才能被體現(xiàn)出來。

就如同移動互聯(lián)網(wǎng)時代的iOS/Android，和殺手級App微信、抖音之間的關(guān)系一樣，基礎(chǔ)模型的最終競爭者可能只有三四個，但在此之上的應用市場，實際上蘊藏著更大的創(chuàng)新空間和潛力。

這樣的觀點，如今正在行業(yè)中激起更廣泛的共鳴。

趨勢已然顯現(xiàn)，但百度作為最早的躬身入局者，也在實踐中發(fā)現(xiàn)了新的問題：并不是所有應用需求都能通過簡單的prompt實現(xiàn)，在大模型與AI原生應用構(gòu)建之間，存在工程設計、策略設計、定義接口方案、集成等等復雜過程，還需要配合大模型使用語音、翻譯、圖形等能力和完備的開發(fā)環(huán)境。

孫珂博士對我們解釋說：

一個agent如何搭建？這個問題我們問了很多開發(fā)者，他們真的不知道。

拿一個應用框架舉例，要保證大模型輸出的穩(wěn)定性、可控性，需要寫一些復雜的prompt，還需要去和外部功能做結(jié)合。

大模型想要做出第一款“憤怒的小鳥”（爆款應用），中間需要一系列AI原生應用的開發(fā)套件，幫助所有開發(fā)者能夠更快速地了解大模型最深層次能做到什么程度的事情。這是目前對開發(fā)者來說非常缺失的部分。

而這樣的問題，單靠提供大模型的MaaS接口，是遠遠不夠的。

百度智能云千帆AppBuilder，覆蓋大模型開發(fā)各種應用的常見模式、工具、流程，正是為了彌補這種大模型到AI原生應用構(gòu)建之間的缺口。

正如孫珂所說，應用組件對于資深開發(fā)者而言，像是散裝的樂高積木，大家可以憑借自己的想象，把整個場景搭建起來；而應用框架則像是樂高的場景版，面向更多普通開發(fā)者、非程序員提供搭建應用的示例，讓更多人能使用框架快速地搭建起AI原生應用原型。

基于這樣的一整套工具，目前開發(fā)AI原生應用面臨的效率低、門檻高的問題就有了新的解決方案。

移動互聯(lián)網(wǎng)時代App市場的爆發(fā)，離不開各種技術(shù)框架的基礎(chǔ)支持，而現(xiàn)在，可以說千帆AppBuilder這樣的工作臺，也正在為大模型時代的“爆款應用”奠定基礎(chǔ)。

大模型話題貫穿全年，但真正的變革風暴才剛剛起了個頭。

現(xiàn)在，第一個機會點的舞臺已經(jīng)逐漸成型，新時代的殺手級App可以期待一波了。

p.s. 現(xiàn)在只需要進入百度智能云千帆AppBuilder官網(wǎng)，就可以體驗所有的組件與框架了。

— 完 —