大模型時代，“人人可AI”的百度開發(fā)者平臺長什么樣？

白交 2023-11-28 17:02:58 來源：量子位

轉(zhuǎn)載自 51CTO技術(shù)棧，作者：云昭，嘉賓：張瑞星

大模型時代的開發(fā)者平臺，不僅要提供 AI 原生能力，還要具備生態(tài)打造和商業(yè)化閉環(huán)能力。

提及“靈境”，人們在腦海中往往會呈現(xiàn)出自己旅行過的風(fēng)景名勝。然而，當(dāng)身處在通用大模型“智力涌現(xiàn)”的語境下，對準(zhǔn)備在這里探索AI世界的開發(fā)者而言，能夠提供機(jī)遇的“靈境”平臺，又會是什么樣？

這個問題不好回答，畢竟運(yùn)營一個開發(fā)者平臺，涉及產(chǎn)品打磨、規(guī)則建立、持續(xù)運(yùn)營等多個維度。而一個新時代的開啟，勢必有著更多不可預(yù)測的變量。

但在此時，我們同樣也看到有些先行者正試圖給出自己的答卷。比如，在國內(nèi)率先推出“文心一言”的百度，在今年9月也快速上線了自己的“靈境矩陣”開發(fā)者平臺（以下簡稱“靈境”）。

我們了解到，靈境矩陣自9月份發(fā)布公測上線以來，整體收到的申請是2.7萬左右。其中個人開發(fā)者的比例一直呈現(xiàn)上漲的趨勢，現(xiàn)在在30%左右。

而且靈境矩陣的不同之處還在于，它不僅是一個重在提供開發(fā)能力的平臺，也為開發(fā)者設(shè)計了一套流量變現(xiàn)通路，希望讓開發(fā)者能切切實(shí)實(shí)地通過平臺獲得收益。

這是一套頗為前沿的探索機(jī)制，讓人好奇，靈境矩陣的推出和設(shè)計，都經(jīng)歷了怎樣的思忖和探索？

11月15日下午，在第二屆“百度搜索創(chuàng)新大賽”期間，我們懷揣著種種有關(guān)“靈境”的問題來到百度科技園中，與百度靈境矩陣平臺負(fù)責(zé)人張瑞星進(jìn)行了2個小時的訪問。

靈境的誕生：讓大模型成功才是戰(zhàn)局關(guān)鍵

“是做一個低成本能開發(fā)AI應(yīng)用的平臺去賦能開發(fā)者，還是去幫開發(fā)者直接接入大模型，通過大模型再賦能到各家企業(yè)中？到底選哪個方向？我們經(jīng)歷了較長時間的思考?！泵鎸`境究竟為何誕生的疑問，張瑞星坦誠回應(yīng)。

今年年初，在全新的大模型戰(zhàn)場上，大多數(shù)人都選擇做應(yīng)用，典型如國內(nèi)的妙鴨相機(jī)、國外的Midjourney等。但百度在全線重構(gòu)自有產(chǎn)品之外，也在思考如何幫助開發(fā)者降低成本。

這是一個非常重要的研判。大模型是一個強(qiáng)大的大腦，但是它需要更多手和腳。所以，在今年年初大家的眼光都集中在大模型時，百度已經(jīng)開始思考如何對大模型進(jìn)行更多的能力支持。

開發(fā)者平臺成為了一個選擇。如果做類似Midjourney這樣的應(yīng)用，成就的是個體。而做開發(fā)者平臺，成就的是大模型和生態(tài)。如果有愈發(fā)多的開發(fā)者來到這里，開發(fā)出更多的能力，那么大模型也會因此獲益。百度的文心大模型，也會進(jìn)一步贏得新時代的AI戰(zhàn)役。

這個判斷，也是和眾多使用大模型的客戶“聊”出來的。

“我們當(dāng)時也和很多開發(fā)者、企業(yè)溝通，發(fā)現(xiàn)他們在使用大模型的過程中還是有一些具體場景下的痛點(diǎn)，需要插件這類產(chǎn)品去幫助解決?！睆埲鹦钦f。

所以，靈境的定位，就是要助力文心大模型這個大腦有更多的手和腳，讓文心的服務(wù)能力更強(qiáng)。

拋去概念，插件與Agent都是靈境

大模型這個行業(yè)，迭代非?？焖?，市面上一時產(chǎn)生了很多概念：如Bot、插件、Agent等等。但是，糾結(jié)這些概念，在日新月異的大模型時代意義不大。

“我們需要有一種機(jī)制，能讓開發(fā)者以足夠低成本的方式，接入到大模型的底座上來。這種機(jī)制，到底是叫插件，還是叫Agent，還是叫某種API，或是叫其他什么，都只是概念的一種。隨著技術(shù)的演進(jìn)，市場的發(fā)展，它們最終會逐步規(guī)范化、統(tǒng)一化到一類范式上。”張瑞星認(rèn)為。

但另一個問題是，既然現(xiàn)在看來，Agent更像是未來的范式，插件是不是不重要了？跟Agent的關(guān)系又是怎樣的呢？

在張瑞星的眼中，Agent可能是未來主流的接入方式，其本身要涉及到幾大能力?！癆gent首先是對于描述需求的自然語言有理解。第二就是基于理解，對用戶的動作和任務(wù)，做出有效的規(guī)劃。同時，針對用戶交互的信息，它要長期記憶。”張瑞星進(jìn)一步解釋，在這個過程中，要想滿足用戶需求，其實(shí)Agent需要調(diào)用各種各樣的tools工具。

所以，插件可能就是Agent的基礎(chǔ)，是Agent所需調(diào)用的大量工具的基礎(chǔ)。

比如一款旅游行程規(guī)劃的Agent，可以讓用戶快速地制定一個基于個人習(xí)慣的私人助理，從而制定旅游行程規(guī)劃。

但是，這個Agent本身需要調(diào)用大量的工具。也就是當(dāng)它需要查詢天氣類，調(diào)用飛機(jī)或火車的時刻表、班次信息，以及是否喜歡靠窗等一些個人偏好，同時還需要去查詢目的地城市的好玩景點(diǎn)，是否帶娃出行等個性化屬性的時候，Agent就會調(diào)用很多插件工具，組合型地滿足用戶的個人需求。

從這個角度上看，各種各樣的插件，是支撐起Agent的基座。

“現(xiàn)在插件做的事情就是大量的tools。比如旅游智能行程規(guī)劃Agent，可能你和它交互完之后，它直接能幫你訂票。為了完成這個動作，它需要調(diào)一個訂票的tools，也就是插件現(xiàn)在在做的事情。插件未來會成為Agent的一個重要支撐?！睆埲鹦钦f。

他還打了一個有趣的比喻來形容未來大模型、Agent和插件的關(guān)系：“Agent或許是一個小腦，大模型是個大腦，未來可能各家的大小腦容量都差不多。但如果我手上有10樣工具，你手上只有一樣工具，那我滿足客戶需求的能力肯定更強(qiáng)?！?/p>

為什么一定是靈境？

雖然目前不少大模型公司都在推出開發(fā)者平臺，但要做大模型時代的開發(fā)者平臺，不僅需要技術(shù)支持，還需要了解用戶需求，也要具備生態(tài)打造和商業(yè)化閉環(huán)能力。

而靈境的誕生，始于百度對于大模型格局的前瞻研判，也離不開過去整個技術(shù)、產(chǎn)品、生態(tài)、商業(yè)化體系的積累。

靈境矩陣平臺的真正立項(xiàng)時間是7月。從立項(xiàng)到上線測試，再到9月對外發(fā)布，靈境只有2個月左右的時間。

張瑞星回憶起當(dāng)時團(tuán)隊(duì)的緊張節(jié)奏，簡直是分秒必爭：“不到30天，8月中下旬內(nèi)測（邀測）版本已經(jīng)發(fā)布，在9月初，我們在聯(lián)盟峰會上正式發(fā)布了公測版本?！?/p>

而光速上線“靈境”開發(fā)者平臺，除了團(tuán)隊(duì)的全力以赴，也與百度過去的長期積累有著莫大的關(guān)系。這也是國內(nèi)不少做大模型的企業(yè)所不具備的。

首先，百度原本就積累了很強(qiáng)的開發(fā)者生態(tài)——不管是原來的站長，還是后來的小程序，這百萬站長和三四十萬的小型開發(fā)者，是百度的天然優(yōu)勢。

市面上不少公司都想做開發(fā)者生態(tài)，但是原本在這個層面上沒有積累。如果在本身沒有開發(fā)者或者B端生態(tài)的情況下硬造一個平臺，除非企業(yè)有著很強(qiáng)的布局能力，否則即便做成平臺，收益也會很低。

再者，對比有開發(fā)生態(tài)的大模型玩家，百度同樣擁有著豐富的“流量場景”。

這也讓靈境在市面上的定位更具差異化——它不止是一個純開發(fā)平臺，而是一個覆蓋“開發(fā)+運(yùn)營+商業(yè)化”的一體化賦能平臺。

對比之下，國內(nèi)外許多插件開發(fā)者都面臨著“既沒有生態(tài)，有沒有流量場景”的困境。比如在OpenAI的生態(tài)中，有一個金融領(lǐng)域的插件開發(fā)者表示插件做完了，在ChatGPT上卻很少有人去問金融問題，會導(dǎo)致他的插件調(diào)用很少，收益也很小。而沒有流量分發(fā)的開發(fā)者平臺，很可能是無效的。

張瑞星解釋：“為什么我們在定位上沒有只寫‘開發(fā)’兩個字？因?yàn)殪`境包含了開發(fā)、運(yùn)營以及商業(yè)化的部分，只不過初期，開發(fā)肯定是最重要的?！?/p>

他向我們透露，百度此前已經(jīng)部分打通了分發(fā)場景，并預(yù)計在第四季度徹底打通百度搜索和文心一言這兩大分發(fā)場景，“像地圖、文庫等百度的其他主要分發(fā)場景，靈境都在接入。所以，很快就能看到開發(fā)者不只可以在靈境上開發(fā)，還會有比較適配場景的流量涌入。預(yù)計在今年Q4或者明年Q1，靈境會布局商業(yè)化的能力，允許一些插件開發(fā)者在對應(yīng)的場景上進(jìn)行流量變現(xiàn)?！?/p>

那么，假如對手也有著這兩方面的優(yōu)勢，靈境的支撐又是什么？

答案是大模型自身的能力。而在國內(nèi)，百度對于大模型的投入是非常長期且巨大的，效果層面也直追國際水平。

前瞻的魔鬼細(xì)節(jié)

功能的完善程度和易用性，往往在初期就能決定一個產(chǎn)品的成敗。

那么，在最初搭建的開發(fā)模式層面，靈境相較ChatGPT插件又有哪些不同？通過張瑞星的講述，我們感受到，魔鬼往往藏在細(xì)節(jié)之中。

第一，靈境采用了最新的可視化開發(fā)編排模式，通過拖拽的方式，可以在一定程度上淘汰Langchain這種中間平臺，降低大模型應(yīng)用的開發(fā)成本。據(jù)了解，百度靈境矩陣其實(shí)在7、8月份的時候就采用這種比較領(lǐng)先的方式，甚至比OpenAI要早。

第二，在接入層面上，靈境支持了多種方式。像ChatGPT，本身更多支持API的接入，但靈境支持的數(shù)據(jù)接入類型更多，比如本地上傳，數(shù)據(jù)庫、API等，能力型的接入都覆蓋。此外，應(yīng)用類的接入也是靈境的一大特點(diǎn)。一些能力較強(qiáng)的開發(fā)者，如攜程，愿意來靈境做一個類似于智能應(yīng)用，未來這個智能應(yīng)用也可以接入到大模型里?！斑@三種模式我們都支持接入，所以從接入的方式上比Plugin更豐富?！睆埲鹦潜硎?。

第三，靈境在頂層設(shè)計上，把插件的分發(fā)設(shè)計成了一體多端的模式。并且，這一模式Q4就能完整落地。

“所謂一體多端，就是基于百度的流量場景的特性，設(shè)計兼容移動端的各類APP和PC瀏覽器在內(nèi)網(wǎng)頁搜索的模式?！睆埲鹦钦f，有了一體多端的分發(fā)能力的設(shè)計，未來靈境上的插件就能原生地植入到原本的App中，甚至包括自己的小程序里，這是一個良好的基礎(chǔ)，也是ChatGPT-Plugin不能達(dá)到的。

具備眾多差異化特點(diǎn)，目前靈境所覆蓋的領(lǐng)域也比較齊全，除卻法律、情感、辦公創(chuàng)作、商品評測等，還有很多插件都在開發(fā)和上線中?，F(xiàn)在靈境中使用較多的是辦公創(chuàng)作類插件，因?yàn)檫@仍是眼下大模型應(yīng)用的最主要場景。

我們還注意到，之前法律Bot、旅游Bot兩款靈境的應(yīng)用很早就得到了開發(fā)者的好評。

從這兩類Bot的打造方式中，我們也可以看出靈境矩陣的運(yùn)作細(xì)節(jié)。

首先，針對這兩個行業(yè)，百度成立了專項(xiàng)小組。

比如法律Bot。百度的法律部門在百忙中提供了很多專業(yè)的律師來為Bot校正，逐字評估回答的準(zhǔn)確性?！翱此莆覀冊诋a(chǎn)品上投入不大，但整個團(tuán)隊(duì)加起來，每個小方向的投入基本都在幾十人左右，這里面包括了策略、評估的團(tuán)隊(duì)、包括了相關(guān)專業(yè)的團(tuán)隊(duì)。”張瑞星介紹。

而旅游Bot則不止是靈境團(tuán)隊(duì)的付出，更是攜程團(tuán)隊(duì)和百度大力協(xié)同的結(jié)果，“相當(dāng)于我們有一個很緊密的兄弟團(tuán)隊(duì)也做了大量投入，和我們聯(lián)動做這件事情?！睆埲鹦茄a(bǔ)充。

此外，領(lǐng)域?qū)R也是一個大模型火熱話題。

張瑞星分享了在做法律Bot訓(xùn)練過程中的經(jīng)驗(yàn)，“在大模型訓(xùn)預(yù)處理、預(yù)訓(xùn)練的過程中要經(jīng)過反復(fù)的策略調(diào)整。比如同樣一個問題，你回答成這樣或者回答成那樣，哪個到底是對的、哪個是好的，它需要有一個正反饋。在這個過程中，靈境有大量的評估團(tuán)隊(duì)、樣本生成的團(tuán)隊(duì)，去輔助大模型的訓(xùn)練?！?/p>

這里有兩個點(diǎn)，首先是整個團(tuán)隊(duì)從不懂到懂的過程中，其實(shí)需要和內(nèi)外部專業(yè)人士頻繁溝通?！八惺忻嫔夏芰牡奈覀兌剂牧?，而且律師團(tuán)隊(duì)還會給產(chǎn)品團(tuán)隊(duì)做培訓(xùn)。團(tuán)隊(duì)還引入了專業(yè)人士，數(shù)據(jù)標(biāo)注這一環(huán)都招的是有法律背景的人?！彼嬖V我們。

再一個，和專業(yè)機(jī)構(gòu)的合作也能讓產(chǎn)品效果得到飛躍式提升。我們了解到，靈境平臺上法律方向的內(nèi)容，也得到了中國司法大數(shù)據(jù)研究院的支持。

“當(dāng)你進(jìn)入到深水區(qū)的時候，進(jìn)入到這個垂直領(lǐng)域的時候，你的策略和模型的效果，對整個‘法言法語’的理解，就會上一個很大的臺階。”張瑞星如此總結(jié)深扎垂直領(lǐng)域的感受。

未來的靈境

“人人可AI”是靈境秉持的理念。這是一個長期的目標(biāo)，需要持續(xù)耕耘才能實(shí)現(xiàn)。

我們了解到，未來一年內(nèi)，靈境將會持續(xù)發(fā)力三個重點(diǎn)方向。

首先，靈境平臺會持續(xù)地降本，這是靈境的內(nèi)核，也是行業(yè)的趨勢。AI時代的開發(fā)者，不會僅是傳統(tǒng)意義上只具備專業(yè)研發(fā)能力的從業(yè)者，還有越來越多的普通人，也對此躍躍欲試。而要讓這件事真正落地，降低開發(fā)者的成本，會是重中之重。

Agent開發(fā)范式的出現(xiàn)，給了這件事轉(zhuǎn)機(jī)。

在Agent的開發(fā)模式下，通過代碼、開發(fā)API、Prompt的方式創(chuàng)建功能，會帶來極大的成本降低空間。

“成本降低到什么程度？有可能未來整個靈境平臺就是一個Agent，使用者進(jìn)來只需要敲字：‘我想創(chuàng)建一個什么東西’，或者‘我想再外掛一個數(shù)據(jù)庫’，只需要通過自然語言交互的方式就完成了，這是我們的一個明確路徑。”張瑞星表示。

而這同樣是一個新的飛輪。這個模式，會讓開發(fā)門檻降下來，籠絡(luò)更多的開發(fā)者，同時讓有開發(fā)實(shí)力的人開發(fā)出更好的東西。

張瑞星也詳述了靈境持續(xù)降本的一些計劃。

最直接的方式是把開發(fā)者的開發(fā)過程壓縮，讓大模型直接幫開發(fā)者把過程轉(zhuǎn)化成Prompt，做好對應(yīng)的Agent。

此外，靈境還會提供開發(fā)者不少資源。“靈境去賦能大家更多的算力、賦能更多的免費(fèi)Token。此外，靈境還會有一些經(jīng)濟(jì)上的賦能或者支持。比如，在服務(wù)器層面、軟硬件條件層面，如云的服務(wù)器等，我們對很多個人開發(fā)者或者企業(yè)開發(fā)者都可以免費(fèi)開通?！睆埲鹦茄a(bǔ)充。

第二個重點(diǎn)攻堅方向涉及商業(yè)閉環(huán)。也就是說，靈境接下來還要賦能開發(fā)者足夠的經(jīng)營能力。“這條線我們認(rèn)為依然是百度差異化的核心優(yōu)勢。我們真正能給開發(fā)者帶來收益，而不是講空話?！睆埲鹦菑?qiáng)調(diào)，“開發(fā)者做出了好的東西，靈境還希望幫他推出去?！?/p>

在這其中，靈境一方面會幫助開發(fā)者真正能獲取流量和用戶，同時也會提供各種各樣的商業(yè)化賦能。另一方面，對于缺乏C端訴求的開發(fā)者，靈境也會打造出“D2C”、“D2D”的模式，“其他開發(fā)者可以把你開發(fā)的東西買走或者直接調(diào)用。”張瑞星表示甚至還可能會推出“D2P”的商業(yè)模式，即開發(fā)者可以為平臺有償做一些精品化的東西。

當(dāng)然，為了保證用戶體驗(yàn)，靈境對于插件的上線審核有著嚴(yán)格的要求。某個插件上線，就意味著要通過文心一言、百度搜索等產(chǎn)品，和用戶發(fā)生交互。在這種狀況下，靈境對于它的準(zhǔn)確率、觸發(fā)準(zhǔn)確率和回答的質(zhì)量，都要求較高。為此，靈境團(tuán)隊(duì)有著嚴(yán)格的上線評測標(biāo)準(zhǔn)，以免給用戶造成不好的使用體驗(yàn)?！?/p>

當(dāng)然，靈境的持續(xù)打磨之路，同樣有著各種各樣的挑戰(zhàn)。最直接地，是模型和Query，再和最后執(zhí)行動作的調(diào)優(yōu)。

對Agent的開發(fā)范式來說，原來的網(wǎng)頁分發(fā)那套邏輯不再適用了——任何一個網(wǎng)頁、任何一個網(wǎng)站未來都可能會被定義為一個小的Agent，未來的搜索會變成調(diào)用各種各樣Agent的模式。

比如網(wǎng)站Agent、App Agent、數(shù)據(jù)Agent，都是不同類型的Agent。那么，如何將這個過程智能化、自動化，達(dá)成精準(zhǔn)識別調(diào)用Agent并分發(fā)的效果，不僅要優(yōu)化產(chǎn)品，還要在這個過程中形成B、C一體的策略飛輪、數(shù)據(jù)飛輪。

這需要讓大模型有很強(qiáng)的判斷能力和識別能力，以及與Agent之間的交互能力，才有可能做到。這同樣是靈境后續(xù)的一個核心方向：打造一個搜索的AGI+一個通用的Agent。

這顯然不是一件易事，但對靈境矩陣來說，更大的愿景還在路上。

在百度的設(shè)想里，靈境未來也會構(gòu)建一個類似于GPTs這樣的store，“但和移動時代的App Store不同，靈境能構(gòu)建真正適合開發(fā)者的構(gòu)建范式，從而創(chuàng)作出類似領(lǐng)域下的新東西?！痹趶埲鹦强磥?，構(gòu)建這樣一個平臺，是讓創(chuàng)作者激發(fā)更多想象力，讓整個Agent生態(tài)更加繁榮的必經(jīng)路途。