Agent云服務(wù)，不止做平臺｜量子位·視點 x 匯智智能

林樾 2024-06-17 10:59:34 來源：量子位

允中 發(fā)自 凹非寺
量子位｜公眾號 QbitAI

AI Agent熱度不低，但是企業(yè)真的在使用智能體了嗎？

為了更加了解AI Agent落地現(xiàn)狀，量子位·視點邀請到了匯智智能聯(lián)合創(chuàng)始人樊剛正，一同來交流AI Agent正在以什么樣的方式與具體場景相融合。

樊剛正與我們分享了Agent公司來自實踐一線的觀察與思考。從本地生活+AI，到AI教育，再到分別面向C端和B端的智能體平臺，匯智智能圍繞Agent的落地做了不少的嘗試探索。

那么AI Agent的價值點在哪里？最適合AI Agent落地的場景是什么？一線用戶對智能體需求的真實反饋是什么？

以下在不改變原意的基礎(chǔ)上，根據(jù)分享內(nèi)容整理成稿。

技術(shù)的引入需要解決實際問題，而非增加復(fù)雜度。

先考慮做單點突破，再去考慮做泛化通用。

不是去造飛機大炮，而是要在AI商業(yè)化中造子彈。

企業(yè)內(nèi)部能最先能用好的Agent，比如像在釘釘、飛書這種企業(yè)協(xié)作工具里。

今天在分享中，我更傾向于向大家去呈現(xiàn)：我們在Agent落地方面經(jīng)歷了什么樣的探索，然后在落地探索中，我們吸取了哪些經(jīng)驗。我覺得這個實際業(yè)務(wù)當(dāng)中的一些經(jīng)驗，可能對于大家來講更有啟發(fā)，也更有價值。

匯智智能最早是做本地生活，還有游戲相關(guān)的業(yè)務(wù)。所以最初我們轉(zhuǎn)向做AIGC的時候，也嘗試過和我們過去的業(yè)務(wù)做一些結(jié)合。

我覺得任何從傳統(tǒng)業(yè)務(wù)，或者從互聯(lián)網(wǎng)行業(yè)轉(zhuǎn)型做AI的公司可能都會經(jīng)歷過這樣的步驟，先去考慮AI和我原有業(yè)務(wù)怎么去做結(jié)合，然后再想如何僅基于AIGC去做產(chǎn)品。這也就是從應(yīng)用+AI到AI原生的這么一個路徑。

技術(shù)的引入需要解決實際問題，而非增加復(fù)雜度

最早匯智智能做的小程序是面向本地生活商家，主要是為用戶提供運營管理的工具，通過抖音MCN，以派單的方式給達(dá)人一些線上任務(wù)。

加入AI大模型后，我們先后推出了旺氪小程序和智能體AI小程序。除了接單派單的功能，還加了內(nèi)容生成的工具化服務(wù)。比如說用戶可以在小程序里生成門店圖片，或景區(qū)風(fēng)景合影照片。當(dāng)時上線了非常多的插件類工具，我們在內(nèi)部把這個叫做智應(yīng)用。

但在這個過程當(dāng)中，我們發(fā)現(xiàn)：即使有一些流程指引，商家反饋的使用效果也不是很好。加了AI的功能之后，部分視頻是AI生成的，部分文案是AI生成的，但對商家來講，他們覺得步驟變多了，但我拿到的東西還是和過去一樣。

在一開始轉(zhuǎn)型做AI業(yè)務(wù)的時候往往會發(fā)生這樣的問題，想當(dāng)然地認(rèn)為可以用AI去改造現(xiàn)有的生產(chǎn)環(huán)節(jié)，或者認(rèn)為這能夠替代一切原有的內(nèi)容生產(chǎn)。但實際使用時會發(fā)現(xiàn)，ROI并沒有想象的高。

在應(yīng)用AI時我們需要謹(jǐn)慎，特別是在沒有顛覆性創(chuàng)新之前，技術(shù)的引入必須真正解決實際問題，而不是增加復(fù)雜度。

另外我也給大家一個建議，就是先考慮做單點突破，再去考慮做泛化通用。過于泛的場景應(yīng)用容易導(dǎo)致各個場景只能拿到60分，但對用戶來說，如果你只能在一個場景中解決60%的問題，其實解決0%的問題沒有區(qū)別。

AI教育與人才培養(yǎng)的嘗試

在上面的嘗試中我們也發(fā)現(xiàn)：AI的轉(zhuǎn)型落地依賴于相關(guān)人才來完成最后100米的落地部署。這種人才在國內(nèi)來講是比較少的，真正能稱得上是大模型工程師的人其實不多，這也導(dǎo)致項目落地時，沒辦法提供很高的交付能力。

所以我們希望為市場培育更多人才，這對整個行業(yè)都是有價值的。于是我們想把過去內(nèi)部業(yè)務(wù)培訓(xùn)的內(nèi)容，拿出來做成對外的課程。但它也沒有太強的生命力。

因為在沒有積累豐富的AI落地案例的時候，課程更多偏大模型本身的技術(shù)學(xué)習(xí)。所以面向的學(xué)員群體非常窄，推廣難度大，沒有能夠吸引很多人來加入這個行業(yè)。另外，教育內(nèi)容的研發(fā)和推廣周期長，導(dǎo)致課程上線時已落后于市場需求。

我們的經(jīng)驗是，AI教育應(yīng)從業(yè)務(wù)中自然生長，當(dāng)有足夠多的經(jīng)驗案例時再推向市場。同時，教育對象應(yīng)是可以轉(zhuǎn)化為業(yè)務(wù)伙伴的用戶，而不是C端用戶。對于業(yè)務(wù)平臺來說，直接參與知識付費業(yè)務(wù)沒有那么合適，應(yīng)該謹(jǐn)慎對待。

Gnomic與Agent云：C端與B端的融合

在幾次業(yè)務(wù)嘗試之后，我們重新思考了匯智智能在大模型生態(tài)中的定位——我們將自己定位在應(yīng)用框架層，合作伙伴屬于垂直應(yīng)用層。

目前匯智智能的業(yè)務(wù)架構(gòu)是B端和C端融合的結(jié)構(gòu)。我們目前主要的兩個智能體平臺：Gnomic平臺面向C端創(chuàng)作者，提供定制化的智能體創(chuàng)意、分享與推廣服務(wù)。Agent云則為B端企業(yè)提供AI數(shù)字員工解決方案和云服務(wù)，幫助企業(yè)優(yōu)化成本、提升效率，提供決策支持。

截至今年5月底，Gnomic平臺擁有超過500萬用戶，原創(chuàng)智能體數(shù)量達(dá)7萬多個。像AI小王子、南瓜博士，還有數(shù)字生命卡茲克，都是我們最早一批內(nèi)測用戶。

Gnomic平臺面向的用戶群體很廣泛，我們可以通過這些智能體去觀察，有哪些場景適合我們做深入的業(yè)務(wù)探索。比如目前有3萬+休閑娛樂相關(guān)的智能體，例如角色扮演等，還有2萬+與工作學(xué)習(xí)相關(guān)，2萬+與金融和商業(yè)相關(guān)。

我們所有的智能體支持轉(zhuǎn)發(fā)或部署到微信公眾號、抖音號中，讓我們平臺的能力變成創(chuàng)作者在個人平臺里的能力。我們也會幫創(chuàng)作者做一些推廣，分享創(chuàng)作者作品讓更多人看見。希望能夠做到「與AI熱愛者同進(jìn)，與AI創(chuàng)造者共贏」。

Agent云平臺的定義是企業(yè)級的AI數(shù)字員工解決方案與云服務(wù)平臺。區(qū)別于過去的數(shù)字員工，Agent云定義的AI數(shù)字員工更突出與大模型結(jié)合帶來的新價值。具體有五大用戶價值點：

• 永生數(shù)字員工：每個智能體都會保留長期的工作協(xié)作記憶
• 一分鐘購買即用：從購買到部署到空間，可以在一分鐘之內(nèi)完成
• 企業(yè)知識管理：幫助企業(yè)搭建自己的行業(yè)專家級知識庫
• 智能體工作流：多個智能體在復(fù)雜工作流程中實現(xiàn)人機協(xié)作
• 自研AI技術(shù)棧：可以持續(xù)為用戶提供有升級演進(jìn)能力的技術(shù)服務(wù)

自研技術(shù)棧增強對技術(shù)的掌控力

匯智智能擁有自研大模型CarrotAI，預(yù)計今年下半年可通過備案，向公眾提供大模型服務(wù)。

有很多合作方和生態(tài)合作伙伴問我們，為什么作為平臺層公司，還要做自己的大模型？

因為我們覺得，如果只是做平臺層，往往會陷入身不由己的境地。最近大模型在大降價，相比直接我們的接入成本降了很多。但是對我們而言，成本可控比成本低更重要。

而且，當(dāng)我們熟悉從數(shù)據(jù)標(biāo)注到預(yù)訓(xùn)練的大模型開發(fā)全過程，再到最后微調(diào)、部署，我們自身也會有更強的技術(shù)掌控力。面對客戶的需求時，我們都可以通過自己的技術(shù)棧做快速的切入來提供服務(wù)。

我們希望通過Agent云平臺，能夠讓智能體成為企業(yè)組織的新基建。

面對更多的場景，僅靠匯智智能來承載是不夠的。這里為大家呈現(xiàn)的是，匯智智能生態(tài)合作伙伴的運營體系——城市運營中心。

最終我們希望通過匯智智能的大模型創(chuàng)新能力，為合作的城市運營中心提供技術(shù)上的賦能。讓身處于行業(yè)中的生態(tài)合作伙伴，去交付具體客戶。

比如像金融行業(yè)的客戶需要智能體業(yè)務(wù)，我們自己去了解行業(yè)再做成定制化產(chǎn)品，就會花費比較長的調(diào)研、開發(fā)時間，而對于金融行業(yè)的合作伙伴而言，就容易得多。我們將底層技術(shù)提供給金融行業(yè)的合作伙伴，由他們完成實際交付。相當(dāng)于把匯智的能力復(fù)制出去了。

我們這段時間也正在招募城市運營中心的合作伙伴，非常歡迎大家聯(lián)系我們交流合作。

以上就是我們目前在AIGC商業(yè)化探索中的一點經(jīng)驗。

企業(yè)協(xié)作有可能最先用好AI Agent

Q：在目前匯智智能的觀察中，在哪些場景或什么樣的工作，是Agent能夠完成得更好更優(yōu)質(zhì)的呢？為什么企業(yè)可以用Agent來代替原有的工作流？

匯智智能樊剛正：在Agent云中上線的智能體，大多數(shù)都是用于企業(yè)內(nèi)部協(xié)作的場景。我們覺得在企業(yè)內(nèi)部能最先能用好的Agent，比如像在釘釘、飛書這種企業(yè)協(xié)作工具里，在內(nèi)部平臺去加上智能體業(yè)務(wù)。

Q：目前匯智智能有哪些具體落地的案例，可以與大家分享？

匯智智能樊剛正：其實還挺多的。比如我們之前與江蘇的一個國企合作，提供企業(yè)內(nèi)部的協(xié)作服務(wù)。他們作為一家大企業(yè)，旗下有400多個子公司，內(nèi)部協(xié)作時有許多各部門共享的文檔，和需要同步的會議信息。

我們?yōu)樗麄兌ㄖ屏藘?nèi)部使用的智能體平臺。在平臺里，可以創(chuàng)建不同部門的智能體空間，每個空間的智能體都對應(yīng)了具體的員工，員工平時可以把日報和周報發(fā)給智能體。時間一長，對應(yīng)的智能體會非常了解這個人在做什么，平時在解決什么問題。

如此可以實現(xiàn)以下兩種場景。一個是記憶的傳承，當(dāng)原來員工離職后，新員工可以繼承他的智能體，遇到問題就可以向原來員工的智能體詢問。還有一個是記憶的共享，用戶可以調(diào)用不同身份的智能體。當(dāng)該身份員工不在時，可以向他的智能體尋求建議。智能體就像是一個員工的數(shù)字分身。

當(dāng)智能體平臺與監(jiān)控攝像頭相結(jié)合，還可以做到預(yù)測功能。比如過去火情監(jiān)測是靠煙霧、火苗的識別來做預(yù)警，那么通過監(jiān)測環(huán)境中的易燃物，可以提前預(yù)測火災(zāi)的可能性，同樣也可以預(yù)測火情的原因和適合什么設(shè)備來滅火。類似的監(jiān)測還可以用于校園霸凌的場景，比如發(fā)現(xiàn)多個學(xué)生圍著某個孩子時，就可能存在校園暴力的場景。

Q：那就您的觀察，目前智能體的用戶比較關(guān)注的Agent的功能是什么樣的呢？

匯智智能樊剛正：不同行業(yè)有不同關(guān)注的價值點。主要集中在三個方面，一個是快捷、一個是可塑，一個是性價比。

比如我們和一個咨詢公司的合作。對方主要是為企業(yè)提供數(shù)字化轉(zhuǎn)型咨詢服務(wù)的。當(dāng)用戶問他們有沒有AI平臺可以使用時，他們就只能推薦使用智譜，或者月之暗面這些平臺。那么，現(xiàn)在我們提供了定制化智能體平臺OEM服務(wù)，他們可以直接對客戶企業(yè)說：可以直接使用我們的平臺上的智能體產(chǎn)品。對于這樣的用戶，他們關(guān)注的就是平臺的快捷、可塑。

有的公司需要單獨做具備智能體功能的小程序開發(fā)，我們就提供了比較有競爭力的服務(wù)價格。對于生態(tài)合作伙伴，在開發(fā)費用、算力費用上都有不同程度的優(yōu)惠政策。相比企業(yè)自己去搭技術(shù)棧做這樣一個平臺，我們可以節(jié)約95%以上的成本。

Q：那么像現(xiàn)在大模型迭代也非?？?，那么智能體產(chǎn)品是否需要始終適配最新的大模型呢？

匯智智能樊剛正：不是這樣。以C端的視角來舉例：假設(shè)我是一個提示詞創(chuàng)作者，過去在ChatGPT上面創(chuàng)作了很多有意思的提示詞，但當(dāng)把這些提示詞搬到智譜，或者月之暗面的模型上面時，發(fā)現(xiàn)效果和GPT回答的并不一致，因為他們本身的能力是不一樣的。

那在企業(yè)端也是這樣的問題。比如已經(jīng)把智能體配置得很好，基于某種模型做了測試，調(diào)試后達(dá)到了一定的效果。如果有什么最好的模型馬上做更換的話，那相當(dāng)于提供的服務(wù)其實是不穩(wěn)定的?？赡軗Q了參數(shù)量、能力更強的模型，但不意味著一定能做更好的服務(wù)。我們更傾向于在這個場景下，當(dāng)模型已經(jīng)能實現(xiàn)用戶要求的時候，一般就不會做更換。

這也是去年行業(yè)里一個普遍的誤區(qū)，就是模型越大越好、模型一定要參數(shù)量越高越好。其實不是這樣的。小模型，相對來講更可控，而且成本更低，我們?nèi)プ鲞\營的調(diào)試成本也會更低。對于用戶來講，也能夠做更多定制化的東西。

Q：還有伙伴比較關(guān)心，如果用Agent來作為數(shù)字員工的話，涉及到任務(wù)的解答或者知識的繼承，對于準(zhǔn)確性還是有一定要求的，匯智智能如何看待智能體的數(shù)據(jù)準(zhǔn)確性呢？

匯智智能樊剛正：數(shù)據(jù)準(zhǔn)確這方面，其實有很多策略可以來解決。大家知道大模型有幻覺問題。比如大家關(guān)注的AI搜索：以前用大模型回答問題時，很難避免不出現(xiàn)幻覺。而AI搜索的邏輯是：用戶輸入問題后，后臺調(diào)用搜索的插件，比如Bing的插件去看搜索出來的結(jié)果，然后根據(jù)這些結(jié)果的文本內(nèi)容進(jìn)行總結(jié)，再回答你。

我們也可以在知識庫的層面去避免這種問題。如果你發(fā)現(xiàn)想提供給用戶的服務(wù)，在知識庫里沒有，互聯(lián)網(wǎng)上也找不到，那我們可以幫企業(yè)做信息上傳，進(jìn)行知識庫的處理。

我們還可以在提示詞里做避免幻覺的提示詞策略，比如要求AI回答的任何問題，都必須通過知識庫或互聯(lián)網(wǎng)連線去檢索回答，并提供依據(jù)。

另外。技術(shù)本身是有自己演進(jìn)過程的。我們現(xiàn)在也很難信任智能體來完成一些具體的金融行為，比如讓智能體幫我付錢。比如訂單點菜的智能體，萬一產(chǎn)生了幻覺，付款付多或者付少了怎么辦？

所以我們需要有長遠(yuǎn)的技術(shù)視角。現(xiàn)在在某些場景下，智能體已經(jīng)可以比較準(zhǔn)確地解決問題，但是在某些要求特別精準(zhǔn)的環(huán)境里，我們可能要期待未來的技術(shù)來解決這些問題。

關(guān)于365行AI落地方案

AI技術(shù)的落地應(yīng)用不僅限于科技領(lǐng)域，它已經(jīng)滲透到各行各業(yè)，成為推動產(chǎn)業(yè)升級的重要力量。因此，“365行AI落地方案”主題策劃應(yīng)運而生，我們尋找各行各業(yè)中成功應(yīng)用AI技術(shù)的案例和方案，分享給更多的產(chǎn)業(yè)內(nèi)人士。

—?完?—