Agent云服務(wù)，不止做平臺(tái)｜量子位·視點(diǎn) x 匯智智能

林樾 2024-06-17 10:59:34 來(lái)源：量子位

允中 發(fā)自 凹非寺
量子位｜公眾號(hào) QbitAI

AI Agent熱度不低，但是企業(yè)真的在使用智能體了嗎？

為了更加了解AI Agent落地現(xiàn)狀，量子位·視點(diǎn)邀請(qǐng)到了匯智智能聯(lián)合創(chuàng)始人樊剛正，一同來(lái)交流AI Agent正在以什么樣的方式與具體場(chǎng)景相融合。

樊剛正與我們分享了Agent公司來(lái)自實(shí)踐一線的觀察與思考。從本地生活+AI，到AI教育，再到分別面向C端和B端的智能體平臺(tái)，匯智智能圍繞Agent的落地做了不少的嘗試探索。

那么AI Agent的價(jià)值點(diǎn)在哪里？最適合AI Agent落地的場(chǎng)景是什么？一線用戶對(duì)智能體需求的真實(shí)反饋是什么？

以下在不改變?cè)獾幕A(chǔ)上，根據(jù)分享內(nèi)容整理成稿。

技術(shù)的引入需要解決實(shí)際問(wèn)題，而非增加復(fù)雜度。

先考慮做單點(diǎn)突破，再去考慮做泛化通用。

不是去造飛機(jī)大炮，而是要在AI商業(yè)化中造子彈。

企業(yè)內(nèi)部能最先能用好的Agent，比如像在釘釘、飛書這種企業(yè)協(xié)作工具里。

今天在分享中，我更傾向于向大家去呈現(xiàn)：我們?cè)贏gent落地方面經(jīng)歷了什么樣的探索，然后在落地探索中，我們吸取了哪些經(jīng)驗(yàn)。我覺(jué)得這個(gè)實(shí)際業(yè)務(wù)當(dāng)中的一些經(jīng)驗(yàn)，可能對(duì)于大家來(lái)講更有啟發(fā)，也更有價(jià)值。

匯智智能最早是做本地生活，還有游戲相關(guān)的業(yè)務(wù)。所以最初我們轉(zhuǎn)向做AIGC的時(shí)候，也嘗試過(guò)和我們過(guò)去的業(yè)務(wù)做一些結(jié)合。

我覺(jué)得任何從傳統(tǒng)業(yè)務(wù)，或者從互聯(lián)網(wǎng)行業(yè)轉(zhuǎn)型做AI的公司可能都會(huì)經(jīng)歷過(guò)這樣的步驟，先去考慮AI和我原有業(yè)務(wù)怎么去做結(jié)合，然后再想如何僅基于AIGC去做產(chǎn)品。這也就是從應(yīng)用+AI到AI原生的這么一個(gè)路徑。

技術(shù)的引入需要解決實(shí)際問(wèn)題，而非增加復(fù)雜度

最早匯智智能做的小程序是面向本地生活商家，主要是為用戶提供運(yùn)營(yíng)管理的工具，通過(guò)抖音MCN，以派單的方式給達(dá)人一些線上任務(wù)。

加入AI大模型后，我們先后推出了旺氪小程序和智能體AI小程序。除了接單派單的功能，還加了內(nèi)容生成的工具化服務(wù)。比如說(shuō)用戶可以在小程序里生成門店圖片，或景區(qū)風(fēng)景合影照片。當(dāng)時(shí)上線了非常多的插件類工具，我們?cè)趦?nèi)部把這個(gè)叫做智應(yīng)用。

但在這個(gè)過(guò)程當(dāng)中，我們發(fā)現(xiàn)：即使有一些流程指引，商家反饋的使用效果也不是很好。加了AI的功能之后，部分視頻是AI生成的，部分文案是AI生成的，但對(duì)商家來(lái)講，他們覺(jué)得步驟變多了，但我拿到的東西還是和過(guò)去一樣。

在一開(kāi)始轉(zhuǎn)型做AI業(yè)務(wù)的時(shí)候往往會(huì)發(fā)生這樣的問(wèn)題，想當(dāng)然地認(rèn)為可以用AI去改造現(xiàn)有的生產(chǎn)環(huán)節(jié)，或者認(rèn)為這能夠替代一切原有的內(nèi)容生產(chǎn)。但實(shí)際使用時(shí)會(huì)發(fā)現(xiàn)，ROI并沒(méi)有想象的高。

在應(yīng)用AI時(shí)我們需要謹(jǐn)慎，特別是在沒(méi)有顛覆性創(chuàng)新之前，技術(shù)的引入必須真正解決實(shí)際問(wèn)題，而不是增加復(fù)雜度。

另外我也給大家一個(gè)建議，就是先考慮做單點(diǎn)突破，再去考慮做泛化通用。過(guò)于泛的場(chǎng)景應(yīng)用容易導(dǎo)致各個(gè)場(chǎng)景只能拿到60分，但對(duì)用戶來(lái)說(shuō)，如果你只能在一個(gè)場(chǎng)景中解決60%的問(wèn)題，其實(shí)解決0%的問(wèn)題沒(méi)有區(qū)別。

AI教育與人才培養(yǎng)的嘗試

在上面的嘗試中我們也發(fā)現(xiàn)：AI的轉(zhuǎn)型落地依賴于相關(guān)人才來(lái)完成最后100米的落地部署。這種人才在國(guó)內(nèi)來(lái)講是比較少的，真正能稱得上是大模型工程師的人其實(shí)不多，這也導(dǎo)致項(xiàng)目落地時(shí)，沒(méi)辦法提供很高的交付能力。

所以我們希望為市場(chǎng)培育更多人才，這對(duì)整個(gè)行業(yè)都是有價(jià)值的。于是我們想把過(guò)去內(nèi)部業(yè)務(wù)培訓(xùn)的內(nèi)容，拿出來(lái)做成對(duì)外的課程。但它也沒(méi)有太強(qiáng)的生命力。

因?yàn)樵跊](méi)有積累豐富的AI落地案例的時(shí)候，課程更多偏大模型本身的技術(shù)學(xué)習(xí)。所以面向的學(xué)員群體非常窄，推廣難度大，沒(méi)有能夠吸引很多人來(lái)加入這個(gè)行業(yè)。另外，教育內(nèi)容的研發(fā)和推廣周期長(zhǎng)，導(dǎo)致課程上線時(shí)已落后于市場(chǎng)需求。

我們的經(jīng)驗(yàn)是，AI教育應(yīng)從業(yè)務(wù)中自然生長(zhǎng)，當(dāng)有足夠多的經(jīng)驗(yàn)案例時(shí)再推向市場(chǎng)。同時(shí)，教育對(duì)象應(yīng)是可以轉(zhuǎn)化為業(yè)務(wù)伙伴的用戶，而不是C端用戶。對(duì)于業(yè)務(wù)平臺(tái)來(lái)說(shuō)，直接參與知識(shí)付費(fèi)業(yè)務(wù)沒(méi)有那么合適，應(yīng)該謹(jǐn)慎對(duì)待。

Gnomic與Agent云：C端與B端的融合

在幾次業(yè)務(wù)嘗試之后，我們重新思考了匯智智能在大模型生態(tài)中的定位——我們將自己定位在應(yīng)用框架層，合作伙伴屬于垂直應(yīng)用層。

目前匯智智能的業(yè)務(wù)架構(gòu)是B端和C端融合的結(jié)構(gòu)。我們目前主要的兩個(gè)智能體平臺(tái)：Gnomic平臺(tái)面向C端創(chuàng)作者，提供定制化的智能體創(chuàng)意、分享與推廣服務(wù)。Agent云則為B端企業(yè)提供AI數(shù)字員工解決方案和云服務(wù)，幫助企業(yè)優(yōu)化成本、提升效率，提供決策支持。

截至今年5月底，Gnomic平臺(tái)擁有超過(guò)500萬(wàn)用戶，原創(chuàng)智能體數(shù)量達(dá)7萬(wàn)多個(gè)。像AI小王子、南瓜博士，還有數(shù)字生命卡茲克，都是我們最早一批內(nèi)測(cè)用戶。

Gnomic平臺(tái)面向的用戶群體很廣泛，我們可以通過(guò)這些智能體去觀察，有哪些場(chǎng)景適合我們做深入的業(yè)務(wù)探索。比如目前有3萬(wàn)+休閑娛樂(lè)相關(guān)的智能體，例如角色扮演等，還有2萬(wàn)+與工作學(xué)習(xí)相關(guān)，2萬(wàn)+與金融和商業(yè)相關(guān)。

我們所有的智能體支持轉(zhuǎn)發(fā)或部署到微信公眾號(hào)、抖音號(hào)中，讓我們平臺(tái)的能力變成創(chuàng)作者在個(gè)人平臺(tái)里的能力。我們也會(huì)幫創(chuàng)作者做一些推廣，分享創(chuàng)作者作品讓更多人看見(jiàn)。希望能夠做到「與AI熱愛(ài)者同進(jìn)，與AI創(chuàng)造者共贏」。

Agent云平臺(tái)的定義是企業(yè)級(jí)的AI數(shù)字員工解決方案與云服務(wù)平臺(tái)。區(qū)別于過(guò)去的數(shù)字員工，Agent云定義的AI數(shù)字員工更突出與大模型結(jié)合帶來(lái)的新價(jià)值。具體有五大用戶價(jià)值點(diǎn)：

• 永生數(shù)字員工：每個(gè)智能體都會(huì)保留長(zhǎng)期的工作協(xié)作記憶
• 一分鐘購(gòu)買即用：從購(gòu)買到部署到空間，可以在一分鐘之內(nèi)完成
• 企業(yè)知識(shí)管理：幫助企業(yè)搭建自己的行業(yè)專家級(jí)知識(shí)庫(kù)
• 智能體工作流：多個(gè)智能體在復(fù)雜工作流程中實(shí)現(xiàn)人機(jī)協(xié)作
• 自研AI技術(shù)棧：可以持續(xù)為用戶提供有升級(jí)演進(jìn)能力的技術(shù)服務(wù)

自研技術(shù)棧增強(qiáng)對(duì)技術(shù)的掌控力

匯智智能擁有自研大模型CarrotAI，預(yù)計(jì)今年下半年可通過(guò)備案，向公眾提供大模型服務(wù)。

有很多合作方和生態(tài)合作伙伴問(wèn)我們，為什么作為平臺(tái)層公司，還要做自己的大模型？

因?yàn)槲覀冇X(jué)得，如果只是做平臺(tái)層，往往會(huì)陷入身不由己的境地。最近大模型在大降價(jià)，相比直接我們的接入成本降了很多。但是對(duì)我們而言，成本可控比成本低更重要。

而且，當(dāng)我們熟悉從數(shù)據(jù)標(biāo)注到預(yù)訓(xùn)練的大模型開(kāi)發(fā)全過(guò)程，再到最后微調(diào)、部署，我們自身也會(huì)有更強(qiáng)的技術(shù)掌控力。面對(duì)客戶的需求時(shí)，我們都可以通過(guò)自己的技術(shù)棧做快速的切入來(lái)提供服務(wù)。

我們希望通過(guò)Agent云平臺(tái)，能夠讓智能體成為企業(yè)組織的新基建。

面對(duì)更多的場(chǎng)景，僅靠匯智智能來(lái)承載是不夠的。這里為大家呈現(xiàn)的是，匯智智能生態(tài)合作伙伴的運(yùn)營(yíng)體系——城市運(yùn)營(yíng)中心。

最終我們希望通過(guò)匯智智能的大模型創(chuàng)新能力，為合作的城市運(yùn)營(yíng)中心提供技術(shù)上的賦能。讓身處于行業(yè)中的生態(tài)合作伙伴，去交付具體客戶。

比如像金融行業(yè)的客戶需要智能體業(yè)務(wù)，我們自己去了解行業(yè)再做成定制化產(chǎn)品，就會(huì)花費(fèi)比較長(zhǎng)的調(diào)研、開(kāi)發(fā)時(shí)間，而對(duì)于金融行業(yè)的合作伙伴而言，就容易得多。我們將底層技術(shù)提供給金融行業(yè)的合作伙伴，由他們完成實(shí)際交付。相當(dāng)于把匯智的能力復(fù)制出去了。

我們這段時(shí)間也正在招募城市運(yùn)營(yíng)中心的合作伙伴，非常歡迎大家聯(lián)系我們交流合作。

以上就是我們目前在AIGC商業(yè)化探索中的一點(diǎn)經(jīng)驗(yàn)。

企業(yè)協(xié)作有可能最先用好AI Agent

Q：在目前匯智智能的觀察中，在哪些場(chǎng)景或什么樣的工作，是Agent能夠完成得更好更優(yōu)質(zhì)的呢？為什么企業(yè)可以用Agent來(lái)代替原有的工作流？

匯智智能樊剛正：在Agent云中上線的智能體，大多數(shù)都是用于企業(yè)內(nèi)部協(xié)作的場(chǎng)景。我們覺(jué)得在企業(yè)內(nèi)部能最先能用好的Agent，比如像在釘釘、飛書這種企業(yè)協(xié)作工具里，在內(nèi)部平臺(tái)去加上智能體業(yè)務(wù)。

Q：目前匯智智能有哪些具體落地的案例，可以與大家分享？

匯智智能樊剛正：其實(shí)還挺多的。比如我們之前與江蘇的一個(gè)國(guó)企合作，提供企業(yè)內(nèi)部的協(xié)作服務(wù)。他們作為一家大企業(yè)，旗下有400多個(gè)子公司，內(nèi)部協(xié)作時(shí)有許多各部門共享的文檔，和需要同步的會(huì)議信息。

我們?yōu)樗麄兌ㄖ屏藘?nèi)部使用的智能體平臺(tái)。在平臺(tái)里，可以創(chuàng)建不同部門的智能體空間，每個(gè)空間的智能體都對(duì)應(yīng)了具體的員工，員工平時(shí)可以把日?qǐng)?bào)和周報(bào)發(fā)給智能體。時(shí)間一長(zhǎng)，對(duì)應(yīng)的智能體會(huì)非常了解這個(gè)人在做什么，平時(shí)在解決什么問(wèn)題。

如此可以實(shí)現(xiàn)以下兩種場(chǎng)景。一個(gè)是記憶的傳承，當(dāng)原來(lái)員工離職后，新員工可以繼承他的智能體，遇到問(wèn)題就可以向原來(lái)員工的智能體詢問(wèn)。還有一個(gè)是記憶的共享，用戶可以調(diào)用不同身份的智能體。當(dāng)該身份員工不在時(shí)，可以向他的智能體尋求建議。智能體就像是一個(gè)員工的數(shù)字分身。

當(dāng)智能體平臺(tái)與監(jiān)控?cái)z像頭相結(jié)合，還可以做到預(yù)測(cè)功能。比如過(guò)去火情監(jiān)測(cè)是靠煙霧、火苗的識(shí)別來(lái)做預(yù)警，那么通過(guò)監(jiān)測(cè)環(huán)境中的易燃物，可以提前預(yù)測(cè)火災(zāi)的可能性，同樣也可以預(yù)測(cè)火情的原因和適合什么設(shè)備來(lái)滅火。類似的監(jiān)測(cè)還可以用于校園霸凌的場(chǎng)景，比如發(fā)現(xiàn)多個(gè)學(xué)生圍著某個(gè)孩子時(shí)，就可能存在校園暴力的場(chǎng)景。

Q：那就您的觀察，目前智能體的用戶比較關(guān)注的Agent的功能是什么樣的呢？

匯智智能樊剛正：不同行業(yè)有不同關(guān)注的價(jià)值點(diǎn)。主要集中在三個(gè)方面，一個(gè)是快捷、一個(gè)是可塑，一個(gè)是性價(jià)比。

比如我們和一個(gè)咨詢公司的合作。對(duì)方主要是為企業(yè)提供數(shù)字化轉(zhuǎn)型咨詢服務(wù)的。當(dāng)用戶問(wèn)他們有沒(méi)有AI平臺(tái)可以使用時(shí)，他們就只能推薦使用智譜，或者月之暗面這些平臺(tái)。那么，現(xiàn)在我們提供了定制化智能體平臺(tái)OEM服務(wù)，他們可以直接對(duì)客戶企業(yè)說(shuō)：可以直接使用我們的平臺(tái)上的智能體產(chǎn)品。對(duì)于這樣的用戶，他們關(guān)注的就是平臺(tái)的快捷、可塑。

有的公司需要單獨(dú)做具備智能體功能的小程序開(kāi)發(fā)，我們就提供了比較有競(jìng)爭(zhēng)力的服務(wù)價(jià)格。對(duì)于生態(tài)合作伙伴，在開(kāi)發(fā)費(fèi)用、算力費(fèi)用上都有不同程度的優(yōu)惠政策。相比企業(yè)自己去搭技術(shù)棧做這樣一個(gè)平臺(tái)，我們可以節(jié)約95%以上的成本。

Q：那么像現(xiàn)在大模型迭代也非常快，那么智能體產(chǎn)品是否需要始終適配最新的大模型呢？

匯智智能樊剛正：不是這樣。以C端的視角來(lái)舉例：假設(shè)我是一個(gè)提示詞創(chuàng)作者，過(guò)去在ChatGPT上面創(chuàng)作了很多有意思的提示詞，但當(dāng)把這些提示詞搬到智譜，或者月之暗面的模型上面時(shí)，發(fā)現(xiàn)效果和GPT回答的并不一致，因?yàn)樗麄儽旧淼哪芰κ遣灰粯拥摹?/p>

那在企業(yè)端也是這樣的問(wèn)題。比如已經(jīng)把智能體配置得很好，基于某種模型做了測(cè)試，調(diào)試后達(dá)到了一定的效果。如果有什么最好的模型馬上做更換的話，那相當(dāng)于提供的服務(wù)其實(shí)是不穩(wěn)定的?？赡軗Q了參數(shù)量、能力更強(qiáng)的模型，但不意味著一定能做更好的服務(wù)。我們更傾向于在這個(gè)場(chǎng)景下，當(dāng)模型已經(jīng)能實(shí)現(xiàn)用戶要求的時(shí)候，一般就不會(huì)做更換。

這也是去年行業(yè)里一個(gè)普遍的誤區(qū)，就是模型越大越好、模型一定要參數(shù)量越高越好。其實(shí)不是這樣的。小模型，相對(duì)來(lái)講更可控，而且成本更低，我們?nèi)プ鲞\(yùn)營(yíng)的調(diào)試成本也會(huì)更低。對(duì)于用戶來(lái)講，也能夠做更多定制化的東西。

Q：還有伙伴比較關(guān)心，如果用Agent來(lái)作為數(shù)字員工的話，涉及到任務(wù)的解答或者知識(shí)的繼承，對(duì)于準(zhǔn)確性還是有一定要求的，匯智智能如何看待智能體的數(shù)據(jù)準(zhǔn)確性呢？

匯智智能樊剛正：數(shù)據(jù)準(zhǔn)確這方面，其實(shí)有很多策略可以來(lái)解決。大家知道大模型有幻覺(jué)問(wèn)題。比如大家關(guān)注的AI搜索：以前用大模型回答問(wèn)題時(shí)，很難避免不出現(xiàn)幻覺(jué)。而AI搜索的邏輯是：用戶輸入問(wèn)題后，后臺(tái)調(diào)用搜索的插件，比如Bing的插件去看搜索出來(lái)的結(jié)果，然后根據(jù)這些結(jié)果的文本內(nèi)容進(jìn)行總結(jié)，再回答你。

我們也可以在知識(shí)庫(kù)的層面去避免這種問(wèn)題。如果你發(fā)現(xiàn)想提供給用戶的服務(wù)，在知識(shí)庫(kù)里沒(méi)有，互聯(lián)網(wǎng)上也找不到，那我們可以幫企業(yè)做信息上傳，進(jìn)行知識(shí)庫(kù)的處理。

我們還可以在提示詞里做避免幻覺(jué)的提示詞策略，比如要求AI回答的任何問(wèn)題，都必須通過(guò)知識(shí)庫(kù)或互聯(lián)網(wǎng)連線去檢索回答，并提供依據(jù)。

另外。技術(shù)本身是有自己演進(jìn)過(guò)程的。我們現(xiàn)在也很難信任智能體來(lái)完成一些具體的金融行為，比如讓智能體幫我付錢。比如訂單點(diǎn)菜的智能體，萬(wàn)一產(chǎn)生了幻覺(jué)，付款付多或者付少了怎么辦？

所以我們需要有長(zhǎng)遠(yuǎn)的技術(shù)視角?，F(xiàn)在在某些場(chǎng)景下，智能體已經(jīng)可以比較準(zhǔn)確地解決問(wèn)題，但是在某些要求特別精準(zhǔn)的環(huán)境里，我們可能要期待未來(lái)的技術(shù)來(lái)解決這些問(wèn)題。

關(guān)于365行AI落地方案

AI技術(shù)的落地應(yīng)用不僅限于科技領(lǐng)域，它已經(jīng)滲透到各行各業(yè)，成為推動(dòng)產(chǎn)業(yè)升級(jí)的重要力量。因此，“365行AI落地方案”主題策劃應(yīng)運(yùn)而生，我們尋找各行各業(yè)中成功應(yīng)用AI技術(shù)的案例和方案，分享給更多的產(chǎn)業(yè)內(nèi)人士。

—?完?—