GPT Store都開不下去，這家平臺怎么敢走這條路的？？

衡宇 2024-04-19 17:41:57 來源：量子位

衡宇 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

注意看，這個男人把超1000種大模型接入，讓你可插拔無縫切換使用。

最近還上線了可視化的AI工作流：

給你一個直觀的拖放界面，拖拖、拉拉、拽拽，就能在無限畫布上編排自己個兒的Workflow。

正所謂兵貴神速，量子位聽說，這個AI Workflow上線不到48小時，就已經(jīng)有用戶配出了100多個節(jié)點的個人工作流。

不賣關(guān)子，今天要聊的就是LLMOps公司Dify，及其CEO張路宇。

張路宇也是Dify的創(chuàng)始人。

投身創(chuàng)業(yè)前，有11年的互聯(lián)網(wǎng)從業(yè)經(jīng)驗。搞產(chǎn)品設(shè)計，懂項目管理，也對SaaS有點自己的獨到見解。

后來他還在騰訊云CODING DevOps團(tuán)隊負(fù)責(zé)產(chǎn)品和運營管理工作，服務(wù)超百萬開發(fā)者用戶的平臺產(chǎn)品。

投身創(chuàng)業(yè)后，Dify迅速在他和團(tuán)隊的合力下成為“開源LLM應(yīng)用程序開發(fā)平臺”領(lǐng)域絕對的佼佼者，迄今在GitHub坐擁超22k星標(biāo)。

這一次，借著上新AI Workflow功能，我們專門找到張路宇，和這個幫20萬個AI應(yīng)用接上大模型的男人聊了聊。

他說：

未來的編程，可能就是編flow。

拖放拽完成workflow設(shè)置

不久前，AI大牛吳恩達(dá)發(fā)表了一個引發(fā)廣泛討論的觀點。他斷言，AI agent workflow將在今年推動人工智能取得巨大進(jìn)步，甚至可能超過下一代基礎(chǔ)模型。

吳恩達(dá)視workflow為一個重要趨勢，并呼吁所有從事AI工作的人都關(guān)注它。

于是Dify就趁熱打鐵地上線了AI workflow。（但其實Dify看到這個機(jī)會是在半年之前，這個我們待會說。）

正式上線后，它是醬嬸兒的：

核心是一個直觀的拖放界面。

用戶可以通過連接不同的節(jié)點，在一個無限的畫布上構(gòu)建自己的Workflow。

沒錯，是“無限畫布”——目前版本允許不斷擴(kuò)大可用節(jié)點的類型，且每個節(jié)點均可配置，用戶可以為每個節(jié)點定義輸入和輸出，確保workflow的工作邏輯和數(shù)據(jù)流動符合預(yù)期。

也就是說，你既可以端到端地測試你的Workflows，也可以單獨測試每個節(jié)點，快速定位問題所在。

值得注意的是，一些核心節(jié)點被優(yōu)先支持，包括：

• LLM：選擇任意一個主流的大型語言模型，并定義它的輸入和輸出
• 工具：使用內(nèi)置的和自定義的工具來擴(kuò)展你的 workflow 能夠?qū)崿F(xiàn)的功能。
• 意圖分類器：讓LLM對用戶的輸入自動分類，根據(jù)不同的類別進(jìn)行工作流轉(zhuǎn)。
• 知識檢索：為你的LLMs掛載來自現(xiàn)有知識庫的上下文數(shù)據(jù)。
• 代碼：執(zhí)行自定義的Python或Node.js代碼。
• If/Else塊：定義條件邏輯以創(chuàng)建分支的Workflows。

此外，AI workflow支持DSL的導(dǎo)入導(dǎo)出，張路宇稱其為“最酷的功能之一”。

簡單來說，用戶可以導(dǎo)出自己的workflows，然后導(dǎo)入到其它工作區(qū)，讓W(xué)orkflows來去自如，同時還能根據(jù)需要再次自定義它們。

這個特性為社區(qū)內(nèi)的合作、分享，以及在他人工作基礎(chǔ)上再構(gòu)建，打開了一扇窗戶。

并且workflow中可以利用Dify平臺的全部能力，用戶已經(jīng)設(shè)置好檢索方案的知識庫、平臺提供的第一方豐富工具、自定義的工具等，都能作為其中一個節(jié)點能力編排。

可以說是和Dify生態(tài)無縫適配了。

不會把門檻降到無限低

AI Workflow上線后，Dify就有了兩種應(yīng)用模式。

一種是Workflow，一種則是傳統(tǒng)的Chatflow。

“絕大多數(shù)用戶會使用傳統(tǒng)的Chatbot類型，它背后沒有復(fù)雜的邏輯，基本上依靠接入的大模型的自我運作。”張路宇解釋道，相比之下，Workflow會強大很多，但這不代表不能用Workflow做出聊天機(jī)器人。

這下就明了了，“workflow”雖然翻譯為工作流，但其實代表的是Dify背后的運作機(jī)制。

而Dify之所以朝這樣一個方向進(jìn)化，原因是團(tuán)隊有自己的“信仰”。

我們認(rèn)為，未來的編程，可能編的就是（work）flow。

據(jù)了解，Dify的下一步規(guī)劃，是上線RAG的Pipeline，以及prompt的協(xié)同范式。

那么，不斷給自己打補丁的Dify，到底把哪些群體視為自己的用戶和潛在用戶？

“假設(shè)全中國有1000萬名開發(fā)者，其中有50萬人現(xiàn)在有能力去創(chuàng)作、去影響別人，大模型對他們有天然的吸引力；剩下的人需要時間去理解和接納新事物。”

有價值的、有留存的、能充分產(chǎn)品化的，在自己行業(yè)或技能有豐富技能的人——張路宇這么來“界定”Dify服務(wù)的主要用戶群體，并稱其為“真正的我們認(rèn)為的專業(yè)的開發(fā)者，或者說這個有極具創(chuàng)造力的創(chuàng)新者”。

這部分群體，在所有人群中占比不超過10%。

所以，張路宇也坦白，DIfy一直做的事是降低工具的使用門檻，但門檻不會低到?jīng)]有。

Dify更不會把使用門檻降為零。

我們還聊到了功能上線時間的選擇。

Dify上線AI Workflow的時間并不早，去年下半年起，借著Agent概念大熱的東風(fēng)，不少創(chuàng)業(yè)公司就已經(jīng)上線了類似功能。

但Dify稱這個時間是主動選擇的時機(jī)，在GPTs上線前，團(tuán)隊就對Workflow的機(jī)會有所洞察。

既想觀察模型側(cè)和產(chǎn)品側(cè)的動態(tài)，又要交付完整能力，不打沒有準(zhǔn)備好的仗，“我們其實節(jié)奏故意放慢了一些。”

出身大廠，“但我離經(jīng)叛道”

Dify有自己的節(jié)奏，大約和團(tuán)隊對自我技術(shù)的評估有關(guān)系。

當(dāng)被問及是否擔(dān)心大廠下場擠壓市場空間時，得到的答案是正面的三個字：不害怕。

他們的理由是這樣的：

一來，市場競爭似乎并沒有那么緊迫與激烈。

去年5月Dify成立時，核心創(chuàng)始團(tuán)隊一直擔(dān)心入場時間過晚，怕有團(tuán)隊先聲奪人，“但事實是，沒有別的團(tuán)隊做起來”。

二來，大廠往往是因為看到市場上有這么一個機(jī)會，供給推動，而選擇押注；Dify則是因為看到切實需求才驅(qū)動研發(fā)。

不僅不怕大廠，Dify也不懼同類創(chuàng)業(yè)公司的力量。

張路宇表示，雖然有許許多多的現(xiàn)在這一波創(chuàng)業(yè)者，大多還是十年前的那一波創(chuàng)業(yè)者。這群人身上的標(biāo)簽，是在大廠進(jìn)行過修煉。

“在打上大廠經(jīng)歷標(biāo)簽的同時，大廠部門之間寫作流程復(fù)雜等，也成為了這些人固有的思維模版?！?/p>

同樣在大廠呆過的張路宇，稱自己是“大廠叛逆者”，標(biāo)榜著自己的離經(jīng)叛道——

我不歸于（被思維掣肘）的那一類。我第一份工作在一個很大的游戲公司，21歲，當(dāng)工程師。那時候只要我判斷我做的事有價值，產(chǎn)品很好，我會忽略一切流程，把產(chǎn)品弄上線，叫偷渡上線。
這在很多公司屬于違規(guī)，但我一定要做。為什么呢？如果按流程走，可能走不通；但我把它上線，用戶體驗后帶來的價值是顯著的。

這和創(chuàng)業(yè)一樣，需要接受風(fēng)險。

創(chuàng)業(yè)有風(fēng)險，下場需謹(jǐn)慎，好在有一些令張路宇高興的事情。

他說，過去一年最興奮的事情，就是有特別多的年輕人在涌入這個行業(yè)，有無數(shù)頂尖學(xué)校的應(yīng)屆生愿意投身到里面來。

這群人不缺好的機(jī)會，畢業(yè)后輕松能拿下500強或大廠的高職級，但現(xiàn)在愿意拿非常少的錢來做大模型相關(guān)的事情。

“在以前，我們?nèi)绻胝衅高@樣的人是很難的，甚至不知道從哪里去找到這樣的簡歷，更別提說服他們來加入?！?/p>

“這樣的人在我們公司內(nèi)部有很多嗎？”

“已經(jīng)至少有1/3？但這個比例我認(rèn)為還不夠高，這些人應(yīng)該成為我們的主力。”