00后華人大模型創(chuàng)業(yè)，組隊7人挑戰(zhàn)langchain，硅谷頂級創(chuàng)始人給了天使投資
開發(fā)者新玩具，還不愁寫不好prompt（doge）
衡宇 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
2個華人牽頭拉起一支7人隊伍，創(chuàng)業(yè)大模型？？？
沒錯，Cortex就是這樣一個項目，被曝還拿下了還拿下了Zoom系，Getty家族和快手系的天使投資。
這是一個集成諸多大模型API后，讓大模型更懂你的中間件。
主打特色有二：
一是外接私有數(shù)據(jù)，包括Notion、Slack、Google Drive等，做特定領(lǐng)域的私有版GPT；
另一件事是在每個企業(yè)內(nèi)部，打造千人千面的Copilot。
這個工具在國外已經(jīng)小小火了一把，目前擁有10多家付費用戶和上千個人用戶。
還有家網(wǎng)紅SaaS公司用上了Cortex，讓網(wǎng)紅們以特定的人設(shè)，和粉絲們激情熱聊。
所謂大模型中間件，是在底層大模型和上層應(yīng)用之間的基礎(chǔ)軟件，主要解決大模型落地過程中，集成數(shù)據(jù)、應(yīng)用、知識庫，以及大模型融合級功能協(xié)同這些問題。
比較適合那種正面臨兩難境地，又想在大模型領(lǐng)域試水的旁友們：
自己造一個通用大模型，又貴又麻煩；那單純訓(xùn)更垂直的行業(yè)大模型，或者調(diào)用別人家的大模型的API呢？好像又有些不夠用。
這個時候，中間件帶著解決方案閃亮登場了。
隨著大模型領(lǐng)域的愈發(fā)深入，大模型中間件的創(chuàng)業(yè)項目也先后冒了出來。能入硅谷頂級創(chuàng)始人青眼，Cortex憑借的是什么？
Cortex能夠做什么？
Cortex，可以將GPT-4等多個不同的大模型組合使用，實現(xiàn)語言模型之間的協(xié)同應(yīng)用。
也就是說，它是個大模型應(yīng)用層的編排器。
主要目的是提高技術(shù)人員開發(fā)的“可拓展性、可訪問性和效率”。
之所以叫Cortex，是取這個英文單詞“大腦皮層”的意思。
大腦是神經(jīng)中樞，可以看做大模型，而皮層就是大腦上面的結(jié)構(gòu)。
它能做的事情，就是按需調(diào)用不同的大模型，并用固定的格式來限制輸出的自由度，從而幫助用戶做些單一大模型解決不了，或自己調(diào)用多個大模型API會比較麻煩的事情。
具體而言，它的功能主要是以下兩方面：
第一，作為集成許多API的工具，外接私有數(shù)據(jù)庫，“指哪兒打哪兒”地變成一個專一領(lǐng)域大模型。
從這個角度來看，Cortex走的是既“廣”又“深”的路子。
廣，是說Cortex不與個別行業(yè)服務(wù)競爭，而是可以每個領(lǐng)域都用它練出大模型應(yīng)用。
深，是說在大模型通用知識基礎(chǔ)上，可以接入私有數(shù)據(jù)庫，加深對領(lǐng)域或用戶企業(yè)本身的理解。
為了讓這個專一領(lǐng)域大模型更實用，Cortex會采取調(diào)用向量數(shù)據(jù)、實時聯(lián)網(wǎng)搜索、調(diào)用指定API等方式。
Cortex的第二個功能，是能幫助每個人打造一個私人copilot。
基礎(chǔ)層面的工作，如撰寫草稿、制作PPT、編寫電郵、總結(jié)會議、查詢網(wǎng)購?fù)素浄绞?，Cortex都能搞定。
進(jìn)一步的，在同一公司內(nèi)部，喂給它一份原始的信息，Cortex也能獲取每個人崗位所需要的關(guān)鍵點，并以特定格式輸出，即根據(jù)業(yè)務(wù)部門的不同而“千人千面”。
據(jù)了解，Cortex的費用根據(jù)實際使用量計算。
就計費方式和服務(wù)模式而言，Cortex似乎可以類比為鏈接數(shù)據(jù)庫和大模型的“云廠商”，聚集多種多樣的API資源后，保證所有的功能都能一直運作，提供相關(guān)服務(wù)。
也因為如此，Cortex還蠻受開發(fā)人員的歡迎——Cortex主要面向的就是有一定技術(shù)基礎(chǔ)的開發(fā)者和IT從業(yè)人員，他們可以很快上手，大大減少從調(diào)試開始的工作量，節(jié)省時間去做更有創(chuàng)造性的事情。
對不擅長寫prompt的程序員格外友好
為什么會選擇做這樣一個功能的大模型中間件？為了弄清楚答案，量子位聯(lián)系了Cortex背后的團(tuán)隊。
他們給出的答案是，因為相信未來一定是一個多模態(tài)、多模型的世界。如果只有一個模型，哪怕強(qiáng)大如GPT-4，也無法搞定所有問題。
他們認(rèn)為，必須“把多個模型聯(lián)系在一起，才能組織一個真正的AI應(yīng)用”。
而這樣的功能實現(xiàn)，在團(tuán)隊核心成員初期想用Langchain去做的時候，“越做越發(fā)現(xiàn)非常困難”，AI領(lǐng)域目前缺少一個幫助模型層和應(yīng)用層磨合的中間件來完成它的建設(shè)。
Cortex背后團(tuán)隊的創(chuàng)始成員（也是背后公司的CEO）Nemo Yang對量子位表示：
不管已有的平臺還是工具能夠提供的能力，都無法很好地滿足這樣的idea。
團(tuán)隊最初也走過其他路子，但隨著對領(lǐng)域的了解，聽到越來越多的用戶反饋稱，大模型挺好用的，但是出一個厲害的大模型就要接入一個API太過麻煩，對大模型調(diào)控性的掌握也比較困難。
受到這樣的啟發(fā)，Cortex才逐步打磨成了今天的樣子。
Cortex的成形大概離不開用戶對市場現(xiàn)狀的一個反饋，在與量子位的交流中，Nemo反復(fù)多次提到“用戶說”“市場反饋”這樣的字樣，然后解釋Cortex是如何根據(jù)這些信息來捏出產(chǎn)品的特點的。
比如隨著大模型大火而愈發(fā)走到眾人面前的向量數(shù)據(jù)庫，就有市場反饋如果對上下文關(guān)聯(lián)很強(qiáng)的文章進(jìn)行向量分割，檢索匹配后返回的答案，可能因為痛失對上下文的理解而“不知所謂”。
根據(jù)這一點，Cortex調(diào)用的向量數(shù)據(jù)庫是完全自研的，可以根據(jù)需要全局檢索，也可以選擇一段一段地部分返回。
再比如，身為團(tuán)隊里“語文底蘊最好”的人，Nemo實操下來還是覺得，對程序員來說，prompt engineering看上去簡單，其實要出色完成并不容易。
所以Cortex有個設(shè)計對不擅長撰寫prompt的開發(fā)者極其友好：
能夠讓擅長寫prompt的同事啥的（也就是俗稱的語文好，能夠?qū)π枨筮M(jìn)行精準(zhǔn)描述），加入工作流程，讓Cortex更清晰地了解你需要什么。
之后還會有什么功能上新呢？
Nemo介紹，接下來大概率會接入Slack confluence、 Microsoft全家桶、 Google全家桶等。
一切為了一個最終目的，那就是Developer first，盡可能減少開發(fā)者的開發(fā)周期。
團(tuán)隊介紹
Cortex背后的公司叫做Kinesys AI，目前團(tuán)隊7人全職，2名創(chuàng)始人均為華人，多人從斯坦福本碩畢業(yè)。
創(chuàng)始人兼CEO，Nemo Yang，00后，花了2年時間，拿下佐治亞理工學(xué)院本碩學(xué)位，ML出身，之前在字節(jié)飛書和微軟工作過。
14歲的時候，Nemo就因為喜歡計算機(jī)，只身前往硅谷留學(xué)。高中起，他開始寫網(wǎng)站和App，參與過startup的開發(fā)工作。
聯(lián)合創(chuàng)始人兼CTO，Jian Cai，畢業(yè)于北京大學(xué)計算機(jī)系，曾在Google工作8年。
他的上一份創(chuàng)業(yè)項目是在線協(xié)作辦公文檔“一起寫”，后來被快手收購。
Cortex直達(dá)：
https://trycortex.ai
