《西游記》把大模型給難倒了

豐色 2024-01-13 13:16:30 來源：量子位

• 衡宇 發(fā)自 凹非寺
  量子位 | 公眾號 QbitAI

問：《西游記》里，總共提到過孫悟空這只猴多少次？

咱問了問ChatGPT，ChatGPT連連搖頭，說《西游記》篇幅太長，它統(tǒng)計不出來。

不死心，又把這個問題問向了Claude。

Claude頻頻擺手，說因為不具備完整閱讀和分析長篇文學作品的能力，無法統(tǒng)計。

事實上，不僅僅是ChatGPT和Claude答不上來，市面上的大模型幾乎都無法（準確）回答這個問題。

除了《西游記》作為章回體小說，本身篇幅太長外，“孫悟空”還在書里有各種各樣的代詞指代，比如大圣、孫行者、美猴王、心猿、甚至是你/我/他……

于是，大模型們在這道題面前只能束手就擒。

然而，對于任何一名人類傳統(tǒng)程序員來說，這壓根不算一個難題，只要用編程、邏輯推理去解決，確定的答案很容易擺在眼前。

但如果非要把解決方式切回“大模型”模式，幻覺和精度，就是最直接的問題。

一家國內(nèi)的AI創(chuàng)業(yè)公司給出了它們的答案：選擇做個人AI計算機，用它補齊大模型和AI應(yīng)用間缺失的那一環(huán)。

嘗試統(tǒng)一神經(jīng)網(wǎng)路和高級編程語言

這家公司名為KMind，創(chuàng)始人吳翰清，他更為業(yè)內(nèi)人士所熟知的身份是阿里云的道哥/小黑，是前阿里云首席安全科學家、P10級研究員。

去年5月離職阿里后，他和阿里前同事陳冬白攜手創(chuàng)業(yè)，又邀請來西湖大學AutoLab（自主智能實驗室）負責人于開丞擔任首席科學家，KMind的核心團隊就這么搭建起來了。

在去年7月，KMind曾推出過一款面向C端用戶的AIGC效率工具。

7月份推出，不到3個月時間，這款A(yù)IGC效率工具已經(jīng)擁有了10萬用戶。

但困境伴隨而生：用戶流失率非常高。

吳翰清最終思考出的結(jié)論是，沒有人喜歡一個滿嘴謊話、不懂裝懂的人，尤其是那些從未接觸過AI、不知AI為何物的用戶，第一次用上AIGC效率工具，往往會把對方當成一個在和自己交流的真實的人。

這樣就會導致用戶一旦發(fā)現(xiàn)AI不靠譜，就會氣到當場棄用。

“目前LLM在解決幻覺問題上主要還是靠對齊，但這類技術(shù)治標不治本。要想徹底解決這個問題，我認為還得從LLM之外尋求答案?！?/p>

當然，“幻覺”僅僅是大模型存在的最大問題之一，另一個問題，也是大模型無法準確回答西游記里有多少孫悟空的另一個原因，是書中指代孫悟空的名詞、代詞太多，大模型目前的推理能力還無法進行精準判斷。

“對于所有的程序員來說，邏輯推理都不是一個問題，1+1必然等于2。”正如吳翰清所說，“但是對于所有做神經(jīng)網(wǎng)絡(luò)的人來說，如何讓神經(jīng)網(wǎng)絡(luò)自動生成1+1=2這個答案并不容易?！?/p>

基于這一點，KMind團隊的思考逐漸清晰：

不如試試，統(tǒng)一神經(jīng)網(wǎng)絡(luò)和高級編程語言。

神經(jīng)網(wǎng)絡(luò)主要提供泛化能力，高級編程語言則提供邏輯推理能力和精準控制能力，兩者連接起來，雙管齊下，就能解決大部分問題。

提出“個人AI計算機”

沿著這個思路提出一種具體的解決辦法，就是KMind所提出的造一個擁有新型計算機操作系統(tǒng)kOS的“個人AI計算機”。

先簡單了解一下，什么是個人AI計算機。

一起來看個人AI計算機長啥樣：

在這個架構(gòu)中，依次有輸入輸出、記憶器、控制器、運算器和存儲器。

其中，控制器相當于整個系統(tǒng)的“大腦”，是真正理解用戶意圖、并對復雜任務(wù)進行拆解，以及調(diào)度不同執(zhí)行單元來完成用戶任務(wù)的部分。

在這個部分里，為了模擬人的思考過程，又存在評估器和決策器。

與此同時，控制器還會不斷和外界進行交互，通過多輪對話等方式，需要用戶不斷提供新的信息，形成反饋，然后整個系統(tǒng)不斷進行迭代、循環(huán)。

而個人AI計算機作為kOS的實現(xiàn)目標而存在，被稱為計算機，是因為它符合馮·諾伊曼架構(gòu)，從設(shè)計之初，就符合信息論、控制論和系統(tǒng)論的結(jié)合。

• 首先，從系統(tǒng)論角度來說，kOS在追尋對神經(jīng)網(wǎng)絡(luò)和高級編程語言兩者的統(tǒng)一；
• 其次，公布出的架構(gòu)里，kOS有模擬人類思考的過程，符合控制論的設(shè)計思想；
• 再者，kOS滿足信息論則體現(xiàn)在架構(gòu)能夠通過數(shù)據(jù)脫水和數(shù)據(jù)浸泡產(chǎn)生結(jié)構(gòu)化數(shù)據(jù)。

這里多提兩句，數(shù)據(jù)脫水和浸泡也是KMind提出的新概念。

繼續(xù)用《西游記》來舉例子。數(shù)據(jù)脫水，就是把整本書先進行數(shù)據(jù)挖掘，生成結(jié)構(gòu)化數(shù)據(jù)——這個過程本身就調(diào)用了多次計算，且計算可能來自于小模型，也可能來自于大模型。

產(chǎn)生結(jié)構(gòu)化數(shù)據(jù)后，就可以根據(jù)用戶的邏輯或需求，在任意尺度上對其進行精確控制，隨意替換掉需要部分的“零件”。

脫水后的結(jié)構(gòu)化數(shù)據(jù)去除掉了冗余信息，最終以一個跟信息熵相關(guān)的指標，來衡量AI操作數(shù)據(jù)的精確程度。

修改后的結(jié)構(gòu)化數(shù)據(jù)會被評估“是否對原有數(shù)據(jù)造成了破壞”，如被破壞，則在AI精度上繼續(xù)迭代修改。最后將數(shù)據(jù)還原，或生成為用戶可讀的數(shù)據(jù)形態(tài)。

能解決什么問題？

對精確部分進行修改，就像AI繪畫過程中，利用ControlNet插件精確控制手部區(qū)域進行修改，直到滿意，再也不用整體推翻重新再來了。

如此這般，大模型的幻覺和精度問題，至少能在現(xiàn)在得到緩解。

這也是個人AI計算機為自己賦予的使命之一。

“之一”意味著它的作用并不全在此。

個人AI計算機被視為一個全新概念，是因為它的目標是把個人計算機“小型化、普惠化，讓每個人都用得起”。

這與現(xiàn)在的個人計算機迥乎不同：在此之前，互聯(lián)網(wǎng)把一個個個人計算機連接在一起，全球的數(shù)字化信息由此可以在互聯(lián)網(wǎng)里高速流動。

但信息匯集，產(chǎn)生了超級節(jié)點，數(shù)據(jù)也漸漸被互聯(lián)網(wǎng)巨頭壟斷。

在KMind團隊看來，這十分不合理，用戶貢獻了數(shù)據(jù)，但數(shù)據(jù)壟斷后的收益都是互聯(lián)網(wǎng)寡頭的；數(shù)據(jù)壟斷還會進一步帶來互聯(lián)網(wǎng)的割裂，不僅降低用戶體驗，還違背了互聯(lián)網(wǎng)互聯(lián)、自由的屬性。

因此，個人AI計算機一方面想解決大模型不能解決之痛，另一方面，還希望能解決由于信息聚集在Google這樣的超級節(jié)點導致的數(shù)據(jù)壟斷、互聯(lián)網(wǎng)割裂等問題。

開啟這個目標的第一步，KMind就表示自己的商業(yè)模式不會是通過廣告業(yè)務(wù)實現(xiàn)。

如果這個公司的商業(yè)模式是廣告，很難避免自己不作惡。

同時，團隊也明確表示不會拿用戶的數(shù)據(jù)訓練自己的模型，也不會將屬于每個用戶的數(shù)據(jù)綜合后形成一個通識AI。

在團隊規(guī)劃中，KMind的商業(yè)模式是這樣的：

KMind提供算力，程序員用戶提供算法，用戶提供數(shù)據(jù)，且數(shù)據(jù)永遠歸用戶擁有。

吳翰清強調(diào)，這是一個良性的生態(tài)結(jié)構(gòu)，他同時也強調(diào)，個人AI計算機里的推薦和檢索算法都會被開源，并由一個開源社區(qū)來維護。

“如果有一天半個宇宙居然想要把這些閉源掉，那我也號召所有半個宇宙的居民來推翻它，因為從那一天可能就是它作惡的開始，它又開始從嘗試不壟斷數(shù)據(jù)走向了數(shù)據(jù)壟斷?！?/p>

One More Thing

現(xiàn)在，KMind已推出了由kOS驅(qū)動的個人智能助理“星伴”。

每個用戶和星伴將是伴生關(guān)系，按照用戶的意圖，星伴會為自動為用戶工作，或陪用戶聊天。

和其他可調(diào)用AI不同，星伴是可編程的，具備成長性，它所經(jīng)歷的個性化知識、經(jīng)驗、記憶、性格會被保存在一個叫“星魂”的地方，最終形成屬于每個人的數(shù)字資產(chǎn)。

一旦經(jīng)過允許，你可以調(diào)用其他人星伴里的知識，最終形成一個龐大的AI社區(qū)。

也因為星伴的存在，人的在線時間不再受制于睡眠和休息，AI會幫你時刻在線，只要提供了數(shù)據(jù)，AI就能開放式的回答所有問題，永不停歇的服務(wù)、溝通、協(xié)同。

想想有點激動，感覺有了星伴，本打工人的摸魚時間一定能更多了吧……（doge）。