印象筆記唐毅：AI如何升級你的“第二大腦”｜中國AIGC產(chǎn)業(yè)峰會

衡宇 2024-04-22 20:41:47 來源：量子位

編輯部 整理自 AIGC峰會

量子位 | 公眾號 QbitAI

百模大戰(zhàn)之后，大伙兒或許有個共識：

現(xiàn)在不缺大模型，缺的是怎么更好地把大模型用起來的方法。

有個現(xiàn)成的例子是，印象筆記一直被很多知識工作者當(dāng)成自己的“第二大腦”來用，在AIGC時代，用戶看到了它更智能的改變。

其實早在2018年，印象筆記就在AIGC的領(lǐng)域里開啟了自己的摸爬滾打，幾年下來，積累了不少經(jīng)驗和思考。

在本次中國AIGC產(chǎn)業(yè)峰會上，印象筆記董事長兼CEO唐毅從知識管理的角度，分享了印象筆記在AIGC領(lǐng)域，從技術(shù)到應(yīng)用和產(chǎn)品的所見所聞、所思所感。

為了完整體現(xiàn)唐毅的思考，在不改變原意的基礎(chǔ)上，量子位對演講內(nèi)容進行了編輯整理，希望能給你帶來更多啟發(fā)。

中國AIGC產(chǎn)業(yè)峰會是由量子位主辦的行業(yè)峰會，20位產(chǎn)業(yè)代表與會討論。線下參會觀眾近千人，線上直播觀眾300萬，獲得了主流媒體的廣泛關(guān)注與報道。

話題要點

• 模型算法進展緩慢，算力投入與收益不成比例；
• 公域數(shù)據(jù)窮盡，合成數(shù)據(jù)使用導(dǎo)致模型輸出效果下降；
• 小型化、垂直化的模型可以更高效地處理問題；
• 強調(diào)了AI交付和模型之間的中間層——復(fù)合AI系統(tǒng)的重要性；
• AIGC產(chǎn)品的交互不是絕對的LUI（語言用戶界面）或者CUI（對話式用戶界面）；
  ……

以下為唐毅演講全文：

大量使用合成數(shù)據(jù)導(dǎo)致模型輸出效果下降

大家下午好，我是印象筆記唐毅，我今天演講的題目是《用AI驅(qū)動的第二大腦實現(xiàn)增強人生》。

針對AIGC技術(shù)，我認為從技術(shù)到模型、算法、實踐和應(yīng)用的一系列垂直和落地的思考是非常重要的。所以，今天我從知識管理的角度，分享一下印象筆記從技術(shù)到應(yīng)用和產(chǎn)品的一些想法。

首先簡單介紹一下印象筆記，它源于硅谷的一款叫Evernote的產(chǎn)品。

一直以來，印象筆記的愿景就是成為知識人群的第二大腦。這使得我們的思考一直圍繞著“知識場景”和“大腦的關(guān)鍵功能”。

今天我會從AI驅(qū)動印象筆記系列產(chǎn)品，在內(nèi)容理解、智慧提煉、個人知識積累和公域知識獲取等知識管理的場景中的實踐經(jīng)驗，來做分享。

印象筆記對AIGC的研發(fā)和實踐早在2018年完成國內(nèi)公司獨立重組時就開始了。正式獨立之后，我們首先更多地用了supervise learning的方式來做NLP，同時也開始啟動了自己的小規(guī)模模型訓(xùn)練。

早在2023年3月，我們就已經(jīng)開始利用自己的垂直專有模型驅(qū)動自己的AI產(chǎn)品，并將功能落地在旗下的軟件和智能硬件產(chǎn)品。

由于印象筆記在國內(nèi)市場較早地啟動了AIGC的全面實踐，我們也積累了更多的經(jīng)驗和更深入的思考。

在我們看來，AIGC的發(fā)現(xiàn)還處在比較早期的階段，對人類社會的影響也才剛剛開始，但現(xiàn)階段，關(guān)于大趨勢和方向性的思考更是必不可少的。

首先，相比算力的發(fā)展和模型規(guī)模的擴大發(fā)展，模型算法的進展卻是相對緩慢的。

同時，到現(xiàn)在為止，算力的投入和收益是不成比例的，我相信真正對產(chǎn)業(yè)經(jīng)濟產(chǎn)生深遠影響的技術(shù)，最終總的回報ROI要達到正向才可以。

另一個對于基座模型的挑戰(zhàn)是，在基座模型訓(xùn)練中，或許不一定每位在座的朋友都同意。

我們看到一個現(xiàn)象，在模型訓(xùn)練中，隨著公域數(shù)據(jù)的逐漸窮盡，合成數(shù)據(jù)被大量加入使用，這也會直接導(dǎo)致模型輸出效果下降。

有挑戰(zhàn)也有機遇，我們看到，特定數(shù)據(jù)的優(yōu)化在模型能力提升中的作用、模型的小型化趨勢、小規(guī)模模型能力的持續(xù)提升在AI產(chǎn)品交付效果的提升中都起著越來越關(guān)鍵的作用。

強調(diào)“復(fù)合AI系統(tǒng)”概念

談到AI交付，印象筆記是既做工具又做模型的廠商，在垂直整合的過程中，我們發(fā)現(xiàn)，由于我們采用印象專有大模型直接服務(wù)用戶，用戶可以對模型的效果和性能有著迅速和直觀的感受，從而對背后的訓(xùn)練和調(diào)優(yōu)過程給予直接有效的反饋。

而另一方面，AI產(chǎn)品的交付又遠遠不是僅僅將模型能力簡單直接地交付到用戶面前。

另一個顯著的趨勢是，小型化、垂直化的模型可以更高效地處理問題。在行業(yè)日益追求模型效率化的過程中，數(shù)據(jù)對模型質(zhì)量和交付質(zhì)量的影響在提升，對算力的需求反而在下降。

基于這些趨勢和我們的實踐經(jīng)驗，我想強調(diào)“復(fù)合AI系統(tǒng)”的概念，這是在AI產(chǎn)品交付和大模型本身之間的一個非常關(guān)鍵的應(yīng)用思考點和架構(gòu)設(shè)計點。

從不同的論文中我們也可以看到相似觀點——系統(tǒng)性思維下的模型訓(xùn)練、調(diào)優(yōu)，以及與整個AI系統(tǒng)其它組成部分的有機組合，是現(xiàn)在AIGC應(yīng)用的一個重要思考角度。

不同AI系統(tǒng)需要不同角度的思考，印象筆記關(guān)于“復(fù)合AI系統(tǒng)”的思考主要有以下幾點：

第一，我們的模型采用混合部署策略，以專有模型驅(qū)動主要用戶服務(wù)和交互場景，模型本身具有路由和任務(wù)判斷能力，同時也具備質(zhì)量判斷和云端一體的路由判斷能力。

第二，我們對公域和私域數(shù)據(jù)的區(qū)分處理和保護管理有獨特的系統(tǒng)和嚴密的規(guī)則。

第三，智能代理本身的功能是陣列式的，在關(guān)鍵節(jié)點分析用戶的意圖、做任務(wù)的拆解，最后還要系統(tǒng)化地接收用戶反饋的過程。

• 模型：印象大模型是高效率、輕量化的專有模型，在知識場景中有著獨特的和優(yōu)異的性能表現(xiàn)。印象大模型端、云部署一體化，并具備一個重要的性能——能夠根據(jù)意圖判斷和選擇哪一個混合部署中的模型會有更好的處理的效果，也能判斷和分析任務(wù)本身并在云或端模型中進行選擇。
• 數(shù)據(jù)：嚴格區(qū)分管理公、私域數(shù)據(jù)，確保模型訓(xùn)練和AI產(chǎn)品交付中的用戶數(shù)據(jù)隱私保護。
• Agent：在混合部署策略下，模塊化的Agent陣列能夠真正有效地判斷用戶意圖并根據(jù)拆解的任務(wù)步驟分步執(zhí)行任務(wù)。

“復(fù)合AI系統(tǒng)”超越AIGC應(yīng)用單一模型驅(qū)動的思考方式，而在此系統(tǒng)下設(shè)計一款成功的AI應(yīng)用也需要考慮不同的因素，這也是印象筆記在AI產(chǎn)品的打造中比較獨特的體會。

首先，我們需要非常明確地分析和判斷出這款應(yīng)用的準確使用場景。

同時，你的AI復(fù)合系統(tǒng)如何驅(qū)動這個產(chǎn)品給用戶進行交付也十分關(guān)鍵。

對此，也有兩個重要思考點。

一個是最合適的AI應(yīng)用載體在哪——是在云端？在移動端？在某一個第三方平臺？還是GPTs或插件？不用的載體在不同的場景和工作流中有著不同的作用。

另一個是何為最適合的交互——自然語言交互還是傳統(tǒng)GUI交互？

提倡用直覺性的方式進行交互設(shè)計

我們提倡用符合用戶直覺性的方式進行交互設(shè)計，使用戶用到AI功能和AI產(chǎn)品的時候是一種最自然的選擇和體驗。

因此產(chǎn)品的交互不是絕對的LUI或者CUI——例如在純粹LUI或CUI的交互中，它雖然更自由、更開放，但完全開放的對話窗口也會增加用戶的焦慮感 ——用戶會停在那里不知道該做什么。

所以產(chǎn)品中既應(yīng)該有完全開放的交互窗口，也應(yīng)該有開放交互和傳統(tǒng)的GUI相輔相成的Copilot性質(zhì)的交互設(shè)計，同時也應(yīng)該有降低用戶焦慮感的傳統(tǒng)限制性菜單處理交互式設(shè)計。

因此，在一個“復(fù)合AI系統(tǒng)”下打造AI超級應(yīng)用時，我們認為除了AI系統(tǒng)思維之外，數(shù)據(jù)、用戶、場景、載體、交互等關(guān)鍵的要素是需要非常慎重考慮的關(guān)鍵點。

回到印象筆記的實踐，我們通過自有模型的混合部署，比較早地進行了全面的布局和落地，推出了多種方向的功能：

內(nèi)容生成與搜索、語義性搜索、大文件理解、多文件理解、與上萬篇筆記的私人對話等等。

通過逐步實踐，我們總結(jié)出了一些令我們感到興奮的方法和獲得了一些較為滿意的結(jié)果。

“印象AI”的推出，對新用戶的增長、用戶留存和商業(yè)化轉(zhuǎn)化的驅(qū)動效果都非常顯著。

呼應(yīng)我在今天演講開始提到的觀點——作為AI從業(yè)者，對于核心技術(shù)、產(chǎn)品策略、市場投入等方面的實踐的檢驗，最終總要能夠回到對ROI的結(jié)果的衡量上來。

目前，印象筆記旗下全系列的軟件和智能硬件產(chǎn)品都已經(jīng)在印象大模型的驅(qū)動下，完成了AI功能和產(chǎn)品的落地交付。

最后，我想說的是，在AI能力的加持下，印象筆記希望能夠幫助用戶智能匯聚信息、高效閱讀內(nèi)容并吸收知識、輔助靈感記錄與創(chuàng)作、自動完成知識整理與提煉，讓印象筆記和印象AI為您增強人生，成為您真正的“第二大腦”。

謝謝大家！