吳恩達(dá)最新預(yù)測：關(guān)于AI，這些事未來十年不會變

十三 2024-01-02 14:24:28 來源：量子位

金磊 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

2024年，AI的發(fā)展會有怎樣的改變？

在吳恩達(dá)最新的一封來信中，他認(rèn)為有幾件事情在接下來十年內(nèi)都不會發(fā)生改變。

（以下是吳恩達(dá)來信原文）

親愛的朋友們，

人工智能的發(fā)展速度超過以往任何時期，這一現(xiàn)象令人振奮。然而，快速變化可能導(dǎo)致迷失方向。在這種情況下，遵循杰夫·貝佐斯（Jeff Bezos）的建議是非常有益的，不僅要考慮變化中的因素，還要思考那些保持不變的因素。如果事物沒有改變，投入精力和努力就更加值得。

以下是我相信AI在未來十年不會改變的一些事情：

• 我們需要社區(qū)。擁有朋友和盟友的人比孤身前行的人表現(xiàn)得會更好。即便人工智能領(lǐng)域每周都帶來突破性進展，擁有朋友幫助你分辨真實和炒作、測試你的想法、提供相互支持，并與之共同創(chuàng)造，將使你處于更有利的地位。
• 知道如何使用 AI 工具的人工作效率更高。知道如何操縱數(shù)據(jù)的個人和企業(yè)可以更有效地了解真相、做出更好的決策并取得更多成就。隨著人工智能的不斷進步，這一點只會變得更加真實。
• 人工智能需要好的數(shù)據(jù)才能良好運作。正如人類需要好的數(shù)據(jù)來做出決策，從追求何種營銷策略到?jīng)Q定孩子的飲食，人工智能在我們的算法不斷擴大、演變和改進的過程中，也同樣需要好的數(shù)據(jù)。

那么上述三點對我們每個人意味著什么？

• 讓我們繼續(xù)構(gòu)建 AI 社區(qū)。這很重要！我希望你能與他人分享你所學(xué)到的東西，互相激勵，并繼續(xù)尋找朋友和合作者。
• 不斷學(xué)習(xí)！最好讓學(xué)習(xí)成為一種習(xí)慣。它可以讓你更有效率，還有很多其他的好處。如果你正在考慮2024年的新年決心，那就把你的學(xué)習(xí)目標(biāo)包括進去。隨著人工智能的不斷發(fā)展，每個人都需要一個計劃來跟上這一浪潮。
• 繼續(xù)培養(yǎng)以數(shù)據(jù)為中心的人工智能實踐。隨著企業(yè)采用越來越多的人工智能工具，我發(fā)現(xiàn)最重要的做法之一是控制自己的數(shù)據(jù)。我認(rèn)為這對個人來說也會越來越重要。

雖然以上三點與人工智能有關(guān)，但我想分享另外兩件事，不幸的是，我相信它們在未來十年將保持不變：⑴氣候變化將繼續(xù)成為人類面臨的重大挑戰(zhàn)。⑵貧窮，許多人幾乎（甚至可能買不起）基本必需品，仍將是一個問題。我將繼續(xù)思考人工智能氣候建模如何幫助前者，以及我們?nèi)绾卫萌斯ぶ悄軄硖嵘總€人的生活質(zhì)量。

以上便是吳恩達(dá)對于未來AI發(fā)展的最新觀點。

而就在新年伊始的這幾天，AI圈中的多位大佬們也陸續(xù)發(fā)表了他們對于今年人工智能技術(shù)發(fā)展的預(yù)測。

被LeCun點贊的八大預(yù)測

最近，Meta一位研究員Martin Signoux寫下了他認(rèn)為AI在今年發(fā)展中的八大預(yù)測，而這些預(yù)測也得到了LeCun的高度認(rèn)可。

（以下是Martin Signoux預(yù)測的原文）

一、AI智能眼鏡會成為現(xiàn)實

隨著多模態(tài)技術(shù)的興起，領(lǐng)先的人工智能公司將加倍投入人工智能優(yōu)先的可穿戴設(shè)備。

還有什么比眼鏡外形更適合托管 AI 助手的呢？

眼鏡腿靠近耳朵來傳遞音頻，攝像頭靠近眼睛來捕捉看到的輸入，它們解放了我們的雙手并且佩戴起來也很舒服。

我們和RayBan一起引領(lǐng)著這波潮流，但想想最近的OpenAI和Snapchat傳聞……我們的故事才剛剛開始。

二、ChatGPT之于人工智能助手，不會像谷歌之于搜索

2023年是以ChatGPT作為開始，以Bard、Claude、Llama、Mistral和數(shù)千個衍生品作為結(jié)束。

隨著商品化的繼續(xù)，ChatGPT將隨著參考估值修正而消失。

三、再見LLM，你好LMM

大型多模態(tài)模型（LMM）將持續(xù)涌現(xiàn)，并在熱議中取代大型語言模型，包括多模態(tài)評估、多模態(tài)安全等等。

此外，LMM是邁向真正通用人工智能助手的一塊墊腳石。

四、沒有重大突破，但各方面都有所改善

新模型不會帶來真正的突破（GPT5不會出現(xiàn)），大型語言模型仍將具有內(nèi)在限制并容易產(chǎn)生幻覺。我們不會看到任何飛躍進展讓它們在2024年能足夠可靠地“解決基本通用人工智能（AGI）問題”。

迭代改進將使它們“足夠好”地完成各種任務(wù)。RAG、數(shù)據(jù)管理、更好的微調(diào)、量化等方面的改進將使LLM在許多用例中足夠魯棒/有用，從而推動各行各業(yè)各種服務(wù)的采用。

五、小即是美

小型語言模型（SLM）已經(jīng)存在，但成本效率和可持續(xù)性的考慮將加速這一趨勢。

量化也將大大改善，推動消費者服務(wù)的設(shè)備上集成的主要浪潮。

六、開源模型將擊敗GPT-4，開源閉源之爭將逐漸消失

回顧過去12個月開源社區(qū)所取得的活力和進步，很明顯，開源模型將很快縮小性能差距。

我們在2023年底結(jié)束時，Mixtral和GPT-4在MMLU（多模態(tài)學(xué)習(xí)理解）測試中的差距僅剩13%。

但最重要的是，大家都意識到了開源模型將持續(xù)存在并推動進步，它們將與專有模型共存。

七、基準(zhǔn)測試仍然會是個難題

沒有一套基準(zhǔn)測試、排行榜或評估工具成為模型評估的終極選擇。

相反，我們將看到一系列的改進（就像最近的HELM）和新的倡議（如GAIA），特別是在多模態(tài)方面。

八、相比于現(xiàn)存風(fēng)險，關(guān)于存在性風(fēng)險的討論不會太多

雖然2023年X-risks成為了頭條新聞，但公眾辯論將更多地集中在當(dāng)前的風(fēng)險和爭議上，比如偏見、假新聞、用戶安全等問題。

Runway CTO：用新工具講新故事

Runway聯(lián)合創(chuàng)始人兼CTO Anastasis Germanidis也發(fā)表了他對于今年AI發(fā)展的看法。

（以下是Anastasis Germanidis預(yù)測的原文）

2023年是廣泛應(yīng)用人工智能系統(tǒng)（涵蓋文本、圖像、視頻、音頻和其他模態(tài)）發(fā)展的轉(zhuǎn)折點。

僅在Runway公司，我們就看到了如Gen-1和Gen-2這樣的視頻生成模型的發(fā)布，以及使這些模型具有新型創(chuàng)造控制形式的工具。

在未來一年，我預(yù)計在以下幾個領(lǐng)域會看到持續(xù)的進展：

• 視頻生成：過去一年，生成視頻模型（文本到視頻、圖像到視頻、視頻到視頻）首次公開發(fā)布。在來年，這些模型的質(zhì)量、通用性和可控性將繼續(xù)迅速提高。到2024年底，互聯(lián)網(wǎng)上相當(dāng)一部分視頻內(nèi)容將在某種程度上利用這些模型。
• 實時互動性：隨著大型模型運行速度變快，我們開發(fā)出更多結(jié)構(gòu)化控制它們的方法，將開始看到圍繞它們出現(xiàn)更多新穎的用戶界面和產(chǎn)品，這些界面和產(chǎn)品超越了常見的提示到x或聊天助手范式。
• 自動化AI研究：開發(fā)者們已經(jīng)接受了基于大型語言模型的編碼助手，如GitHub Copilot。但是，很少有工具被設(shè)計用來專門加速AI研究工作流程；比如，自動化開發(fā)和調(diào)試模型代碼、訓(xùn)練和評估模型等重復(fù)性工作。明年將出現(xiàn)更多這樣的工具。
• 更多關(guān)注系統(tǒng)：大量的對話集中在單個網(wǎng)絡(luò)的端到端訓(xùn)練能力上。然而，在實際應(yīng)用中，部署在現(xiàn)實世界場景中的AI系統(tǒng)通常由一系列模型的管道驅(qū)動。將出現(xiàn)更多用于構(gòu)建這種模塊化系統(tǒng)的框架。

除了技術(shù)進步之外，構(gòu)建這些系統(tǒng)最有意義的部分是，隨著每次更新和能力的增強，新的受眾被引入其中，講述了以前沒有講過的新故事。我很興奮地看到這將在未來一年繼續(xù)發(fā)生。

斯坦福副教授：基礎(chǔ)模型的透明度

斯坦福大學(xué)計算機科學(xué)副教授Percy Liang，則是將關(guān)注點聚焦到了基礎(chǔ)模型的透明度上。

（以下是Percy Liang預(yù)測的原文）

僅僅一年前，ChatGPT讓世界意識到了基礎(chǔ)模型的力量。但這種力量不僅僅體現(xiàn)在耀眼、令人瞠目的演示上。基礎(chǔ)模型將以與計算和互聯(lián)網(wǎng)在上一代社會變革中相似的方式，滲透到我們生活的每個領(lǐng)域、每個方面?？紤]到這種預(yù)期影響的廣度，我們不僅要問人工智能能做什么，還要問它是如何構(gòu)建的。它是如何被管理的？誰來決定？

我們真的不知道。這是因為人工智能的透明度正在下降。在2010年代的大部分時間里，開放是默認(rèn)的取向：研究人員發(fā)布論文、代碼和數(shù)據(jù)集。在過去三年里，透明度減弱了。

關(guān)于最先進模型（如GPT-4、Gemini和Claude）的公開信息很少：用于訓(xùn)練它們的數(shù)據(jù)是什么？誰創(chuàng)建了這些數(shù)據(jù)，勞動實踐如何？這些模型與哪些價值觀相一致？這些模型在實踐中是如何使用的？沒有透明度，就沒有問責(zé)，我們已經(jīng)見證了缺乏透明度在社交媒體等以前一代技術(shù)中產(chǎn)生的問題。

為了使透明度評估嚴(yán)謹(jǐn)，基礎(chǔ)模型研究中心引入了基礎(chǔ)模型透明度指數(shù)，用于描述基礎(chǔ)模型開發(fā)者的透明度。好消息是，許多透明度方面（例如，擁有適當(dāng)?shù)奈臋n）是可實現(xiàn)的，并且與公司的激勵相符。在2024年，也許我們可以開始逆轉(zhuǎn)這一趨勢。

目前，政策制定者普遍認(rèn)識到需要管理人工智能。除了透明度，首要優(yōu)先事項之一是評估。事實上，沒有科學(xué)基礎(chǔ)來理解這些模型的能力和風(fēng)險，我們就是盲目的。大約一年前，基礎(chǔ)模型研究中心發(fā)布了綜合評估語言模型（HELM），這是一個評估基礎(chǔ)模型（包括語言模型和圖像生成模型）的資源?，F(xiàn)在我們正在與MLCommons合作，開發(fā)一個安全評估的行業(yè)標(biāo)準(zhǔn)。

但這個評估很難，尤其是對于通用、開放式的系統(tǒng)。你如何覆蓋幾乎無限的使用案例和潛在危害空間？你如何防止操縱？你如何以公眾能理解的方式呈現(xiàn)結(jié)果？這些都是開放的研究問題，但我們需要在短時間內(nèi)解決這些問題，以跟上人工智能的快速發(fā)展。我們需要整個研究社區(qū)的幫助。

想象ChatGPT式助手將成為我們獲取信息和做出決策的主要方式，并不遙遠(yuǎn)。因此，基礎(chǔ)模型的行為——包括任何偏見和偏好——是重要的。

據(jù)說這些模型與人類價值觀相一致，但我們談?wù)摰氖悄男﹥r值觀？再次，由于缺乏透明度，我們無法看到這些價值觀是什么，以及它們是如何確定的。我們能否想象一個更民主的過程來引出價值觀，而不是由單一組織做出這些決定？重要的是這個過程的正直性和合法性。

OpenAI希望在這方面資助工作，Anthropic也有一些這方向的研究，但這些都還處于早期階段。我希望其中一些想法能夠被納入生產(chǎn)系統(tǒng)。

微軟CTO：為下一年的指數(shù)增長做好準(zhǔn)備

微軟CTO Kevin Scott也做出他對AI在今年發(fā)展的一些預(yù)測。

（以下是Kevin Scott預(yù)測的原文）

毫無疑問，2023年是我在相當(dāng)長的職業(yè)生涯中見過的最激動人心、最有趣的技術(shù)年份。

值得一提的是，我很確定在2022年結(jié)束時我也說過類似的話，我懷疑我明年這個時候可能還會說同樣的話，以及在可預(yù)見的未來的每一年——重點是，現(xiàn)在的人工智能領(lǐng)域，我們正在經(jīng)歷一個持續(xù)的指數(shù)級增長時期，這可能代表了我們所見過的最深刻的技術(shù)進步。

而且這只是開始?，F(xiàn)代生成型人工智能仍處于嬰兒期，我們在學(xué)習(xí)中前行。盡管感覺我們已經(jīng)和它們共存了很長時間，但2023年實際上是像ChatGPT和Microsoft Copilots這樣的強大人工智能工具真正有意義地進入公眾視野，作為有用的助手讓人們的生活更輕松的第一年。

到明年結(jié)束時，我們將擁有許多新的體驗、應(yīng)用和工具，為全世界越來越多的人帶來層層疊加的好處。盡管人工智能增長的炒作幅度和加速率可能讓人們專注于每一個接下來的“下一個大事件”，但如果我們稍微退后一點，就更容易看到我們面前的機會比我們已經(jīng)實現(xiàn)的要大得多。

因為我們只能每隔幾年左右才能體驗到指數(shù)曲線的產(chǎn)物，最近一次是GPT-4，我們很容易在這段時間忘記增長的速度實際上有多驚人。而且，按照我們?nèi)祟惖谋拘?，我們很快就適應(yīng)了，并很快就將每一套新出現(xiàn)的瘋狂可能性視為理所當(dāng)然。

因此，我對所有在未來一年從事人工智能和技術(shù)工作的人的希望是，我們需要意識到，指數(shù)曲線的下一個樣本即將到來，并適當(dāng)?shù)貫椋隙〞钊穗y以置信的）結(jié)果做好準(zhǔn)備。

愿2024年繼續(xù)為我們所有人帶來發(fā)現(xiàn)的激動和持續(xù)的創(chuàng)新。

那么，你認(rèn)為今年AI的發(fā)展還有什么值得我們期待呢？

參考鏈接：
[1]https://twitter.com/MartinSignoux/status/1740729650530365646
[2]https://twitter.com/AndrewYNg/status/1741892184977309823
[3]https://www.deeplearning.ai/the-batch/issue-229/
[4]https://twitter.com/ylecun/status/1740830697181655432