大神卡帕西強(qiáng)烈推薦：通過做項(xiàng)目來學(xué)習(xí)，堅(jiān)持“1萬小時(shí)定律”

現(xiàn)場掌聲雷動！大神Andrej Karpathy在伯克利黑客馬拉松上的演講再引熱議。

我們似乎正步入一個全新的計(jì)算范式，類似于計(jì)算機(jī)技術(shù)在1980年代的轉(zhuǎn)型。

我們正在進(jìn)入的新范式，大語言模型就像CPU一樣，使用Token而不是字節(jié)，并且有一個上下文窗口而不是RAM，這就是大語言模型操作系統(tǒng)（Large Language Model OS, LMOS）。

隨后在18分鐘左右的演講中，Karpathy分享了從15年前初次接觸人工智能至今的感受。

過程中還回顧了在OpenAI的經(jīng)歷，描述了公司從八個人在公寓里工作到如今成為市值近千億美元的行業(yè)巨頭。

不過，正如網(wǎng)友們提醒的：

最精華的在最后，通過做項(xiàng)目來學(xué)習(xí)，找到合適的獎勵模式，讓大腦進(jìn)入良性循環(huán)。

get！接下來就讓我們一起品品這場被網(wǎng)友評價(jià)為“干貨滿滿”的演講。

以下為卡帕西開幕演講內(nèi)容整理

步入全新計(jì)算范式

大家好，感謝邀請我來。

我非常喜歡黑客馬拉松，因?yàn)檫@里蘊(yùn)含著巨大的能量和創(chuàng)造力。年輕人在一起學(xué)習(xí)和創(chuàng)新，這是我最喜歡的地方。我也參加過不少黑客馬拉松，所以很高興能在這里和大家交流。

今日的會場規(guī)模之大，超出了我的預(yù)期。黑客馬拉松的盛大，反映出人工智能在過去十五年間的迅猛發(fā)展。

我自15年前首次接觸人工智能，那時(shí)的AI僅限于小規(guī)模學(xué)術(shù)討論，專注于數(shù)學(xué)細(xì)節(jié)的推敲。

當(dāng)時(shí)我們訓(xùn)練神經(jīng)網(wǎng)絡(luò)使用的是來自MNIST的小數(shù)字，我們訓(xùn)練受限玻爾茲曼機(jī)，使用對比散度訓(xùn)練網(wǎng)絡(luò)。

而今，AI已非昔日之景象。NVIDIA，作為 GPU 的主要生產(chǎn)商，已躍升為美國市值最大的公司之一，引領(lǐng)行業(yè)發(fā)展。我們正生活在一個獨(dú)特且充滿活力的時(shí)代，眾多的黑客馬拉松賽事便是明證。

我認(rèn)為，這一切的背后，是計(jì)算本質(zhì)的深刻變革。我們似乎正步入一個全新的計(jì)算范式，類似于計(jì)算機(jī)技術(shù)在1980年代的轉(zhuǎn)型（當(dāng)時(shí)計(jì)算機(jī)進(jìn)入了PC時(shí)代）。

當(dāng)前，我們所運(yùn)用的不再是執(zhí)行字節(jié)指令的中央處理器，而是處理字符串片段的大型語言模型。這些模型，連同上下文窗口、存儲設(shè)備等，構(gòu)成了一種新型的計(jì)算架構(gòu)，我將其稱為大型語言模型操作系統(tǒng)，或簡稱LLM OS。

這是一種全新的編程學(xué)習(xí)對象，我們正在探索其優(yōu)勢與局限，并思考如何將其有效融入產(chǎn)品開發(fā)之中。

數(shù)周前，OpenAI發(fā)布了GPT-4o的演示，這一演示讓我們直觀感受到了與AI交流的可能性。

它不僅能夠回應(yīng)語音指令，還能進(jìn)行視覺識別、繪畫等多樣任務(wù)。我強(qiáng)烈推薦各位觀看電影《她》，在這部電影里，主角與一個被稱為操作系統(tǒng)的AI進(jìn)行對話，我認(rèn)為這部電影非常接近現(xiàn)實(shí)。

然而，電影中的AI著重于情感智能，而在現(xiàn)實(shí)世界中，我們的社會更可能利用這些模型解決數(shù)字空間中的各類問題。

這些數(shù)字實(shí)體不僅可以執(zhí)行任務(wù)，還能進(jìn)行交流與協(xié)作，甚至模擬Slack對話，自動化數(shù)字基礎(chǔ)設(shè)施。盡管物理基礎(chǔ)設(shè)施的自動化尚處于起步階段，但其潛力不容忽視。

此外，我還想推薦另一部2004年威爾·史密斯主演的影片《我，機(jī)器人》。

這部電影設(shè)想了一個機(jī)器人在社會中廣泛執(zhí)行任務(wù)的未來。劇透一下，在電影里，人們的生活并沒有變得更好，反而似乎被機(jī)器人所主導(dǎo)。我認(rèn)為這個設(shè)想相當(dāng)有趣。

電影中描繪的故事發(fā)生在2035年，也就是十年后。也許那時(shí)我們可能生活在，機(jī)器人在我們周圍走動、和我們交談、在實(shí)體世界和數(shù)字世界中執(zhí)行任務(wù)的環(huán)境中。

那會是什么樣子？我們?nèi)绾稳ゾ幊?？我們怎樣才能讓它們按照我們的預(yù)期進(jìn)行操作？

當(dāng)你考慮所有這些因素時(shí)，你可能會有一種通用人工智能的感覺。這意味著你深刻地理解了，如果這些技術(shù)繼續(xù)發(fā)展，我們可能在不遠(yuǎn)的將來遇見什么。

我們可能在數(shù)字領(lǐng)域和物理領(lǐng)域實(shí)現(xiàn)大規(guī)模的自動化?，F(xiàn)在，我不知道你們的想法，但我個人對這個情景感到有些沮喪。這是我用過去幾分鐘的談話內(nèi)容作為輸入，用圖像生成器生成的圖片。實(shí)際上，我并不喜歡這幅畫。

我覺得我們可以做得更好，我們這里有幾千人。在座的各位即將步入AI行業(yè)，你們將對這些技術(shù)的發(fā)展擁有一定的影響力。我們期望的未來，應(yīng)是人與自然和諧共存，自動化技術(shù)隱于幕后，不顯山露水。

滾雪球效應(yīng)

接下來，我想分享一些個人經(jīng)驗(yàn)。我認(rèn)為我了解了項(xiàng)目如何變?yōu)楝F(xiàn)實(shí)世界的變革。

我發(fā)現(xiàn)的第一件很神奇的事情是，有時(shí)候很小的項(xiàng)目，就像小雪球一樣，實(shí)際上可以發(fā)展成非常大的項(xiàng)目。

我曾做過一個小型的魔方顏色提取器項(xiàng)目。另外，13年前，我在YouTube上發(fā)布了一些游戲編程教程，嘗試教人們?nèi)绾芜M(jìn)行游戲編程，我有很多視頻游戲。我還有一個有趣的神經(jīng)進(jìn)化模擬器。

并非所有這些項(xiàng)目都能產(chǎn)生雪球效應(yīng)，很多只是探索和嘗試。事實(shí)上，這三個項(xiàng)目對我來說并沒有產(chǎn)生多大的影響。不能說它們是無用功，只是沒有為我?guī)眍A(yù)期的效果，它們?nèi)匀粚ξ矣兴鶐椭?/p>

但游戲編程教程卻以某種方式為我?guī)砹搜┣蛐?yīng)，這引導(dǎo)我從游戲編程教程轉(zhuǎn)向了一些頗受歡迎的魔方視頻，這激發(fā)了我對教學(xué)的熱情。

后來，當(dāng)我在斯坦福大學(xué)攻讀博士學(xué)位時(shí)，有幸開設(shè)并教授了CS231N課程，這是斯坦福大學(xué)的首門重點(diǎn)深度學(xué)習(xí)課程。

之后，我創(chuàng)建了一個YouTube頻道，推出了為深度學(xué)習(xí)和大語言模型制作的“從零到高手”系列，很多人都喜歡這個。

在此基礎(chǔ)上，雪球效應(yīng)繼續(xù)，我目前非常感興趣的一個項(xiàng)目是下一步的課程。我將這個課程命名為LLM 101N，目的是教你創(chuàng)建一個講故事的工具，類似于你可以用來生成故事的ChatGPT。

這個課程的設(shè)計(jì)思路是讓你從零開始學(xué)習(xí)，從基礎(chǔ)知識到創(chuàng)建一個在講故事領(lǐng)域的類似ChatGPT的工具。

我認(rèn)為，從頭開始學(xué)習(xí)創(chuàng)建這個工具將是非常有啟發(fā)性的，也會非常有趣。兩三天前，我在GitHub上發(fā)布了這個課程，它還很初級，但我對此非常興奮。對我來說，這就像是一顆滾雪球，越滾越大。它始于13年前的一個小游戲編程。

在OpenAI，我也親眼見證了類似的過程。正如之前簡單提到的，我是OpenAI的創(chuàng)始成員，研究員。

七年前，我在OpenAI工作，這是一些公開的圖片，展示了我們八個人在Greg的公寓里工作的情況。

OpenAI的創(chuàng)立就是為了與Google展開競爭。Google就像是一只擁有700億美元自由現(xiàn)金流的大猩猩。那時(shí)，Google幾乎雇傭了AI研究行業(yè)的一半人員。

這是一個相當(dāng)有趣的格局，而我們只是八個帶著筆記本電腦的人。OpenAI在內(nèi)部探索了大量的項(xiàng)目，我們聘請了一些非常優(yōu)秀的人才，許多人的項(xiàng)目并未取得太大進(jìn)展，但有些人的項(xiàng)目確實(shí)取得了成效。

舉例來說，在OpenAI早期歷史中，有人在研發(fā)一個Reddit的聊天機(jī)器人。當(dāng)你瞥見他們的桌子，你可能會問，我們正在試圖與Google競爭，你卻在開發(fā)一個Reddit的聊天機(jī)器人。

我們應(yīng)該做一些更大的事情。因此，這些剛剛起步的項(xiàng)目很容易被忽視，因?yàn)樗鼈冊诔跗诜浅４嗳酢?/p>

但實(shí)際上，Reddit聊天機(jī)器人是什么？它是一個語言模型。而且恰好是在Reddit上進(jìn)行訓(xùn)練的。不過，你完全可以利用任何數(shù)據(jù)來訓(xùn)練這樣的語言模型，并不僅限于Reddit。

當(dāng)Transformer出現(xiàn)后，這個模型變得更為完善。然后，其應(yīng)用領(lǐng)域從只有Reddit擴(kuò)展到許多其他的網(wǎng)頁。

突然之間，你就可以看到GPT-1，GPT-2，3，4，最后是GPT-4o的出現(xiàn)。

所以，這個看似并不起眼的Reddit聊天機(jī)器人，最終卻催生了 GPT-4o，我們現(xiàn)在認(rèn)為它是計(jì)算范式的改變。你可以和它進(jìn)行對話，它的回應(yīng)令人驚艷。

今天，OpenAI的估值可能接近1000億美元?？吹叫⊙┣蛑饾u滾成大雪球的成果，令人難以置信。

所以我想說，你應(yīng)該堅(jiān)持你的項(xiàng)目，讓它們逐漸積累，也許它們可以變成大雪球。

此外，我堅(jiān)信Malcolm Gladwell提出的“一萬小時(shí)”定律。

我認(rèn)為，成功源于反復(fù)的實(shí)踐和大量的付出。不要過于緊張，我在做些什么？我是成功還是失敗？只需簡單地統(tǒng)計(jì)你投入的時(shí)間，一切都會累積起來。

有幾個例子可以說明這一點(diǎn)。

幾周前，我在周末制作了一個非常粗糙的網(wǎng)站awesomemovies.life。

因?yàn)槟莻€周六我想看電影，所以就上線了這個電影推薦引擎網(wǎng)站。

有人在推特上回復(fù)我說：“哇，你周末就搞定了，好酷啊?！蔽覍Υ水a(chǎn)生了些許思考，因?yàn)槲也⒉挥X得這有多么神奇。

這個人沒看到的是，這已經(jīng)是我第20次做這樣的網(wǎng)站了，我知道我要做的每一步。

首先，我需要Linode，然后是Flask服務(wù)器。我寫一些JavaScript，樣式表，HTML，然后把這些組合起來。我需要抓取所有這些網(wǎng)頁，提取tf.idf 向量，訓(xùn)練SVM。

這些都是我已經(jīng)做過20次的事情，我甚至有之前項(xiàng)目的代碼片段。我只是在重新組合我已有的資源，因此可以在一個周末完成。

另一個例子是我在特斯拉自動駕駛項(xiàng)目中的經(jīng)歷。

大約7、8 年前，我被聘請來領(lǐng)導(dǎo)特斯拉自動駕駛的計(jì)算機(jī)視覺團(tuán)隊(duì)。

加入團(tuán)隊(duì)后，我做的第一件事之一就是用PyTorch重新編寫計(jì)算機(jī)視覺深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練的代碼庫。我基本上從頭開始重新編寫了整個項(xiàng)目，它現(xiàn)在成了項(xiàng)目的核心部分。

對于一些人來說，這在當(dāng)時(shí)看起來可能很驚人，但對我來說并非如此。因?yàn)槲以谧x博期間花了五年時(shí)間做類似的事情，我清楚地知道需要什么。

我需要訓(xùn)練集，評估集，我需要在PyTorch中的訓(xùn)練循環(huán)，我需要配置文件，我需要日志目錄，我需要引入 ResNet，我需要做檢測，我們正在進(jìn)行回歸和分類。

整個過程，我都預(yù)見到了所有步驟，這種預(yù)見只有經(jīng)驗(yàn)才能帶來。

因此，真正去嘗試達(dá)到你的10,000個小時(shí)，這真的會有很大的影響，這就是全部。

順便說一下，10,000個小時(shí)，如果你每天工作六小時(shí)，大約需要五年。

所以，你需要大約像完成一個博士學(xué)位那樣的時(shí)間來在某個領(lǐng)域發(fā)展出專業(yè)技能。

墻裂推薦“做項(xiàng)目”

我還發(fā)現(xiàn)，保持大腦釋放多巴胺其實(shí)很有用。你要了解你的心理狀況，你的大腦，它是如何運(yùn)作的，維持活力，如何保持受到啟發(fā)。特別是，你的大腦就像一個獎勵機(jī)器，它渴望得到獎勵，你需要滿足這個需求。

那么，有什么好的方法可以給予獎勵呢？

在我的經(jīng)驗(yàn)中，這可以通過做項(xiàng)目，并且持續(xù)發(fā)布它們來實(shí)現(xiàn)。

首先，項(xiàng)目能讓你全面深入地做一些事情。比如，當(dāng)你去上課時(shí)，你通常是在廣泛地學(xué)習(xí)，而項(xiàng)目是讓你根據(jù)需求來學(xué)習(xí)。

我認(rèn)為這是一種非常不同的學(xué)習(xí)模式，很好地補(bǔ)充了廣泛的學(xué)習(xí)方式，這非常重要。

另一個原因是，發(fā)布項(xiàng)目實(shí)際上也是一種非常好的策略。

如果你計(jì)劃發(fā)布一些東西，那么你會開始考慮所有可能看到它的人，你的朋友、團(tuán)隊(duì)成員、家人和未來的雇主。

因此，這無疑提高了你對自己工作的要求，會讓你更努力地去工作。

因?yàn)樗藭u價(jià)你的工作，如果工作質(zhì)量差，你會感到羞愧，這種壓力有時(shí)是有幫助的。且當(dāng)他人關(guān)注你的項(xiàng)目時(shí)，你會得到滿足感。

總的來說，我認(rèn)為這就是事情的大致運(yùn)作方式，所傳達(dá)的信息就是不斷的挑戰(zhàn)。

希望我們能從小項(xiàng)目做起，共同創(chuàng)造一個美好的未來。謝謝大家。

One More Thing

最后，“keep hacking”的卡帕西最近也開始玩AI視頻生成了！

他把《傲慢與偏見》的前幾句話做成了視頻，用的工具還是大雜燴那種~

【此處無法插入視頻，遺憾……可到量子位公眾號查看～】

據(jù)他透露，其“配方”如下：

• 用Claude完成了第一章，生成了場景和圖像的單獨(dú)提示
• 用Ideogram按照提示生成圖像
• 用Luma處理圖像并將其動畫化
• 用ElevenLabs處理旁白
• 用Veed進(jìn)行最終縫合

這一番操作花了大神將近1小時(shí)，以至于他在線發(fā)問：

對于任何能夠提供便利的人來說，這里都有一個巨大的講故事的機(jī)會。誰正在打造第一家100%AI原生電影制作?

那么，你覺得卡帕西的這個視頻如何？（歡迎在評論區(qū)隨意留言）