本想去谷歌撈一筆就跑，卻成了改變AI歷史的人｜Transformer作者對(duì)話Jeff Dean

谷歌兩位大佬回應(yīng)一切：從PageRank到AGI的25年。

現(xiàn)任首席科學(xué)家Jeff Dean、出走又回歸的Transformer作者Noam Shazeer，與知名播客主持人Dwarkesh Patel展開對(duì)談。

視頻剛發(fā)幾個(gè)小時(shí)，就有20萬+網(wǎng)友在線圍觀。

兩人都是谷歌遠(yuǎn)古員工，經(jīng)歷了從MapReduce到Transformer、MoE，他們發(fā)明了很多改變整個(gè)互聯(lián)網(wǎng)和AI的關(guān)鍵技術(shù)。

Noam Shazeer卻談到當(dāng)初入職谷歌只是為了撈一筆就跑，沒想到成了改變世界的那個(gè)人。

在兩個(gè)多小時(shí)的談話中，他們透露了AI算力的現(xiàn)狀：

• 單個(gè)數(shù)據(jù)中心已經(jīng)不夠了，Gemini已經(jīng)在跨多個(gè)大城市的數(shù)據(jù)中心異步訓(xùn)練。

也對(duì)當(dāng)下最流行的技術(shù)趨勢(shì)做了探討：

• 推理算力Scaling還有很大空間，因?yàn)榕cAI對(duì)話比讀書仍然便宜100倍
• 未來的模型架構(gòu)會(huì)比MoE更靈活，允許不同的團(tuán)隊(duì)獨(dú)立開發(fā)不同的部分

……

網(wǎng)友們也在邊聽邊po發(fā)現(xiàn)的亮點(diǎn)：

比如在內(nèi)存中存儲(chǔ)一個(gè)巨大的MoE模型的設(shè)想。

以及“代碼中的bug可能有時(shí)會(huì)對(duì)AI模型有正面影響”。

隨著規(guī)模的擴(kuò)大，某些bug正是讓研究人員發(fā)現(xiàn)新突破的契機(jī)。

推理算力Scaling的未來

很多人覺得AI算力很貴，Jeff Dean不這么認(rèn)為，他用讀書和與AI討論一本書來對(duì)比：

當(dāng)今最先進(jìn)的語(yǔ)言模型每次運(yùn)算的成本約為10-18美元，這意味著一美元可以處理一百萬個(gè)token。

相比之下，買一本平裝書的成本大約相當(dāng)于每1美元買1萬個(gè)token（單詞數(shù)換算成token）。

那么，與大模型對(duì)話就比讀書便宜約100倍。

這種成本優(yōu)勢(shì)，為通過增加推理算力來提升AI的智能提供了空間。

從基礎(chǔ)設(shè)施角度來看，推理時(shí)間計(jì)算的重要性增加可能會(huì)影響數(shù)據(jù)中心規(guī)劃。

可能需要專門為推理任務(wù)定制硬件，就像谷歌初代TPU一樣，它最初是為推理的目的設(shè)計(jì)，后來才被改造為也支持訓(xùn)練。

對(duì)推理的依賴增加可能意味著不同的數(shù)據(jù)中心不需要持續(xù)通信，可能導(dǎo)致更分布式、異步的計(jì)算。

在訓(xùn)練層面，Gemini 1.5已經(jīng)開始使用多個(gè)大城市的計(jì)算資源，通過高速的網(wǎng)絡(luò)連接將不同數(shù)據(jù)中心中的計(jì)算結(jié)果同步，成功實(shí)現(xiàn)了超大規(guī)模的訓(xùn)練。

對(duì)于大模型來說，訓(xùn)練每一步的時(shí)間可能是幾秒鐘，因此即使網(wǎng)絡(luò)延遲有50毫秒，也不會(huì)對(duì)訓(xùn)練產(chǎn)生顯著影響。

到了推理層面，還需要考慮任務(wù)是否對(duì)延遲敏感。如果用戶在等待即時(shí)響應(yīng)，系統(tǒng)需要針對(duì)低延遲性能進(jìn)行優(yōu)化。然而，也有一些非緊急的推理任務(wù)，比如運(yùn)行復(fù)雜的上下文分析，可以承受更長(zhǎng)的處理時(shí)間。

更靈活和高效的系統(tǒng)可能能夠異步處理多個(gè)任務(wù)，在提高整體性能的同時(shí)最大限度地減少用戶等待時(shí)間。

此外，算法效率的提升，如使用較小的草稿（Draft）模型，可以幫助緩解推理過程中的瓶頸。在這種方法中，較小的模型生成潛在的token，然后傳遞給較大的模型進(jìn)行驗(yàn)證。這種并行化可以顯著加快推理過程，減少一次一個(gè)token的限制。

Noam Shazeer補(bǔ)充，在進(jìn)行異步訓(xùn)練時(shí)，每個(gè)模型副本會(huì)獨(dú)立進(jìn)行計(jì)算，并將梯度更新發(fā)送到中央系統(tǒng)進(jìn)行異步套用。雖然這種方式會(huì)使得模型參數(shù)略有波動(dòng)，理論上會(huì)有影響，但實(shí)踐證明它是成功的。

相比之下，使用同步訓(xùn)練模式能提供更加穩(wěn)定和可重復(fù)的結(jié)果，這是許多研究者更加青睞的模式。

在談到如何保證訓(xùn)練的可重復(fù)性時(shí)，Jeff Dean提到一種方法是記錄操作日志，尤其是梯度更新和數(shù)據(jù)批次的同步記錄。通過回放這些操作日志，即使在異步訓(xùn)練的情況下，也能夠確保結(jié)果的可重復(fù)性。這種方法可以讓調(diào)試變得更加可控，避免因?yàn)榄h(huán)境中的其他因素導(dǎo)致結(jié)果不一致。

Bug也有好處

順著這個(gè)話題，Noam Shazeer提出一個(gè)有意思的觀點(diǎn)：

訓(xùn)練模型時(shí)可能會(huì)遇到各種各樣的bug，但由于噪音的容忍度，模型可能會(huì)自我調(diào)整，從而產(chǎn)生未知的效果。

甚至有的bug會(huì)產(chǎn)生正面影響，隨著規(guī)模的擴(kuò)大，因?yàn)槟承゜ug在實(shí)驗(yàn)中可能會(huì)表現(xiàn)出異常，讓研究人員發(fā)現(xiàn)新的改進(jìn)機(jī)會(huì)。

當(dāng)被問及如何在實(shí)際工作中調(diào)試bug時(shí)，Noam Shazeer介紹他們通常會(huì)在小規(guī)模下進(jìn)行大量實(shí)驗(yàn)，這樣可以快速驗(yàn)證不同的假設(shè)。在小規(guī)模實(shí)驗(yàn)中，代碼庫(kù)保持簡(jiǎn)單，實(shí)驗(yàn)周期在一到兩個(gè)小時(shí)而不是幾周，研究人員可以快速獲得反饋并做出調(diào)整。

Jeff Dean補(bǔ)充說，很多實(shí)驗(yàn)的初期結(jié)果可能并不理想，因此一些“看似不成功”的實(shí)驗(yàn)可能在后期仍然能夠?yàn)檠芯刻峁┲匾囊娊狻?/p>

與此同時(shí)，研究人員面臨著代碼復(fù)雜性的問題：雖然不斷疊加新的改進(jìn)和創(chuàng)新是必要的，但代碼的復(fù)雜性也會(huì)帶來性能和維護(hù)上的挑戰(zhàn)，需要在系統(tǒng)的整潔性和創(chuàng)新的推進(jìn)之間找到平衡。

未來模型的有機(jī)結(jié)構(gòu)

他們認(rèn)為，AI模型正在經(jīng)歷從單一結(jié)構(gòu)向模塊化架構(gòu)的重要轉(zhuǎn)變。

如Gemini 1.5Pro等模型已經(jīng)采用了專家混合（Mixture of Expert）架構(gòu)，允許模型根據(jù)不同任務(wù)激活不同的組件。例如在處理數(shù)學(xué)問題時(shí)會(huì)激活擅長(zhǎng)數(shù)學(xué)的部分，而在處理圖像時(shí)則會(huì)激活專門處理圖像的模塊。

然而，目前的模型結(jié)構(gòu)仍然較為僵化，各個(gè)專家模塊大小相同，且缺乏足夠的靈活性。

Jeff Dean提出了一個(gè)更具前瞻性的設(shè)想：未來的模型應(yīng)該采用更有機(jī)的結(jié)構(gòu)，允許不同的團(tuán)隊(duì)獨(dú)立開發(fā)或改進(jìn)模型的不同部分。

例如，一個(gè)專注于東南亞語(yǔ)言的團(tuán)隊(duì)可以專門改進(jìn)該領(lǐng)域的模塊，而另一個(gè)團(tuán)隊(duì)則可以專注于提升代碼理解能力。

這種模塊化方法不僅能提高開發(fā)效率，還能讓全球各地的團(tuán)隊(duì)都能為模型的進(jìn)步做出貢獻(xiàn)。

在技術(shù)實(shí)現(xiàn)方面，模型可以通過蒸餾（Distillation）技術(shù)來不斷優(yōu)化各個(gè)模塊。這個(gè)過程包括將大型高性能模塊蒸餾為小型高效版本，然后在此基礎(chǔ)上繼續(xù)學(xué)習(xí)新知識(shí)。

路由器可以根據(jù)任務(wù)的復(fù)雜程度，選擇調(diào)用合適規(guī)模的模塊版本，從而在性能和效率之間取得平衡，這正是谷歌Pathway架構(gòu)的初衷。

這種新型架構(gòu)對(duì)基礎(chǔ)設(shè)施提出了更高要求。它需要強(qiáng)大的TPU集群和充足的高帶寬內(nèi)存（HBM）支持。盡管每個(gè)調(diào)用可能只使用模型的一小部分參數(shù)，但整個(gè)系統(tǒng)仍需要將完整模型保持在內(nèi)存中，以服務(wù)于并行的不同請(qǐng)求。

現(xiàn)在的模型能將一個(gè)任務(wù)分解成10個(gè)子任務(wù)并有80%的成功率，未來的模型能夠?qū)⒁粋€(gè)任務(wù)分解成100或1000個(gè)子任務(wù)，成功率達(dá)到90%甚至更高。

“Holy Shit時(shí)刻”：準(zhǔn)確識(shí)別貓

回過頭看，2007年對(duì)于大模型（LLMs）來說算得上一個(gè)重要時(shí)刻。

當(dāng)時(shí)谷歌使用2萬億個(gè)tokens訓(xùn)練了一個(gè)N-gram模型用于機(jī)器翻譯。

但是，由于依賴磁盤存儲(chǔ)N-gram數(shù)據(jù)，導(dǎo)致每次查詢需大量磁盤I/O（如10萬次搜索/單詞），延遲非常高，翻譯一個(gè)句子就要12小時(shí)。

于是后來他們想到了內(nèi)存壓縮、分布式架構(gòu)以及批處理API優(yōu)化等多種應(yīng)對(duì)舉措。

• 內(nèi)存壓縮：將N-gram數(shù)據(jù)完全加載到內(nèi)存，避免磁盤I/O；
• 分布式架構(gòu)：將數(shù)據(jù)分片存儲(chǔ)到多臺(tái)機(jī)器（如200臺(tái)），實(shí)現(xiàn)并行查詢；
• 批處理API優(yōu)化：減少單次請(qǐng)求開銷，提升吞吐量。

過程中，計(jì)算能力開始遵循摩爾定律在之后逐漸呈現(xiàn)爆發(fā)式增長(zhǎng)。

從2008年末開始，多虧了摩爾定律，神經(jīng)網(wǎng)絡(luò)真正開始起作用了。

那么，有沒有哪一個(gè)時(shí)刻屬于“Holy shit”呢？（自己都不敢相信某項(xiàng)研究真的起作用了）

不出意外，Jeff談到了在谷歌早期團(tuán)隊(duì)中，他們讓模型從油管視頻幀中自動(dòng)學(xué)習(xí)高級(jí)特征（如識(shí)別貓、行人），通過分布式訓(xùn)練（2000臺(tái)機(jī)器，16000核）實(shí)現(xiàn)了大規(guī)模無監(jiān)督學(xué)習(xí)。

而在無監(jiān)督預(yù)訓(xùn)練后，模型在監(jiān)督任務(wù)（ImageNet）中性能提升了60%，證明了規(guī)?；?xùn)練和無監(jiān)督學(xué)習(xí)的潛力。

接下來，當(dāng)被問及如今谷歌是否仍只是一家信息檢索公司的問題，Jeff用了一大段話表達(dá)了一個(gè)觀點(diǎn)：

AI履行了谷歌的原始任務(wù)

簡(jiǎn)單說，AI不僅能檢索信息，還能理解和生成復(fù)雜內(nèi)容，而且未來想象力空間巨大。

至于谷歌未來去向何方，“我不知道”。

不過可以期待一下，未來將谷歌和一些開源源代碼整合到每個(gè)開發(fā)者的上下文中。

換句話說，通過讓模型處理更多tokens，在搜索中搜索，來進(jìn)一步增強(qiáng)模型能力和實(shí)用性。

當(dāng)然，這一想法已經(jīng)在谷歌內(nèi)部開始了實(shí)驗(yàn)。

實(shí)際上，我們已經(jīng)在內(nèi)部代碼庫(kù)上為內(nèi)部開發(fā)人員進(jìn)行了關(guān)于Gemini模型的進(jìn)一步培訓(xùn)。

更確切的說法是，谷歌內(nèi)部已經(jīng)達(dá)成25%代碼由AI完成的目標(biāo)。

在谷歌最快樂的時(shí)光

有意思的是，這二位還在對(duì)話中透露了更多與谷歌相關(guān)的有趣經(jīng)歷。

對(duì)1999年的Noam來說，本來沒打算去谷歌這樣的大公司，因?yàn)閼{直覺認(rèn)為去了也可能無用武之地，但后來當(dāng)他看到谷歌制作的每日搜索量指數(shù)圖表后，立馬轉(zhuǎn)變了想法：

這些人一定會(huì)成功，看起來他們還有很多好問題需要解決

于是帶著自己的“小心思”就去了（主動(dòng)投了簡(jiǎn)歷）：

掙一筆錢，然后另外開開心心去搞自己感興趣的AI研究

而加入谷歌后，他就此結(jié)識(shí)了導(dǎo)師Jeff（新員工都會(huì)有一個(gè)導(dǎo)師），后來兩人在多個(gè)項(xiàng)目中有過合作。

談到這里，Jeff也插播了一條他對(duì)谷歌的認(rèn)同點(diǎn)：

喜歡谷歌對(duì)RM愿景（響應(yīng)式和多模態(tài)，Responsive and Multimodal）的廣泛授權(quán)，即使是一個(gè)方向，也能做很多小項(xiàng)目。

而這也同樣為Noam提供了自由空間，以至于當(dāng)初打算“干一票就跑”的人長(zhǎng)期留了下來。

與此同時(shí)，當(dāng)話題轉(zhuǎn)向當(dāng)事人Jeff時(shí)，他的一篇關(guān)于平行反向傳播的本科論文也被再次提及。

這篇論文只有8頁(yè)，卻成為1990年的最優(yōu)等本科論文，被明尼蘇達(dá)大學(xué)圖書館保存至今。

其中，Jeff探討了兩種基于反向傳播來平行訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法。

• 模式分割法（pattern-partitioned approach）：將整個(gè)神經(jīng)網(wǎng)絡(luò)表示在每一個(gè)處理器上，把各種輸入模式劃分到可用的處理器上；
• 網(wǎng)絡(luò)分割法（network-partitioned approach）流水線法（pipelined approach）：將神經(jīng)網(wǎng)絡(luò)的神經(jīng)元分布到可用的處理器上，所有處理器構(gòu)成一個(gè)相互通信的環(huán)。然后，特征通過這個(gè)pipeline傳遞的過程中，由每個(gè)處理器上的神經(jīng)元來處理。

他還構(gòu)建了不同大小的神經(jīng)網(wǎng)絡(luò)，用幾種不同的輸入數(shù)據(jù)，對(duì)這兩種方法進(jìn)行了測(cè)試。

結(jié)果表明，對(duì)于模式分割法，網(wǎng)絡(luò)大、輸入模式多的情況下加速效果比較好。

當(dāng)然最值得關(guān)注的還是，我們能從這篇論文中看到1990年的“大”神經(jīng)網(wǎng)絡(luò)是什么樣：

3層、每層分別10、21、10個(gè)神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，就算很大了。

論文地址：https://drive.google.com/file/d/1I1fs4sczbCaACzA9XwxR3DiuXVtqmejL/view

Jeff還回憶道，自己測(cè)試用的處理器，最多達(dá)到了32個(gè)。

（這時(shí)的他應(yīng)該還想不到，12年后他會(huì)和吳恩達(dá)、Quoc Le等人一起，用16000個(gè)CPU核心，從海量數(shù)據(jù)中找出貓。）

不過Jeff坦言，如果要讓這些研究成果真正發(fā)揮作用，“我們需要大約100萬倍的計(jì)算能力”。

后來，他們又談到了AI的潛在風(fēng)險(xiǎn)，尤其是當(dāng)AI變得極其強(qiáng)大時(shí)可能出現(xiàn)的反饋循環(huán)問題。

換句話說，AI通過編寫代碼或改進(jìn)自身算法，可能進(jìn)入不可控的加速改進(jìn)循環(huán)（即“智能爆炸”）。

這將導(dǎo)致AI迅速超越人類控制，甚至產(chǎn)生惡意版本。就像主持人打的比方，有100萬個(gè)像Jeff這樣的頂尖程序員，最終變成“100萬個(gè)邪惡的Jeff”。

（網(wǎng)友）：新的噩夢(mèng)解鎖了哈哈哈！

最后，談及在谷歌最快樂的時(shí)光，二人也分別陷入回憶。

對(duì)Jeff來說，在谷歌早期四五年的日子里，最快樂的莫過于見證谷歌搜索流量的爆炸式增長(zhǎng)。

建造一個(gè)如今20億人都在使用的東西，這非常不可思議。

至于最近，則很開心和Gemini團(tuán)隊(duì)構(gòu)建一些，即使在5年前人們都不敢相信的東西，并且可以預(yù)見模型的影響力還將擴(kuò)大。

而Noam也表達(dá)了類似經(jīng)歷和使命，甚至喜滋滋cue到了谷歌的“微型廚房區(qū)域”。

據(jù)介紹，這是一個(gè)大約有50張桌子的特別空間，提供咖啡小吃，人們可以在這里自由自在閑聊，碰撞想法。

一說到這個(gè)，連Jeff也手舞足蹈了（doge）：

Okk，以上為兩位大佬分享的主要內(nèi)容。