奧特曼承認(rèn)了神秘gpt2！哈佛MIT巡演繼續(xù)，斯坦福演講完整版公開

夢(mèng)晨 西風(fēng) 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

奧特曼斯坦福爆火演講，完整版錄像公開了！

這還只是第一站，在哈佛和MIT再次發(fā)現(xiàn)了他的身影。

特別是在哈佛，他還變相承認(rèn)了神秘gpt2-chatbot確實(shí)與OpenAI有關(guān)，但不是GPT-4.5。

事實(shí)上，我們可以同時(shí)在所有模型的行為和功能上取得進(jìn)展，我認(rèn)為這是個(gè)奇跡。

他還提到“每個(gè)大學(xué)生都應(yīng)該學(xué)會(huì)訓(xùn)練GPT-2……這并不是最重要的事情，但我打賭兩年后這是每個(gè)哈佛新生都必須做的事情”。

難不成，就真的是GPT-2 1.5B Plus Pro Max Q*威力加強(qiáng)年度典藏豪華版？？？

斯坦福大學(xué)位于硅谷附近，而哈佛大學(xué)和麻省理工學(xué)院則位于美國(guó)另一端的東海岸波士頓。

奧特曼在哈佛的活動(dòng)同樣座無虛席，學(xué)生們據(jù)稱提交了超過2000個(gè)問題，但只有少數(shù)人獲得了現(xiàn)場(chǎng)提問的機(jī)會(huì)。

奧特曼這是復(fù)刻去年GPT-4發(fā)布后的世界巡游，又來了一把美國(guó)大學(xué)巡演的節(jié)奏。

更詳細(xì)的消息來自哈佛大學(xué)校報(bào)和MIT科技評(píng)論。

在哈佛，奧特曼與師生討論了AI在學(xué)術(shù)中的使用。

論文到底是學(xué)生還是ChatGPT寫的，有關(guān)系嗎？

奧特曼舉例過去人們也曾擔(dān)心計(jì)算器和搜索引擎會(huì)毀了教育，但這并沒有發(fā)生，而ChatGPT就像“單詞計(jì)算器”。

“必須不斷發(fā)展的是規(guī)范”，奧特曼支持ChatGPT不僅可以用于理工科寫作，也可以用于人文學(xué)科。

再用老式的方法寫論文已經(jīng)行不通了。用ChatGPT把發(fā)現(xiàn)和表達(dá)、交流想法做到最好，我認(rèn)為這就是未來的發(fā)展方向。

在MIT，奧特曼則談到Agent將是AI的殺手級(jí)應(yīng)用。

就像一個(gè)超級(jí)能干的同事，他了解我一生的一切，我的每封電子郵件，每一次對(duì)話。?

在奧特曼看來，Agent新范式的AI能夠在聊天界面之外幫助我們，擺脫現(xiàn)實(shí)世界的任務(wù)，但這并不一定需要單獨(dú)的硬件。

我對(duì)新技術(shù)的消費(fèi)硬件非常感興趣，但我只是一個(gè)業(yè)余愛好者，離我的專業(yè)還很遠(yuǎn)。

被問到“是否已經(jīng)知道GPT-5預(yù)計(jì)何時(shí)發(fā)布”時(shí)，奧特曼平靜地說“是的”，面帶微笑，沒有再說別的了。

上周他在斯坦福的演講完整版視頻公開后，也有幾個(gè)片段引發(fā)了熱烈討論：

• GPT-4將是你們中任何人必須再次使用的最愚蠢的模型。
• 我不在乎我們是否每年燒掉500億美元，我們正在構(gòu)建 AGI，這將是值得的。

奧特曼斯坦福爆火演講整理

以下是內(nèi)容整理。

奧特曼的大學(xué)生涯

主持人：如果用三個(gè)詞形容你作為斯坦福本科生時(shí)的感受，你會(huì)用哪三個(gè)詞？

奧特曼：興奮、樂觀、好奇。

主持人：形容現(xiàn)在，你會(huì)用哪三個(gè)詞？

奧特曼：我猜是一樣的。

主持人：這很棒。盡管過去19年世界發(fā)生了許多變化，但與未來19年即將發(fā)生的變化相比，這些變化可能顯得微不足道。因此，我想請(qǐng)教你一個(gè)問題：如果你明天醒來，突然發(fā)現(xiàn)自己回到了19歲，并且擁有現(xiàn)在的所有知識(shí)，你會(huì)怎么做？會(huì)感到開心嗎？

奧特曼：我會(huì)覺得自己正處在一個(gè)極具歷史意義的時(shí)刻，世界正經(jīng)歷著巨變，同時(shí)，我也看到了參與其中并產(chǎn)生深遠(yuǎn)影響的機(jī)會(huì)，比如創(chuàng)業(yè)、從事AI研究等。

我認(rèn)為現(xiàn)在是自互聯(lián)網(wǎng)時(shí)代以來，甚至可能是技術(shù)史上，創(chuàng)立公司的最佳時(shí)機(jī)。隨著AI的進(jìn)步，每年都會(huì)產(chǎn)生更多的奇跡，偉大的公司正是在這樣的時(shí)刻誕生，最具影響力的產(chǎn)品也是在此刻孕育。因此，我感到無比幸運(yùn)，并決心充分利用這個(gè)機(jī)遇。我將明確自己的貢獻(xiàn)方向，并付諸實(shí)踐。

主持人：那你對(duì)自己將貢獻(xiàn)的領(lǐng)域有偏好嗎？你是否想繼續(xù)保持學(xué)生的身份？如果是的話，你會(huì)主修什么專業(yè)？

奧特曼：我不會(huì)繼續(xù)做學(xué)生，但只是因?yàn)槲乙郧耙矝]有這樣做，而且我覺得可以合理地假設(shè)人們可能會(huì)再次做出他們?cè)?jīng)做過的決定。我認(rèn)為做一名斯坦福的學(xué)生是一件很好的事情。只是，這可能不是我想要的。

主持人：你會(huì)怎么做？

奧特曼：我想我還是會(huì)選擇我喜歡的方向，這并不奇怪，因?yàn)槿藗兺ǔ?huì)按照自己的意愿行事。我想我會(huì)投身于人工智能研究。

主持人：你可能會(huì)在哪里做？學(xué)術(shù)界還是在私營(yíng)企業(yè)？

奧特曼：我覺得，很明顯我偏向于開放的應(yīng)用程序，但我認(rèn)為無論在哪里，只要能做有意義的AI研究，我都會(huì)感到非常興奮。但我要悲傷的說，現(xiàn)實(shí)情況是，我會(huì)選擇進(jìn)入行業(yè)。我覺得確實(shí)需要在計(jì)算資源極其豐富的地方。

創(chuàng)業(yè)還是打工？

主持人：我們上周邀請(qǐng)了Qasar Younis，他極力主張不要成為創(chuàng)始人，而是加入一家現(xiàn)有的公司以學(xué)習(xí)相關(guān)技能。對(duì)于那些正在糾結(jié)是應(yīng)該在19、20歲自己創(chuàng)業(yè)，還是加入其他創(chuàng)業(yè)公司的學(xué)生，你會(huì)給他們什么建議？

奧特曼：既然他給出了加入其他公司的理由，那我就講另一個(gè)觀點(diǎn)。我認(rèn)為自己創(chuàng)辦公司能學(xué)到很多東西。如果這是你想做的事，保羅·格雷厄姆有句話說得很好，我認(rèn)為非常真實(shí)：創(chuàng)業(yè)不像醫(yī)學(xué)那樣有預(yù)科階段，你只能通過實(shí)際經(jīng)營(yíng)創(chuàng)業(yè)公司來學(xué)會(huì)如何管理公司。如果你確信這就是你想做的事，那么你可能應(yīng)該直接投入其中去做。

主持人：如果有人想要?jiǎng)?chuàng)辦一家公司并從事AI領(lǐng)域，你認(rèn)為當(dāng)前AI領(lǐng)域最適合創(chuàng)業(yè)的短期挑戰(zhàn)是什么？為了明確這一點(diǎn)，我指的是哪些問題是你認(rèn)為需要優(yōu)先解決但OpenAI在未來三年內(nèi)無法解決的？

奧特曼：從某種意義上說，這個(gè)問題是非常合理的，但我不會(huì)直接回答它。因?yàn)槲艺J(rèn)為你永遠(yuǎn)不應(yīng)該從任何人那里接受這種關(guān)于如何開始創(chuàng)業(yè)的建議。

當(dāng)某個(gè)領(lǐng)域已經(jīng)如此顯而易見，以至于我或者其他人站在這里都可以指出它時(shí)，那它可能就不是一個(gè)好的創(chuàng)業(yè)方向了。我完全理解，我還記得我當(dāng)初也會(huì)問別人，“我該創(chuàng)辦什么樣的公司？”。

但我認(rèn)為擁有一份有影響力的職業(yè)最重要的原則之一是必須要走自己的路。如果你正在思考的事情是其他人也會(huì)去做的，或者是很多人都會(huì)去做的，那么你應(yīng)該對(duì)其保持一點(diǎn)懷疑。

我認(rèn)為我們需要培養(yǎng)的一個(gè)重要的能力是提出那些非顯而易見的想法。我不知道現(xiàn)在最重要的想法是什么，但我確信這個(gè)房間里的某個(gè)人知道答案。我認(rèn)為學(xué)會(huì)信任自己，提出自己的想法并勇敢去做那些不被廣泛認(rèn)同的事情非常重要。

比如我們剛開始創(chuàng)辦OpenAI那會(huì)兒，這件事并沒有得到很多人的認(rèn)同，但現(xiàn)在它已經(jīng)成為非常顯而易見的事情了?，F(xiàn)在我只是因?yàn)樽约荷硖幤渲?，才?huì)對(duì)這個(gè)方向有比較明確的想法，但我相信你們會(huì)有其他的看法。

主持人：那么換個(gè)方式問，我不知道這樣問是否公平。你正在思考但其他人并沒有談?wù)摰膯栴}是什么呢？

奧特曼：如何建造真正大型的計(jì)算機(jī)。

我想，其他人也在討論這個(gè)問題，但我們可能從別人無法想象的角度來看待它。我們正在努力解決的問題不僅是開發(fā)小學(xué)或中學(xué)水平的智能，還包括博士水平及更高層次的智能，并將其以最佳方式應(yīng)用于產(chǎn)品，最大限度地對(duì)社會(huì)和人們的生活產(chǎn)生積極影響。我們目前還不知道答案，但我認(rèn)為這是一個(gè)需要弄清楚的重要問題。

主持人：如果我們繼續(xù)探討如何建造大型計(jì)算機(jī)的問題，你能分享一下你的愿景嗎？我知道有很多猜測(cè)和傳聞，關(guān)于你正在開展的半導(dǎo)體代工廠項(xiàng)目。這個(gè)愿景與目前的做法有什么不同？

奧特曼：代工廠只是其中的一部分。我們?cè)絹碓较嘈湃斯ぶ悄芑A(chǔ)設(shè)施將成為未來最重要的投入之一，是每個(gè)人都會(huì)需要的資源，其中包括能源、數(shù)據(jù)中心、芯片、芯片設(shè)計(jì)和新型網(wǎng)絡(luò)。我們需要從整體上看待整個(gè)生態(tài)系統(tǒng)，并設(shè)法在這些方面做得更多。僅關(guān)注某個(gè)部分是行不通的，我們必須全面考慮。

我認(rèn)為這就是人類科技發(fā)展史的軌跡：不斷構(gòu)建更大、更復(fù)雜的系統(tǒng)。

不在乎燒錢，為了AGI都值得

主持人：至于計(jì)算成本方面，我聽說訓(xùn)練ChatGPT模型花費(fèi)了1億美元，其參數(shù)量為1750億。GPT-4的成本是4億美元，參數(shù)量是前者的10倍。成本幾乎增加了4倍，但參數(shù)量卻增加了10倍。請(qǐng)糾正我，如果我有誤的話。

奧特曼：我知道，但我想……

主持人：好的。即使你不想糾正實(shí)際數(shù)字，但如果方向上是對(duì)的，你認(rèn)為每次更新的成本是否會(huì)繼續(xù)增長(zhǎng)？

奧特曼：是的。

主持人：這種增長(zhǎng)會(huì)呈倍數(shù)增加嗎？

奧特曼：大概吧，我的意思是。

主持人：那么問題就變成了，我們?cè)撊绾螢榇嘶I集資金？

奧特曼：我認(rèn)為給人們提供真正強(qiáng)大的工具，讓他們自己去探索如何用這些工具來構(gòu)建未來，是非常有價(jià)值的。我非常愿意相信你們和世界上其他人的創(chuàng)造力，可以找到應(yīng)對(duì)這一問題的方法。所以，OpenAI中可能有比我更具商業(yè)頭腦的人擔(dān)心我們花了多少，但我并不在意。

主持人：OpenAI、ChatGPT以及其他所有模型都非常出色，去年燒掉了5.2億美元，這不會(huì)讓你擔(dān)心它的商業(yè)模式嗎？盈利來源在哪里？

奧特曼：首先，謝謝你這么說，但ChatGPT還遠(yuǎn)稱不上出色，頂多算是勉強(qiáng)合格。GPT-4是大家未來可能用到的最笨的模型了。但是，重要的是早早開始并不斷發(fā)布，我們相信迭代式發(fā)布。

如果我們?cè)诘叵率议_發(fā)通用人工智能，然后世界渾然不覺地盲目前行，我不認(rèn)為這會(huì)讓我們成為好的鄰居。因此，考慮到我們對(duì)未來的看法，我覺得重要的是表達(dá)我們的觀點(diǎn)。

不過，更重要的是，將產(chǎn)品交到用戶手中，讓社會(huì)與技術(shù)共同進(jìn)化。讓社會(huì)告訴我們，集體和個(gè)人從技術(shù)中想要什么，如何將其產(chǎn)品化以便于使用。這個(gè)模型在哪些方面效果好，哪些方面效果差，讓我們的領(lǐng)導(dǎo)者和機(jī)構(gòu)有時(shí)間做出反應(yīng)。給人們時(shí)間將其融入生活，學(xué)會(huì)使用這項(xiàng)工具。

一些人可能會(huì)用它作弊，但有一些人也可能會(huì)用它做非常了不起的事。每一代人的發(fā)展都會(huì)有所擴(kuò)展，這意味著我們發(fā)布了不完美的產(chǎn)品，但有一個(gè)非常緊密的反饋循環(huán)，我們可以學(xué)習(xí)并變得更好。

發(fā)布讓你感到尷尬的產(chǎn)品的確有點(diǎn)糟糕，但比起其他選擇，這是更好的方式。在這個(gè)特別的情況下，我們真的應(yīng)該向社會(huì)迭代發(fā)布。

我們了解到AI和驚喜不相容。人們不想受到驚嚇，他們想要逐步推進(jìn)并有能力影響這些系統(tǒng)。這就是我們的做法。

將來或許會(huì)有一些情況讓我們認(rèn)為迭代發(fā)布不是一個(gè)好的策略，但這似乎是目前最好的方法。我認(rèn)為通過這樣做，我們已經(jīng)學(xué)到了很多東西。希望更廣泛的世界也從中受益。

不論我們每年花費(fèi)5億美元、50億美元還是500億美元，我都不在乎。只要我們能夠持續(xù)創(chuàng)造比這更多的社會(huì)價(jià)值，并能夠找到支付賬單的方式。我們正在開發(fā)AGI，這會(huì)很昂貴，但絕對(duì)值得。

主持人：那么，你有一個(gè)2030年的愿景嗎？如果現(xiàn)在是2030年，你做到了。在你眼中，世界會(huì)是什么樣子？

奧特曼：在某些非常重要的方面，或許并沒有太大區(qū)別。

我們還會(huì)回到這里，會(huì)有新的一批學(xué)生。我們會(huì)談?wù)摮鮿?chuàng)公司是多么重要，科技是多么酷。我們會(huì)擁有這個(gè)世界上新的偉大工具。

如果我們今天能夠傳送到六年前，并擁有這個(gè)在許多學(xué)科上比人類更聰明的東西，能夠?yàn)槲覀兺瓿蛇@些復(fù)雜的任務(wù)，那將感覺非常棒。你知道，我們可以編寫復(fù)雜的程序，完成這項(xiàng)研究或開始這項(xiàng)業(yè)務(wù)。

然而，太陽(yáng)仍然東升西落，人們繼續(xù)上演他們的人類戲劇，生活繼續(xù)。所以，從某種意義上來說非常不同，因?yàn)槲覀儸F(xiàn)在有豐富的智能，但從另一個(gè)意義上來說，又沒什么不同。

主持人：你提到了通用人工智能。在之前的采訪中，你將其定義為能夠模擬一個(gè)普通人類在各種任務(wù)中表現(xiàn)的軟件。你覺得什么時(shí)候會(huì)實(shí)現(xiàn)這個(gè)目標(biāo)？你能給出一個(gè)大致的時(shí)間或范圍嗎？

奧特曼：我認(rèn)為我們需要對(duì)AGI有一個(gè)更精確的定義，以解決時(shí)間的問題。因?yàn)樵谶@一點(diǎn)上，即使是你剛剛給出的定義，也是合理的，這就是你的定義。

主持人：我是在重復(fù)你之前在采訪中說過的話。

奧特曼：我要批評(píng)我自己。這個(gè)定義太過寬泛，容易被誤解。

所以我認(rèn)為真正有用或能讓人們滿意的標(biāo)準(zhǔn)是：當(dāng)人們問“AGI的時(shí)間表是什么”時(shí)，他們其實(shí)想知道的是世界什么時(shí)候會(huì)發(fā)生巨大變化，變化的速度什么時(shí)候會(huì)大幅加快，經(jīng)濟(jì)運(yùn)作的方式什么時(shí)候會(huì)發(fā)生巨大變化，我的生活什么時(shí)候會(huì)改變。由于很多原因，這個(gè)時(shí)間點(diǎn)可能與我們想象的很不一樣。

我完全可以想象這樣的世界：我們?cè)谌魏晤I(lǐng)域都能開發(fā)出具備博士水平的智能，可以大幅提升研究人員的生產(chǎn)力，甚至可以實(shí)現(xiàn)一些自主研究。從某種意義上說，這聽起來似乎會(huì)對(duì)世界產(chǎn)生很大的影響，但也可能我們已經(jīng)做到了這些后，卻發(fā)現(xiàn)全球GDP增長(zhǎng)在隨后的幾年里并沒有發(fā)生變化。想想這種情況還是很奇怪的。這最初并不是我對(duì)整個(gè)過程的直覺。

所以，我無法給出一個(gè)具體的時(shí)間來說明我們何時(shí)能達(dá)到人們所關(guān)心的里程碑，但是在未來的一年以及之后的每一年，我們都會(huì)擁有比現(xiàn)在強(qiáng)大得多的系統(tǒng)，我認(rèn)為這是關(guān)鍵。所以，我已經(jīng)放棄了預(yù)測(cè)AGI的時(shí)間表。

主持人：你能否談?wù)勀銓?duì)AGI危險(xiǎn)性的看法？具體來說，你認(rèn)為AGI最大的危險(xiǎn)會(huì)是來自一場(chǎng)轟動(dòng)各大媒體的災(zāi)難性事件，還是更為隱蔽和有害的東西，就像現(xiàn)在大家因?yàn)槭褂肨ikTok而注意力嚴(yán)重分散一樣?；蛘邇烧叨疾皇牵?/p>

奧特曼：我更擔(dān)心隱蔽的危險(xiǎn)，因?yàn)槲覀兏菀缀鲆曀鼈儭?/p>

很多人都在談?wù)摓?zāi)難性的危險(xiǎn)，并對(duì)此保持警惕。我不想輕視這些危險(xiǎn)，我認(rèn)為它們的確很嚴(yán)重且真實(shí)存在。但至少我們知道要關(guān)注這一點(diǎn)，并會(huì)花費(fèi)大量精力。就像你提到的大家因?yàn)槭褂肨ikTok而注意力嚴(yán)重分散的例子，我們不需要去關(guān)注最終結(jié)果。這是一個(gè)真正棘手的問題，那些未知的東西真的很難預(yù)測(cè)，因此我更擔(dān)心這些，盡管兩者我都擔(dān)心。

主持人：會(huì)是未知因素嗎？你能說出你特別擔(dān)心的因素嗎？

奧特曼：嗯，那它們就會(huì)被歸為未知因素。

盡管我認(rèn)為短期內(nèi)的變化會(huì)比我們想象的要少，就像其他重大技術(shù)一樣。但從長(zhǎng)遠(yuǎn)來看，我認(rèn)為變化會(huì)超出我們的預(yù)期。我擔(dān)心社會(huì)適應(yīng)這種全新事物的速度，以及我們花多長(zhǎng)時(shí)間去找到新的社會(huì)契約與我們能夠用多長(zhǎng)時(shí)間做到這一點(diǎn)，我對(duì)此感到擔(dān)憂。

奧特曼的優(yōu)點(diǎn)和最危險(xiǎn)的弱點(diǎn)

主持人：隨著事物的快速變化，我們正嘗試將恢復(fù)力（resilience）作為課程的核心內(nèi)容之一，而恢復(fù)力的基石是自我意識(shí)。所以，我想知道你在踏上這段旅程時(shí)，是否清楚自己的驅(qū)動(dòng)力。

奧特曼：首先，我相信恢復(fù)力是可以被教的，恢復(fù)力一直是最重要的生活技能之一。在未來的幾十年里，恢復(fù)力和適應(yīng)能力會(huì)變得更重要，所以我覺得這個(gè)觀點(diǎn)很好。至于自我意識(shí)的問題，我覺得自己是有自我意識(shí)的，但就像每個(gè)人都認(rèn)為自己有自我意識(shí)一樣，我是否真的有，很難從自身角度來評(píng)判。

主持人：我能問你我們?cè)谧晕乙庾R(shí)入門課程中經(jīng)常問的問題嗎？

奧特曼：當(dāng)然。

主持人：這就像彼得·德魯克的框架，Sam，你認(rèn)為自己最大的優(yōu)點(diǎn)是什么？

奧特曼：我認(rèn)為我在許多事情上都不是特別出色，但也在很多方面都還不錯(cuò)。而且我認(rèn)為在這個(gè)世界，廣泛的技能被低估了。每個(gè)人都在過度專精，所以如果你擅長(zhǎng)很多事情，就可以在其中找到聯(lián)系。我認(rèn)為這樣你就能提出不同于其他人的想法，而不是僅僅成為某個(gè)領(lǐng)域的專家。

主持人：你最危險(xiǎn)的弱點(diǎn)是什么？

奧特曼：最危險(xiǎn)的弱點(diǎn)，這是個(gè)有趣的思考。我傾向于偏向支持技術(shù)，可能因?yàn)槲液芎闷?，想看看技術(shù)的發(fā)展方向，而且我相信總體而言，技術(shù)是件好事。

我認(rèn)為這種世界觀總體上對(duì)我和其他人都很有利，因此得到了很多積極的反饋。然而，這并不總是對(duì)的，而且當(dāng)它不對(duì)時(shí)，對(duì)許多人來說會(huì)產(chǎn)生非常不好的影響。

主持人：哈佛大學(xué)心理學(xué)家戴維·麥克利蘭提出了一個(gè)框架，即所有領(lǐng)導(dǎo)者都被三種原始需求之一驅(qū)動(dòng)：歸屬需求，即被喜歡的需求；成就需求；以及權(quán)力需求。如果必須對(duì)它們進(jìn)行排序，你會(huì)怎么排？

奧特曼：在我的職業(yè)生涯中，不同時(shí)期都有這些需求。我認(rèn)為人們會(huì)經(jīng)歷不同的階段。而目前，我覺得驅(qū)使我前行的是想做一些有意義和有趣的事情。我之前肯定也經(jīng)歷過追求金錢、權(quán)力和地位的階段。

主持人：你對(duì)即將推出的ChatGPT-5最感到興奮的是什么？

我還不知道，這個(gè)答案聽起來有點(diǎn)敷衍。但我認(rèn)為關(guān)于GPT-5或任何我們將其命名的版本，最重要的是它將會(huì)更聰明。

聽起來像在逃避，但我覺得這是人類歷史上最顯著的事實(shí)之一：我們能做點(diǎn)什么，并且現(xiàn)在可以以高度科學(xué)的確定性說，GPT-5會(huì)比GPT-4更聰明得多，GPT-6會(huì)比GPT-5更聰明得多。我們還沒有到達(dá)這個(gè)曲線的頂端，我們大致知道該怎么做。它不會(huì)只在某一個(gè)領(lǐng)域變得更好，也不是總會(huì)在這次評(píng)估、這個(gè)學(xué)科或這種模式上表現(xiàn)更好，而是整體上會(huì)變得更聰明。我認(rèn)為這一事實(shí)的重大意義仍被低估了。

觀眾提問環(huán)節(jié)

最后，我們也摘錄了一些觀眾提問環(huán)節(jié)的精彩內(nèi)容。

提問1：隨著你們?cè)絹碓浇咏麬GI，你們打算如何負(fù)責(zé)任地部署它，以防止抑制人類創(chuàng)新并繼續(xù)推動(dòng)創(chuàng)新?

奧特曼：我并不擔(dān)心AGI會(huì)抑制人類創(chuàng)新。我真的深信人們會(huì)用更好的工具做出更棒的成就。歷史都顯示，如果給人們更多的杠桿，他們就能做出更神奇的事情。這對(duì)我們所有人來說都是一件好事。

但我確實(shí)越來越擔(dān)心如何負(fù)責(zé)任地做這一切。隨著模型變得更加強(qiáng)大，我們面臨的標(biāo)準(zhǔn)也會(huì)越來越高。我們已經(jīng)做了很多事情，比如紅隊(duì)測(cè)試和外部審計(jì)。這些都很好。但我認(rèn)為隨著模型變得更強(qiáng)大，我們需要更加漸進(jìn)地部署，并保持更緊密的反饋循環(huán)，關(guān)注它們的使用情況和發(fā)揮效果的領(lǐng)域。

我們過去可以每隔幾年就發(fā)布一次大的模型更新，但現(xiàn)在我們可能需要找到方法來增加部署的顆粒度，比較更頻繁地進(jìn)行迭代部署。具體該如何做還不太清楚，但這將是負(fù)責(zé)任部署的關(guān)鍵。

此外，我們讓所有利益相關(guān)者協(xié)商人工智能規(guī)則的方式，隨著時(shí)間的推移，這也會(huì)變得越來越復(fù)雜。

提問2： 你之前提到，每年我們都會(huì)有更強(qiáng)大的AI系統(tǒng)。世界上許多地方都不具備建設(shè)這些數(shù)據(jù)中心或大型計(jì)算機(jī)的基礎(chǔ)設(shè)施，全球創(chuàng)新會(huì)受到怎樣的影響？

奧特曼：關(guān)于這個(gè)問題，我想分為兩部分來談。

首先，無論計(jì)算機(jī)在哪里建造，我認(rèn)為全球公平地使用計(jì)算機(jī)進(jìn)行訓(xùn)練和推理的訪問權(quán)極為重要。我們使命的核心之一是讓盡可能多想要使用ChatGPT的人能夠使用它，我們可能無法或出于良好原因不想在那里運(yùn)營(yíng)。我們?nèi)绾慰紤]使訓(xùn)練計(jì)算對(duì)世界更加可用，將變得越來越重要。我確實(shí)認(rèn)為我們將進(jìn)入一個(gè)世界，在這個(gè)世界里，我們認(rèn)為獲取一定量的計(jì)算能力是一種人權(quán)。我們得想辦法如何將這種能力分配給世界各地的人們。

然而，還有第二點(diǎn)，那就是我認(rèn)為各國(guó)將越來越意識(shí)到擁有自己的AI基礎(chǔ)設(shè)施的重要性。我們想要找到一種方法，我們現(xiàn)在正花費(fèi)大量時(shí)間周游世界，幫助許多想要建立這些設(shè)施的國(guó)家。我希望我們能在其中發(fā)揮一些微小的作用。

提問3：您認(rèn)為人工智能在未來的太空探索或殖民中將扮演什么角色？

奧特曼： 我認(rèn)為太空顯然對(duì)生物生活并不友好。因此，如果我們能發(fā)送機(jī)器人，那看起來更容易。

提問4：你如何知道一個(gè)觀點(diǎn)是非共識(shí)的？如何驗(yàn)證你的想法有沒有得到科技界的共識(shí)？

奧特曼： 首先，你真正想要的是正確。持有相反觀點(diǎn)但錯(cuò)誤仍然是錯(cuò)誤的。

如果你預(yù)測(cè)了過去兩次衰退中的17次，你可能只是在你正確的那兩次上持有相反觀點(diǎn)?？赡懿⒎潜厝蝗绱恕５闫渌?5次都錯(cuò)了。所以我認(rèn)為，成為相反意見者過于興奮是很容易的。再次強(qiáng)調(diào)，最重要的是要正確。群體通常是正確的。但當(dāng)你持有相反觀點(diǎn)同時(shí)又正確時(shí)，價(jià)值最大，而這并不總是以非此即彼的方式發(fā)生。就像在場(chǎng)的每個(gè)人都可能同意AI是創(chuàng)業(yè)的正確領(lǐng)域。如果房間里的一個(gè)人找出了正確的公司來創(chuàng)立，然后成功地執(zhí)行了它，而其他人都認(rèn)為那不是你能做的最好的事情，那才是最重要的。

至于如何做到這一點(diǎn)，我認(rèn)為圍繞自己建立正確的同行群體非常重要，找到原創(chuàng)思考者也很重要。但你在某種程度上必須獨(dú)自做這件事，或者至少是獨(dú)自做一部分，或者與將成為你的聯(lián)合創(chuàng)始人或其他人的幾個(gè)人一起做。

我認(rèn)為，一旦你在如何找到正確的同行群體這個(gè)問題上陷得太深，你已經(jīng)處于錯(cuò)誤的框架中了。學(xué)會(huì)信任自己和自己的直覺以及自己的思考過程，這隨著時(shí)間的推移會(huì)變得容易得多。無論他們說什么，我認(rèn)為沒有人在剛開始時(shí)就真的非常擅長(zhǎng)這一點(diǎn)。因?yàn)槟氵€沒有建立起肌肉，所承受的社會(huì)壓力和進(jìn)化壓力都與此背道而馳。因此，隨著時(shí)間的推移，你會(huì)越來越好，不要過早地對(duì)自己要求太高。

提問5：我很想知道你對(duì)未來幾十年能源需求的變化，以及我們?nèi)绾螌?shí)現(xiàn)可再生能源每千瓦時(shí)1美分的未來。

奧特曼： 這一天也許會(huì)到來，但我不確定……我猜測(cè)最終核聚變將主導(dǎo)地球上的電力生產(chǎn)。我認(rèn)為它將成為最便宜、最豐富、最可靠、能量密度最高的能源。我可能在這方面是錯(cuò)誤的，也有可能是太陽(yáng)能加上儲(chǔ)能。你知道，我最大的猜測(cè)是，最終可能是這兩種方式中的某一種，并且會(huì)有某些情況下其中一種比另一種更好，但這些看起來像是真正全球規(guī)模、每千瓦時(shí)一美分能源成本的兩種主要選擇。

提問6：從OpenAI去年的發(fā)生的事中學(xué)到了什么，是什么讓你能回來？

奧特曼： 我學(xué)到的最好的一課是，我們擁有一個(gè)非常出色的團(tuán)隊(duì)，這個(gè)團(tuán)隊(duì)完全有能力在沒有我的情況下運(yùn)營(yíng)公司，并且他們真的在沒有我的情況下運(yùn)營(yíng)了幾天。隨著我們向人工通用智能（AGI）的進(jìn)展，一些瘋狂的事情可能會(huì)發(fā)生，甚至可能會(huì)有更多的瘋狂事情在我們之間發(fā)生。因?yàn)槭澜绲牟煌貐^(qū)對(duì)我們的情感反應(yīng)越來越強(qiáng)烈，風(fēng)險(xiǎn)也在不斷增加。我曾經(jīng)認(rèn)為，在很大的壓力下，團(tuán)隊(duì)會(huì)做得很好，但你永遠(yuǎn)不會(huì)真正知道，直到你有機(jī)會(huì)進(jìn)行實(shí)驗(yàn)。我們有機(jī)會(huì)進(jìn)行了這個(gè)實(shí)驗(yàn)，我了解到團(tuán)隊(duì)非常具有韌性，并且準(zhǔn)備好了在某種程度上運(yùn)營(yíng)公司。

至于為什么我回來了，你知道，最初當(dāng)董事會(huì)在第二天早上打電話給我，問我是否考慮回來時(shí)，我回答說不，我很生氣。然后，我思考了這個(gè)問題，我意識(shí)到我有多么熱愛OpenAI，我有多么熱愛這些人，我們建立的文化，以及我們的使命。我有點(diǎn)想要和大家一起完成這一切。

提問7：能談?wù)凮penAI這種俄羅斯套娃的結(jié)構(gòu)嗎？

奧特曼： 這種結(jié)構(gòu)是逐漸形成的，如果我們可以重新來過，這不會(huì)是我會(huì)選擇的方案。但在我們開始的時(shí)候，并沒有想到會(huì)有一個(gè)產(chǎn)品。我們只是打算成為一個(gè)人工智能研究實(shí)驗(yàn)室。我們甚至都不清楚，我們對(duì)語(yǔ)言模型、API或ChatGPT沒有任何概念。

所以，如果你要?jiǎng)?chuàng)辦一家公司，你必須有一些理論，認(rèn)為你總有一天會(huì)銷售一個(gè)產(chǎn)品，而我們當(dāng)時(shí)并沒有這樣想。我們沒有意識(shí)到我們會(huì)需要這么多錢用于計(jì)算，我們也沒有意識(shí)到我們會(huì)擁有這樣一個(gè)不錯(cuò)的業(yè)務(wù)。OpenAI創(chuàng)辦之初只是打算推進(jìn)人工智能研究。

提問8：制造出比人類更聰明的東西是否會(huì)讓你感到恐懼？

奧特曼： 當(dāng)然讓我感到恐懼。人類隨著時(shí)間的推移變得越來越聰明、越來越有能力。你比你的祖父母能做的事要多，不是因?yàn)閭€(gè)人吃得更好或得到更多的醫(yī)療保健，而是社會(huì)的基礎(chǔ)設(shè)施進(jìn)步，如互聯(lián)網(wǎng)、iPhone，讓大量知識(shí)觸手可及。

社會(huì)就是一個(gè)AGI系統(tǒng)，并不是某個(gè)人的大腦所能左右的，是所有人一磚一瓦搭建起來，為后來者創(chuàng)造更高的成就，你的孩子將擁有你沒有的工具。

這總是有點(diǎn)嚇人。但我認(rèn)為，好的方面要比壞的方面多得多。未來的人們將能夠使用這些新工具解決更多的問題，

One More Thing

不知道奧特曼接下來幾天還會(huì)到訪哪些高校，不過整個(gè)旅程可能會(huì)在5月9日之前結(jié)束。

從泄露的文件可以看出，OpenAI設(shè)置了search.chatgpt.com子域名。

預(yù)計(jì)會(huì)在5月9日發(fā)布AI搜索功能。

目前，相關(guān)功能網(wǎng)頁(yè)前端代碼和設(shè)置界面已經(jīng)泄露。

可能包括圖片搜索、小組件（天氣、計(jì)算器、體育、股票、時(shí)區(qū)計(jì)算）。

可選用GPT-4 Lite、GPT-4、GPT3.5等不同模型。

參考鏈接：
[1]https://www.youtube.com/watch?v=GLKoDkbS1Cg
[2]https://news.harvard.edu/gazette/story/2024/05/did-student-or-chatgpt-write-that-paper-does-it-matter/
[3]https://www.technologyreview.com/2024/05/01/1091979/sam-altman-says-helpful-agents-are-poised-to-become-ais-killer-function
[4]https://twitter.com/RishabJainK/status/1785807873626579183
[5]https://twitter.com/moreisdifferent/status/1785759129056743632