ChatGPT誕生內(nèi)幕大曝光！發(fā)布前一晚還在糾結(jié)

ChatGPT誕生內(nèi)幕最新大曝光：

納尼？？原來“ChatGPT”這個(gè)名字，直到發(fā)布前一晚才確定下來。

而且當(dāng)時(shí)OpenAI非常猶豫要不要發(fā)這個(gè)模型，因?yàn)閾?jù)稱Ilya十次測(cè)試該模型，但僅有約一半的回答被團(tuán)隊(duì)認(rèn)可。

不過發(fā)布后，ChatGPT簡(jiǎn)直一炮而紅——

第1天數(shù)據(jù)出來后，團(tuán)隊(duì)開始懷疑“是不是搞錯(cuò)了”；第2天，網(wǎng)上的討論進(jìn)一步擴(kuò)大；才到了第3天，團(tuán)隊(duì)就意識(shí)到這個(gè)模型真·火了；并且進(jìn)入第4天，他們意識(shí)到ChatGPT將改變世界。

以上消息均來自O(shè)penAI最新播客，爆料人分別為Mark Chen（中間，OpenAI首席研究官）和Nick Turley（左一，ChatGPT負(fù)責(zé)人），都是在OpenAI工作多年的一線負(fù)責(zé)人。

除了大談特談ChatGPT崛起之路，他們還分享了OpenAI在圖像生成以及代碼方面的歷史進(jìn)程，并且還總結(jié)了OpenAI的產(chǎn)品開發(fā)哲學(xué)……

雖然節(jié)目整整有1小時(shí)，但正如網(wǎng)友所言，整個(gè)節(jié)奏恰到好處，他們以引人入勝的方式為大家展現(xiàn)了ChatGPT以及OpenAI鮮為人知的一面。

一起來看看，這幫“書呆子”是如何改變世界的吧。

發(fā)布前一晚才確定用“ChatGPT”命名

ChatGPT的命名過程相當(dāng)戲劇性，最早它被叫做“Chat with GPT-3.5”。

對(duì)，沒錯(cuò)，就是這個(gè)非常拗口的名字差點(diǎn)名揚(yáng)天下。

還好發(fā)布前一晚，Nick Turley他們冥思苦想，才改成了今天的——“ChatGPT”。

不過早期他們內(nèi)部對(duì)ChatGPT也信心不足，畢竟底層模型GPT-3.5已經(jīng)發(fā)布了幾個(gè)月，能力上也只是增加了用戶界面以及簡(jiǎn)化了交互。

Ilya還曾在ChatGPT發(fā)布前一晚向它提出了10個(gè)刁鉆難題，但只有5個(gè)答案得以通過，所以其實(shí)他們連到底要不要發(fā)布都存在爭(zhēng)議。

但沒想到的是，它居然火了，還火得一塌糊涂……

據(jù)Nick Turley回憶，ChatGPT剛發(fā)布的那段時(shí)間相當(dāng)混亂，所有人都以為是不是出了故障，懷疑它的爆火只是曇花一現(xiàn)，奧特曼還曾私下調(diào)侃道：

雖然看著它走紅很是令人興奮，但互聯(lián)網(wǎng)終歸是互聯(lián)網(wǎng)，總會(huì)降溫下去。

結(jié)果這次真的不一樣。后來的事相信大家也都清楚，媒體、社交平臺(tái)，到處都被這場(chǎng)ChatGPT颶風(fēng)席卷，直到今天也依舊火爆。

但估計(jì)很多朋友現(xiàn)在都還不知道GPT代表什么，Mark Chen也是當(dāng)場(chǎng)揭秘，表示是“Generative Pre-trained Transformer”（生成式預(yù)訓(xùn)練Transformer）。

隨著ChatGPT的一路走紅，研究人員反而陷入困擾，面對(duì)GPU短缺、數(shù)據(jù)庫(kù)連接耗盡、服務(wù)商速率限制導(dǎo)致的系統(tǒng)宕機(jī)，他們創(chuàng)建了“fail whale”頁面，通過生成一首由GPT-3完成的詩歌自我調(diào)侃，提醒用戶：我們宕機(jī)了！

經(jīng)常宕機(jī)的情況并沒有持續(xù)多久，OpenAI開始積極根據(jù)用戶反饋改進(jìn)ChatGPT，主要是通過RLHF（使用人類反饋的強(qiáng)化學(xué)習(xí)），當(dāng)用戶為對(duì)話提供積極反饋時(shí)，模型會(huì)訓(xùn)練自己生成更迎合用戶的響應(yīng)。

這導(dǎo)致模型早期為了取悅用戶過于諂媚，OpenAI也隨即發(fā)現(xiàn)了這個(gè)問題并及時(shí)進(jìn)行了處理。

Nick Turley表示，ChatGPT作為一個(gè)實(shí)用產(chǎn)品，長(zhǎng)期的優(yōu)化目標(biāo)并不在用戶的使用時(shí)長(zhǎng)上，而是用戶的長(zhǎng)期留存率，這也是他們構(gòu)建產(chǎn)品的核心機(jī)制。

此外他也觀察到，越來越多人，尤其是Z世代在逐漸將ChatGPT視作“思想伙伴”，因此未來OpenAI也將積極檢測(cè)相關(guān)情況，確保模型行為得當(dāng)。

在記憶用戶大量信息的同時(shí)，OpenAI也將會(huì)更注重提供“臨時(shí)聊天”等隱私保護(hù)功能。

圖像生成：另一個(gè)迷你ChatGPT時(shí)刻

而除了ChatGPT，OpenAI的圖像生成技術(shù)（ImageGen）也曾一度走紅。

Mark Chen坦言，這又是一個(gè)出乎他意料的東西。

按他的說法，ImageGen驗(yàn)證了團(tuán)隊(duì)之前的一個(gè)論點(diǎn)——當(dāng)模型能一次性生成完美符合用戶提示的圖像時(shí)，所創(chuàng)造的價(jià)值將難以衡量。

因?yàn)閺挠脩艚嵌榷?，人們不想從一堆圖像中挑選最好的，而是需要出色的提示遵循能力和強(qiáng)大的上下文編輯等功能。

而從2021年1月起，OpenAI就開始推出了一直以來大名鼎鼎的“DALL·E”系列：

• 2021年1月，發(fā)布圖像生成模型初始版本DALL·E；
• 2022年4月，DALL-E 2問世；
• 2023年10月，DALL-E 3推出，并直接集成到了ChatGPT當(dāng)中。

在Nick Turley的描述中，這些關(guān)于ImageGen的體驗(yàn)就像另一個(gè)迷你ChatGPT時(shí)刻。

盡管內(nèi)部已經(jīng)覺得它很酷，但只有發(fā)布后才真正感受到了世界如何為之瘋狂。

他舉例說，僅在一個(gè)周末，就有5%的印度網(wǎng)民嘗試了ImageGen工具，“這讓我們接觸到了此前從未預(yù)料會(huì)使用ChatGPT的新用戶”。

并且他還預(yù)測(cè)，其他模態(tài)（如語音和視頻）也會(huì)有類似的魔法時(shí)刻——當(dāng)它們達(dá)到用戶預(yù)期時(shí)，不僅會(huì)改變?nèi)藗兊纳?，而且?huì)進(jìn)一步擴(kuò)大ChatGPT的影響力。

有意思的是，他們還透露了一個(gè)非?！胺粗庇X”的現(xiàn)象。

比如對(duì)于ChatGPT，團(tuán)隊(duì)預(yù)期它會(huì)是一個(gè)純粹的實(shí)用產(chǎn)品，但實(shí)際上人們經(jīng)常拿來娛樂；而對(duì)于ImageGen，本來以為人們會(huì)拿來搞搞表情包娛樂一下，結(jié)果大部分都是用于實(shí)際工作生活，如制作ppt插圖或家居設(shè)計(jì)。

與此同時(shí)，他們還聊到了DALL-E一開始對(duì)生成人物肖像的限制。

Nick Turley回憶自己剛加入OpenAI時(shí)，團(tuán)隊(duì)其實(shí)對(duì)于應(yīng)該向用戶提供哪些功能相對(duì)保守，畢竟當(dāng)時(shí)這項(xiàng)技術(shù)還比較新。

但隨著時(shí)間推移，他們認(rèn)識(shí)到，當(dāng)對(duì)模型施加武斷的限制時(shí)，實(shí)際上會(huì)阻礙許多效果比較好的用法。

就拿生成人物肖像來說，當(dāng)他們首次在ChatGPT推出圖像上傳功能時(shí)，還曾考慮要不要對(duì)圖片進(jìn)行模糊處理，從而避免人們基于肖像進(jìn)行推斷或說一些刻薄之言。

不過為了追求自由，他們逐漸摒棄了默認(rèn)禁止這一做法。

總之，Nick Turley認(rèn)為，有原則地審視不同類型、時(shí)間尺度和風(fēng)險(xiǎn)等級(jí)的安全問題是十分必要的。

而且在某些涉及AI安全的場(chǎng)景下，從最壞的結(jié)果出發(fā)進(jìn)行考慮是非常恰當(dāng)?shù)摹?/p>

OpenAI鼓勵(lì)員工使用編程工具

談及AI近幾年在代碼生成領(lǐng)域的發(fā)展，從GPT-3生成React組件，到專門訓(xùn)練的模型如Codex和Code Interpreter，再到與Copilot等工具的整合。

Mark Chen認(rèn)為，“編碼”其實(shí)相當(dāng)廣泛，包括IDE中的實(shí)時(shí)代碼補(bǔ)全以及“Agentic”風(fēng)格的代碼生成等不同類型，OpenAI目前在后者投入了許多。

ChatGPT是實(shí)時(shí)響應(yīng)模型，輸入提示，就立馬給出答案，而Agentic編碼是指模型接受一個(gè)復(fù)雜的任務(wù)后，將在后臺(tái)長(zhǎng)時(shí)間處理，最終返回一個(gè)接近最佳答案的結(jié)果。

Codex就反映了這種范式，相比快速回答，他們更希望模型會(huì)花時(shí)間思考推理，這也將是代碼領(lǐng)域的未來發(fā)展趨勢(shì)。

此外面對(duì)代碼領(lǐng)域激烈的市場(chǎng)競(jìng)爭(zhēng)，Nick Turley則相當(dāng)歡迎，他表示開發(fā)者將會(huì)在星羅棋布的產(chǎn)品中獲得最佳助力。

不過寫代碼容易，寫好代碼，卻并不容易。

如何保障代碼的正確性，如何構(gòu)建組織內(nèi)部的軟件、編寫好的測(cè)試和文檔，如何處理代碼分歧等，這些都是AI模型未來需要集中學(xué)習(xí)的“品位”和“風(fēng)格”元素。

此外，OpenAI專注構(gòu)建通用技術(shù)，像Codex，雖然當(dāng)前定位是專業(yè)的軟件工程師，但考慮到其他用戶的使用需求，未來他們將繼續(xù)迭代優(yōu)化，希望能降低編程門檻，讓人人得以軟件開發(fā)。

關(guān)于OpenAI內(nèi)部如何使用這些工具，Nick Turley表示，他們的工程師使用Codex分擔(dān)測(cè)試任務(wù)，分析師會(huì)使用它來自動(dòng)標(biāo)記日志錯(cuò)誤，也有員工用它來規(guī)劃未來的待辦事項(xiàng)。

OpenAI鼓勵(lì)員工使用編程工具，幫助提高生產(chǎn)力的同時(shí)，可以預(yù)測(cè)產(chǎn)品的未來走向。他們不會(huì)將自己不認(rèn)可的產(chǎn)品推向市場(chǎng)，內(nèi)部使用是一個(gè)預(yù)先檢驗(yàn)，能讓他們及時(shí)了解到人們適應(yīng)新工作流程所需的時(shí)間。

OpenAI內(nèi)部：好奇心比博士學(xué)歷更重要

節(jié)目最后，他們還談到了OpenAI的內(nèi)部文化以及一些個(gè)人預(yù)測(cè)。

原來在OpenAI招聘時(shí)，相比是否擁有AI博士學(xué)位，他們更看重候選人是否擁有強(qiáng)烈好奇心。

Nick Turley強(qiáng)調(diào)，在這樣一個(gè)快速變化的世界中，不斷學(xué)習(xí)和探索新知至關(guān)重要。

尤其對(duì)OpenAI產(chǎn)品團(tuán)隊(duì)而言，好奇心是判斷最終能否成功的最佳指標(biāo)。

AI領(lǐng)域有太多未知的東西。員工需要保持謙遜，因?yàn)樵谡嬲钊胙芯亢蛧L試?yán)斫庵?，你無法得知什么是有價(jià)值的，什么又是存在風(fēng)險(xiǎn)的，唯有強(qiáng)烈的好奇心能驅(qū)使人們不斷學(xué)習(xí)和探索。

并且他還提醒，真正的瓶頸在于能夠提出正確的問題，而不是簡(jiǎn)單地獲取答案。

說到這里，Mark Chen還補(bǔ)充了行動(dòng)力和適應(yīng)能力的重要性。

前者意味著員工能主動(dòng)發(fā)現(xiàn)并解決問題（而不是被告知要做什么），后者意味著員工需要快速判斷什么重要并調(diào)整方向。

總之在Nick Turley看來，OpenAI之所以能快速推出產(chǎn)品，正是因?yàn)楣纠镉腥绱硕嗑邆湫袆?dòng)力、能夠真正“交付”（ship）產(chǎn)品的人，并且公司內(nèi)部的繁文縟節(jié)很少。

與此同時(shí)，隨著OpenAI的規(guī)模從最初的150-200人增長(zhǎng)至約2000人，他們還通過獨(dú)立項(xiàng)目精簡(jiǎn)人員配置、定期舉辦黑客馬拉松保持文化和精神。

聊完招聘，接下來他們二人還對(duì)未來進(jìn)行了一波預(yù)測(cè)~

Mark Chen表示，在未來12~18個(gè)月內(nèi)，最大的驚喜無疑是AI所展現(xiàn)出的“推理能力”，這種能力符合他們之前討論的“Agentic范式”，且目前已經(jīng)能看到它在數(shù)學(xué)、科學(xué)和編程領(lǐng)域取得了巨大進(jìn)展。

而Nick Turley則認(rèn)為，下一步重點(diǎn)在于解決“智力受限”的問題。

任何“描述清晰且受限于智力”的問題都將通過產(chǎn)品得到解決。

舉個(gè)例子，對(duì)企業(yè)來說，目前模型還無法解決一些本質(zhì)上很難的問題（如軟件工程、數(shù)據(jù)分析、卓越的客戶支持），但實(shí)際上這些問題很容易描述和評(píng)估。

對(duì)消費(fèi)者也同樣，許多個(gè)人生活中相對(duì)麻煩的事情（如報(bào)稅、旅行規(guī)劃、購(gòu)買高價(jià)值商品），所有這些問題都需要“多一點(diǎn)智能”和“合適的表現(xiàn)形式”。

并且Nick Turley預(yù)測(cè)，在未來一年半內(nèi)，AI將出現(xiàn)新的“交互形式”。

聊天模式仍將非常有用，但會(huì)越來越多地出現(xiàn)“異步工作流”（asynchronous workflows）。

所謂“異步工作流”是指，用戶只需將任務(wù)發(fā)送給AI，讓其在后臺(tái)長(zhǎng)時(shí)間處理即可。

他認(rèn)為，這將改變?nèi)藗儗?duì)AI的看法，使其不再僅僅是一個(gè)聊天機(jī)器人。

最后的最后，對(duì)于我們普通人該如何應(yīng)對(duì)正在狂飆突進(jìn)的AI，二位的觀點(diǎn)倒是不謀而合——多用。

Mark Chen認(rèn)為，最重要的是人們必須積極投入并使用這項(xiàng)技術(shù)；Nick Turley也強(qiáng)調(diào)，親自使用AI是消除恐懼和誤解的最佳方式。

One More Thing

就在以上節(jié)目播出后，OpenAI推文底下最高贊卻是：

啥時(shí)候發(fā)布GPT-5?（催更雖遲但到）

網(wǎng)友們也不是空穴來風(fēng)，畢竟CEO奧特曼幾天前還在公開場(chǎng)合透露：

OpenAI計(jì)劃發(fā)布一個(gè)非常強(qiáng)大的開源模型。

它能夠讓人們?cè)诒镜剡\(yùn)行極其強(qiáng)大的模型，重新認(rèn)識(shí)“本地部署”的可能性。

而且此前他也多次表示，OpenAI將在今年夏天推出新模型（雖然一推再推）。

不過有一說一，雖然Flag已經(jīng)立好了，但OpenAI最近的日子恐怕不太好過。

這不，面對(duì)Meta小扎瘋狂挖人（幾周內(nèi)連挖8名關(guān)鍵研究員），OpenAI內(nèi)部目前實(shí)際上處于短暫停擺狀態(tài)——

最近一周基本停工，員工放假一周（高管繼續(xù)工作）。

所以這GPT-5怕是又難咯~