OpenAI高層巨變：聯(lián)創(chuàng)辭職總裁休假，網(wǎng)友：領(lǐng)導(dǎo)層成了空殼

克雷西 2024-08-06 11:15:28 來源：量子位

夢(mèng)晨 克雷西 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

剛剛，OpenAI高層大地震：

聯(lián)創(chuàng)John Schulman辭職跑路，聯(lián)創(chuàng)&總裁Greg Brockman長(zhǎng)期休假，產(chǎn)品副總裁Peter Deng也被曝離職。

John Schulman（約翰·舒曼），長(zhǎng)年領(lǐng)導(dǎo)OpenAI強(qiáng)化學(xué)習(xí)團(tuán)隊(duì)，被譽(yù)為“ChatGPT架構(gòu)師”。

也是他在Ilya Sustkever離開之后，臨時(shí)接管了超級(jí)對(duì)齊團(tuán)隊(duì)。

現(xiàn)在他宣布“做了一個(gè)艱難的決定”，加入隔壁Anthropic，也就是Claude團(tuán)隊(duì)。

與此同時(shí)，OpenAI總裁Greg Brockman也宣布將休長(zhǎng)假，直到年底。

OpenAI計(jì)劃10月1日起在全球各地舉辦開發(fā)者日等活動(dòng)，他也將缺席。

Brockman自述是在連續(xù)工作了9年之后第一次放松，但對(duì)年底之后的計(jì)劃說的比較模糊，也有網(wǎng)友認(rèn)為是出于保密協(xié)議。

在舒曼離職官宣20分鐘后，奧特曼在回復(fù)中感謝了舒曼的貢獻(xiàn)，以及回憶了兩人2015年初次見面時(shí)的情景。

但截至目前，奧特曼沒有對(duì)Brockman休假做任何回應(yīng)。

奧特曼平常有打字句首字母和“i”不用大寫字母的習(xí)慣，但每當(dāng)重要同事選擇離開時(shí)，他都會(huì)表現(xiàn)得更正式一些。

著名OpenAI內(nèi)幕爆料賬號(hào)蘋果哥表示：現(xiàn)在領(lǐng)導(dǎo)層已經(jīng)成了一個(gè)空殼，你們還是趕緊發(fā)布產(chǎn)品吧。

ChatGPT架構(gòu)師離職

舒曼本科在加州理工學(xué)習(xí)物理，在UC伯克利短暫學(xué)習(xí)過神經(jīng)科學(xué)，后來師從強(qiáng)化學(xué)習(xí)大牛Pieter Abbeel，完成計(jì)算機(jī)科學(xué)博士學(xué)位。

在他成為OpenAI聯(lián)創(chuàng)時(shí)，博士還未畢業(yè)。

OpenAI是他在實(shí)習(xí)之外工作過的第一家也是唯一一家公司。

他的代表作、最高引論文PPO，也就是ChatGPT核心技術(shù)RLHF中選用的強(qiáng)化學(xué)習(xí)算法。

后來在從GPT-3.5、GPT-4到GPT-4o的一系列工作中都領(lǐng)導(dǎo)了對(duì)齊/后訓(xùn)練團(tuán)隊(duì)。

這次他自述的離職原因也是與此相關(guān)：

希望加深對(duì)AI對(duì)齊的關(guān)注，并開啟我職業(yè)生涯的新篇章，讓我可以重返實(shí)際的技術(shù)工作。

不過他也給足了OpenAI面子，補(bǔ)充到“不是因?yàn)镺penAI缺乏對(duì)安全對(duì)齊工作的支持而離開”，只是出于個(gè)人希望集中精力。

在ICML2023的演講中，舒曼自述過個(gè)人接下來關(guān)注的研究方向之一：如何避免過度優(yōu)化。

• ChatGPT 中的一些令人討厭的行為（例如過度道歉）是過度優(yōu)化的結(jié)果。
• RLHF很容易對(duì)狹窄的指標(biāo)進(jìn)行過度優(yōu)化，例如模型可能學(xué)會(huì)了能獲得獎(jiǎng)勵(lì)的捷徑，但沒有真正理解。
• 適當(dāng)?shù)膶?duì)話任務(wù)訓(xùn)練需要推理、換位思考和知識(shí)，研究人員必須精心設(shè)計(jì)訓(xùn)練過程、獎(jiǎng)勵(lì)功能和數(shù)據(jù)集
• 獎(jiǎng)勵(lì)信號(hào)必須評(píng)估整個(gè)對(duì)話的質(zhì)量，而不僅僅是個(gè)別反饋。

在今年五月份與播客主持人Dwarkesh Patel訪談時(shí)，舒曼也表示，算力應(yīng)該更多從預(yù)訓(xùn)練向后訓(xùn)練轉(zhuǎn)移。

OpenAI人才持續(xù)流失

由于在AI安全方面理念和奧特曼不合，OpenAI的人才發(fā)生了大量流失。

今年5月，超級(jí)對(duì)齊團(tuán)隊(duì)的兩名負(fù)責(zé)人——首席科學(xué)家Ilya Sutskever和RLHF發(fā)明者之一Jan Leike，在同一天內(nèi)相繼離開OpenAI。

彼時(shí)離超級(jí)對(duì)齊團(tuán)隊(duì)的成立，過去還不到一年。

Jan Leike離開后更是連發(fā)十幾條推文，對(duì)著OpenAI瘋狂炮轟，控訴其沒有兌現(xiàn)20%算力的承諾，并且對(duì)安全的重視程度遠(yuǎn)不及產(chǎn)品。

后來，Jan Leike選擇加入了OpenAI的競(jìng)爭(zhēng)對(duì)手Anthropic，繼續(xù)進(jìn)行超級(jí)對(duì)齊的研究。

在GPT-4項(xiàng)目上與Jan Leike共同領(lǐng)導(dǎo)對(duì)齊工作的Ryan Lowe，也已于3月底離開OpenAI。

還有超級(jí)對(duì)齊成員之一William Saunders，以及參與過GPT-4對(duì)抗性測(cè)試的Daniel Kokotajlo，也都從OpenAI離職。

更不必說隔壁Anthropic的創(chuàng)始人Dario Amodei和Daniela Amodei兄妹，也是OpenAI出身。

哥哥Dario離開前是OpenAI的研究副總裁，妹妹Daniela則是安全與策略部門副總監(jiān)，走的時(shí)候還把GPT-3首席工程師Tom Brown等十幾名員工一起帶到了Anthropic。

導(dǎo)致他們選擇出走創(chuàng)業(yè)的原因之一，就是OpenAI在安全問題尚未解決的情況下就直接發(fā)布了GPT-3，引發(fā)了他們的不滿。

對(duì)安全的重視，加上創(chuàng)始人的背景，也讓Anthropic成為了包括Jan Leike和這次離職的舒曼在內(nèi)的OpenAI員工的主要去處之一。

OpenAI這邊最近在安全工作上也有所動(dòng)作——

7月末，OpenAI把安全部門高級(jí)主管Aleksander Madry調(diào)離了安全崗位，并給他重新分配了“AI推理”的工作。

但OpenAI告訴媒體，Madry到了新職位上之后，仍將致力于人工智能安全工作。

CEO奧特曼也是強(qiáng)調(diào)，OpenAI一直都很重視安全工作，并堅(jiān)持了“給整個(gè)安全團(tuán)隊(duì)至少20%算力”的承諾。

但眼尖的網(wǎng)友很快發(fā)現(xiàn)，奧特曼玩了一波偷換概念，原來承諾的是給超級(jí)對(duì)齊團(tuán)隊(duì)20%算力，被偷偷改成了全部安全團(tuán)隊(duì)。

所以，在奧特曼的推文之后，網(wǎng)友也是毫不留情地把這一背景信息添加了上去，并附上了當(dāng)時(shí)OpenAI的官方鏈接。

emm……互聯(lián)網(wǎng)還是有記憶的。

One More Thing

在內(nèi)部大量人才流失的同時(shí)，OpenAI的“老仇人”馬斯克這邊也有新的動(dòng)作——

馬斯克剛剛再一次把OpenAI告上了法庭，一同被告的還有奧特曼以及總裁Brockman。

這次起訴的理由是，馬斯克認(rèn)為自己參與創(chuàng)立OpenAI之時(shí)受到了奧特曼和Brockman的“欺騙和敲詐勒索”。

馬斯克稱，自己當(dāng)初參與并投資OpenAI就是因?yàn)橄嘈帕藠W特曼的話，當(dāng)時(shí)奧特曼承諾OpenAI是一個(gè)安全、開放的非營利組織。

但后來OpenAI成為了營利性組織，還把一部分股份賣給了微軟，這讓馬斯克感到十分不滿，認(rèn)為自己遭到了背叛，痛斥奧特曼“背信棄義”。

馬斯克的律師Marc Toberoff表示，此次訴訟和之前撤回的那起有很大差別，要求被告“對(duì)故意向馬斯克和公眾做出虛假陳述的行為負(fù)責(zé)”，并尋求“大規(guī)模追回他們的不義之財(cái)”。

同時(shí)，起訴書還要求撤銷OpenAI對(duì)微軟授予的許可。

參考鏈接：
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html