突發(fā)！OpenAI開除Ilya盟友，理由：涉嫌信息泄漏

西風(fēng) 2024-04-15 14:48:57 來源：量子位

西風(fēng) 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

突發(fā)！OpenAI開人了，理由：涉嫌信息泄露。

一位是失蹤的首席科學(xué)家Ilya盟友，超級對齊（Superalignment）團(tuán)隊(duì)核心成員Leopold Aschenbrenner。

另一位也不簡單，是LLM推理團(tuán)隊(duì)研究員Pavel Izmailov，曾經(jīng)也在超級對齊團(tuán)隊(duì)干過。

目前尚不清楚這倆人到底泄露了啥信息。

消息被曝出后，不少網(wǎng)友表示“挺震驚”：

不久前我還看過Aschenbrenner的帖子，感覺他正處于事業(yè)上升期，沒想到會有這樣的轉(zhuǎn)變。

還有網(wǎng)友認(rèn)為：

OpenAI失去Aschenbrenner，Ilya Sutskever也被邊緣化，該公司對于構(gòu)建安全AI的承諾看起來更加不可信了。

OpenAI人才流動，與谷歌Meta互挖墻腳已經(jīng)見怪不怪，但開除形式的人事調(diào)動，還是去年11月董事會叛變之后的第一回。

倆人曾經(jīng)都是Ilya的部下

據(jù)了解，Leopold Aschenbrenner于一年前加入OpenAI。此前他曾在Future Fund工作過，再往前追溯，19歲從哥倫比亞大學(xué)畢業(yè)，還在牛津大學(xué)做過經(jīng)濟(jì)增長方面的研究。

Pavel Izmailov這邊，他還是紐約大學(xué)CILVR小組成員，本人透露2025年秋將加入紐約大學(xué)Tandon CSE、Courant CS擔(dān)任助理教授。

目前，倆人的X主頁還都備注著與OpenAI的關(guān)系。

最近這個月倆人都沒有發(fā)新推文，不過置頂帖子倒是很亮眼。

沒錯，都是超級對齊團(tuán)隊(duì)的第一篇論文，倆人都是這篇論文的作者。

這就不得不說到這個團(tuán)隊(duì)，組團(tuán)于去年7月份，是OpenAI為應(yīng)對不同時間尺度上大模型可能會產(chǎn)生的安全問題，成立的三大安全團(tuán)隊(duì)之一。

超級對齊團(tuán)隊(duì)負(fù)責(zé)遙遠(yuǎn)的未來，給超越人類的超級智能安全性奠定基礎(chǔ)，由Ilya Sutskever和Jan Leike領(lǐng)導(dǎo)。

雖然OpenAI看起來似乎在安全方面很重視，但其內(nèi)部對AI的安全開發(fā)存在很大分歧已不是什么秘密。

這種分歧甚至被認(rèn)為是去年11月OpenAI董事會內(nèi)訌的最大原因：

網(wǎng)傳Ilya Sutskever成為“政變”帶頭人，就是因?yàn)榭吹搅艘恍〇|西讓他內(nèi)心不安。

而Ilya帶領(lǐng)的這個超級對齊團(tuán)隊(duì)，很多成員也是站在Ilya這邊，在后來支持奧特曼的比心接龍活動中，這個超級對齊團(tuán)隊(duì)成員也基本保持了沉默。

隨著OpenAI內(nèi)訌事件的平息，奧特曼成為贏家，Ilya Sutskever離開董事會幾乎沒再公開露頭，超級對齊團(tuán)隊(duì)現(xiàn)在是個什么情況咱也不知道。

再說回到這次兩位研究員被解雇。

兩人曾經(jīng)都是Ilya部下，the information還表示Aschenbrenner是Ilya盟友、與優(yōu)先考慮解決AI危險(xiǎn)性的運(yùn)動有關(guān)聯(lián)。

所以，也有網(wǎng)友猜測這次裁員是奧特曼的“秋后算賬”。

和Q*泄密有關(guān)？

除此之外，網(wǎng)友比較關(guān)心還有泄密的內(nèi)容究竟是什么。

目前猜測的焦點(diǎn)還是放在Q*，也就是董事會叛變大戲的導(dǎo)火索之一。

根據(jù)網(wǎng)友評論，Jimmy apples似乎發(fā)過相關(guān)推文，但沒過多久我們看到鏈接打開時已是推文被刪的大狀態(tài)……

從遺留的蛛絲馬跡來看，好像大概也許還是和Q*有關(guān)。

目前Q*從傳聞，已經(jīng)變成被正式確認(rèn)的存在，但關(guān)于它的一切，奧特曼本人目前都守口如瓶。

總之自從Q*之后，OpenAI內(nèi)部開始出現(xiàn)理念分歧。

經(jīng)歷一系列風(fēng)波后，93%的員工簽署聯(lián)名信與奧特曼共存亡，調(diào)查結(jié)果公布后奧特曼無罪重返董事會。

看似風(fēng)平浪靜，上下一心致力于實(shí)現(xiàn)AGI背后，裂痕仍舊存在。

參考鏈接：
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
[5]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/