OpenAI不Open：閉門造車、融資不斷，深度報道再掀爭議，馬斯克：應(yīng)該更加開放
魚羊 發(fā)自 凹非寺
量子位 報道 | 公眾號 QbitAI
OpenAI再度引發(fā)熱議。這次起因卻是一篇深度特稿。
此前，創(chuàng)立于2015年12月的OpenAI，在短短4年間，已經(jīng)成為全世界最具盛名的AI研究機(jī)構(gòu)。但盛名之下，卻也伴隨著質(zhì)疑：CloseAI？宣傳太過火？
現(xiàn)在，MIT科技評論記者Karen Hao在30多次采訪之后，為大眾揭開了OpenAI神秘面紗的一角。
想要讓AGI（通用人工智能）服務(wù)于人類的OpenAI，現(xiàn)在卻致力于保持機(jī)密性，保護(hù)其形象，保持員工忠誠度。
她表示：OpenAI公開擁戴的理念，與其閉門造車的方式之間，顯然存在偏差。
報道一出，OpenAI創(chuàng)始人之一的馬斯克發(fā)表推文，稱“OpenAI應(yīng)該更加開放”。
應(yīng)該對所有人工智能都進(jìn)行更好的監(jiān)管，特斯拉也不例外。
需要營利的非營利組織
OpenAI的成立宗旨，是通過促進(jìn)和發(fā)展友好的人工智能，而使人類整體收益。而他們的努力，最終指向AGI（通用人工智能）。
在伊隆·馬斯克（Elon Musk）和薩姆·阿爾特曼（Sam Altman）創(chuàng)立OpenAI之初，這一非營利組織立下目標(biāo)：通過與其他機(jī)構(gòu)和研究者的自由合作，向公眾開放專利和研究成果。
但當(dāng)Karen Hao走進(jìn)OpenAI，進(jìn)行了30幾次采訪之后，她指出：OpenAI已經(jīng)將其使命從安全、公平地開發(fā)和分發(fā)人工智能技術(shù)，轉(zhuǎn)變?yōu)橐患也粩嗳谫Y的秘密公司。
這家公司公開擁戴的理念，與其閉門造車的方式之間，顯然存在偏差。
一切變化之始，大概還是源于“營利”二字。
OpenAI新任首席執(zhí)行官薩姆·阿爾特曼明確表示：
OpenAI需要賺錢才能進(jìn)行研究。
畢竟，在通向AGI的研究道路上，想要取得突破性結(jié)果，對計算資源的要求每3、4個月就會翻一番。而這背后，都是巨額的經(jīng)費在燃燒。
還有頂尖研究人員的薪資。據(jù)《紐約時報》報道稱，2016年的時候，OpenAI只有50多人，但僅是薪水和福利就支出了700多萬美元。
資金壓力之下，2019年3月，人們注意到，OpenAI的結(jié)構(gòu)變了。
這家宣稱要為人類謀福利的AI非營利組織宣布，成立一家“利潤上限”公司OpenAI LP。
也就是說，在回報達(dá)到投資上限（首批上限100倍）后，任何對OpenAI LP投資的利潤都將轉(zhuǎn)移到非營利組織OpenAI Nonprofit上，該公司將按其認(rèn)為合適的方式分配這些利潤。
到了7月份，OpenAI又接受了微軟10億美元的投資。對此，Keras作者Fran?ois Chollet曾直言：
喊著非營利的旗號，卻投向營利機(jī)構(gòu)的懷抱…是在鬼扯…
而OpenAI內(nèi)部，也并沒有想象中“open”。
Karen Hao在采訪中了解到，OpenAI的大多數(shù)突破都投入了大量計算資源，他們認(rèn)為，計算驅(qū)動策略是通往AGI最好的方法。
而這些結(jié)果，并沒有“自由合作，向公眾開放”。相反，OpenAI明確指示員工和實習(xí)生不要透露相關(guān)信息，離職人員則簽署了保密協(xié)議。
現(xiàn)在，OpenAI的管理層似乎已經(jīng)擺脫了最初的想法，不再認(rèn)為開放是構(gòu)建有益AGI的最佳方法。
對此，OpenAI的發(fā)言人稱：
安全和安保問題未來將會迫使我們減少傳統(tǒng)出版，同時強化共享安全、政策和標(biāo)準(zhǔn)研究的重要性。
我們希望緩慢發(fā)布結(jié)果，以了解潛在的風(fēng)險和影響。
GPT-2：是噱頭還是深思熟慮
這就不經(jīng)讓人聯(lián)想到了擠牙膏式開源的GPT-2。
在最初的驚艷亮相之后，GPT-2采用了分階段開源的方式。而OpenAI的理由是：GPT-2太危險，擔(dān)心其被居心不軌的人武器化。
這引起了學(xué)界的反感。羅格斯大學(xué)助理教授布里特·巴黎（Britt Paris）就說：“OpenAI試圖利用對AI的恐慌來進(jìn)行資本化。”
而OpenAI越來越精良的宣傳工作，更為GPT-2引來了“噱頭”的評價。
他們在努力經(jīng)營公司形象，保持機(jī)密性，保證員工忠誠度，那么，OpenAI還是那個開放、透明的OpenAI嗎？
不過，Karen Hao還是指出，OpenAI仍是人才和前沿研究的堡壘。
OpenAI面臨著折衷，這不僅是因為財力問題，而且還因為OpenAI選擇了AGI戰(zhàn)略。
壓力迫使OpenAI做出似乎離其初衷越來越遠(yuǎn)的決定。它急于進(jìn)行炒作以吸引資金和人才，捍衛(wèi)其研究以期保持優(yōu)勢，并追逐投入巨大計算資源的策略——不是因為他們視此為通向AGI的唯一途徑，而是因為這似乎是一條捷徑。
網(wǎng)友熱議
這一長篇報道，引發(fā)了社交媒體上的熱烈討論。
對OpenAI這家明星AI研究機(jī)構(gòu)，網(wǎng)友們大概是又愛又恨。
有網(wǎng)友說：如果AGI真的能實現(xiàn)，還是希望能由OpenAI這樣的組織，而非Google、亞馬遜、facebook這樣的公司完成。
但也有網(wǎng)友認(rèn)為，OpenAI使用了太多公關(guān)技巧。
（從采訪來看，）GPT-2就是個噱頭。
還有人覺得，AGI只是OpenAI用來表現(xiàn)他們技術(shù)領(lǐng)先的工具。
我認(rèn)為他們不會成為AI領(lǐng)導(dǎo)者，可以預(yù)測OpenAI最終將被收購。
北郵陳光老師則引用了Fran?ois Chollet的一段話，并表示：看完剖析OpenAI那篇文章，對這幾句話有了更深的理解——相比初衷，是否有持續(xù)正確的激勵，真正決定了實驗室將走向何方、能走多遠(yuǎn)。
那么，你怎么看？
完整報道鏈接：https://www.technologyreview.com/profile/karen-hao/
— 完 —
相關(guān)閱讀
