OpenAI不Open：閉門(mén)造車、融資不斷，深度報(bào)道再掀爭(zhēng)議，馬斯克：應(yīng)該更加開(kāi)放

魚(yú)羊 2020-02-19 12:51:59 來(lái)源：量子位

魚(yú)羊 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

OpenAI再度引發(fā)熱議。這次起因卻是一篇深度特稿。

此前，創(chuàng)立于2015年12月的OpenAI，在短短4年間，已經(jīng)成為全世界最具盛名的AI研究機(jī)構(gòu)。但盛名之下，卻也伴隨著質(zhì)疑：CloseAI？宣傳太過(guò)火？

現(xiàn)在，MIT科技評(píng)論記者Karen Hao在30多次采訪之后，為大眾揭開(kāi)了OpenAI神秘面紗的一角。

想要讓AGI（通用人工智能）服務(wù)于人類的OpenAI，現(xiàn)在卻致力于保持機(jī)密性，保護(hù)其形象，保持員工忠誠(chéng)度。

她表示：OpenAI公開(kāi)擁戴的理念，與其閉門(mén)造車的方式之間，顯然存在偏差。

報(bào)道一出，OpenAI創(chuàng)始人之一的馬斯克發(fā)表推文，稱“OpenAI應(yīng)該更加開(kāi)放”。

應(yīng)該對(duì)所有人工智能都進(jìn)行更好的監(jiān)管，特斯拉也不例外。

需要營(yíng)利的非營(yíng)利組織

OpenAI的成立宗旨，是通過(guò)促進(jìn)和發(fā)展友好的人工智能，而使人類整體收益。而他們的努力，最終指向AGI（通用人工智能）。

在伊隆·馬斯克（Elon Musk）和薩姆·阿爾特曼（Sam Altman）創(chuàng)立OpenAI之初，這一非營(yíng)利組織立下目標(biāo)：通過(guò)與其他機(jī)構(gòu)和研究者的自由合作，向公眾開(kāi)放專利和研究成果。

但當(dāng)Karen Hao走進(jìn)OpenAI，進(jìn)行了30幾次采訪之后，她指出：OpenAI已經(jīng)將其使命從安全、公平地開(kāi)發(fā)和分發(fā)人工智能技術(shù)，轉(zhuǎn)變?yōu)橐患也粩嗳谫Y的秘密公司。

這家公司公開(kāi)擁戴的理念，與其閉門(mén)造車的方式之間，顯然存在偏差。

一切變化之始，大概還是源于“營(yíng)利”二字。

OpenAI新任首席執(zhí)行官薩姆·阿爾特曼明確表示：

OpenAI需要賺錢(qián)才能進(jìn)行研究。

畢竟，在通向AGI的研究道路上，想要取得突破性結(jié)果，對(duì)計(jì)算資源的要求每3、4個(gè)月就會(huì)翻一番。而這背后，都是巨額的經(jīng)費(fèi)在燃燒。

還有頂尖研究人員的薪資。據(jù)《紐約時(shí)報(bào)》報(bào)道稱，2016年的時(shí)候，OpenAI只有50多人，但僅是薪水和福利就支出了700多萬(wàn)美元。

資金壓力之下，2019年3月，人們注意到，OpenAI的結(jié)構(gòu)變了。

這家宣稱要為人類謀福利的AI非營(yíng)利組織宣布，成立一家“利潤(rùn)上限”公司OpenAI LP。

也就是說(shuō)，在回報(bào)達(dá)到投資上限（首批上限100倍）后，任何對(duì)OpenAI LP投資的利潤(rùn)都將轉(zhuǎn)移到非營(yíng)利組織OpenAI Nonprofit上，該公司將按其認(rèn)為合適的方式分配這些利潤(rùn)。

到了7月份，OpenAI又接受了微軟10億美元的投資。對(duì)此，Keras作者Fran?ois Chollet曾直言：

喊著非營(yíng)利的旗號(hào)，卻投向營(yíng)利機(jī)構(gòu)的懷抱…是在鬼扯…

而OpenAI內(nèi)部，也并沒(méi)有想象中“open”。

Karen Hao在采訪中了解到，OpenAI的大多數(shù)突破都投入了大量計(jì)算資源，他們認(rèn)為，計(jì)算驅(qū)動(dòng)策略是通往AGI最好的方法。

而這些結(jié)果，并沒(méi)有“自由合作，向公眾開(kāi)放”。相反，OpenAI明確指示員工和實(shí)習(xí)生不要透露相關(guān)信息，離職人員則簽署了保密協(xié)議。

現(xiàn)在，OpenAI的管理層似乎已經(jīng)擺脫了最初的想法，不再認(rèn)為開(kāi)放是構(gòu)建有益AGI的最佳方法。

對(duì)此，OpenAI的發(fā)言人稱：

安全和安保問(wèn)題未來(lái)將會(huì)迫使我們減少傳統(tǒng)出版，同時(shí)強(qiáng)化共享安全、政策和標(biāo)準(zhǔn)研究的重要性。

我們希望緩慢發(fā)布結(jié)果，以了解潛在的風(fēng)險(xiǎn)和影響。

GPT-2：是噱頭還是深思熟慮

這就不經(jīng)讓人聯(lián)想到了擠牙膏式開(kāi)源的GPT-2。

在最初的驚艷亮相之后，GPT-2采用了分階段開(kāi)源的方式。而OpenAI的理由是：GPT-2太危險(xiǎn)，擔(dān)心其被居心不軌的人武器化。

這引起了學(xué)界的反感。羅格斯大學(xué)助理教授布里特·巴黎（Britt Paris）就說(shuō)：“OpenAI試圖利用對(duì)AI的恐慌來(lái)進(jìn)行資本化?！?/p>

而OpenAI越來(lái)越精良的宣傳工作，更為GPT-2引來(lái)了“噱頭”的評(píng)價(jià)。

他們?cè)谂?jīng)營(yíng)公司形象，保持機(jī)密性，保證員工忠誠(chéng)度，那么，OpenAI還是那個(gè)開(kāi)放、透明的OpenAI嗎？

不過(guò)，Karen Hao還是指出，OpenAI仍是人才和前沿研究的堡壘。

OpenAI面臨著折衷，這不僅是因?yàn)樨?cái)力問(wèn)題，而且還因?yàn)镺penAI選擇了AGI戰(zhàn)略。

壓力迫使OpenAI做出似乎離其初衷越來(lái)越遠(yuǎn)的決定。它急于進(jìn)行炒作以吸引資金和人才，捍衛(wèi)其研究以期保持優(yōu)勢(shì)，并追逐投入巨大計(jì)算資源的策略——不是因?yàn)樗麄円暣藶橥ㄏ駻GI的唯一途徑，而是因?yàn)檫@似乎是一條捷徑。

網(wǎng)友熱議

這一長(zhǎng)篇報(bào)道，引發(fā)了社交媒體上的熱烈討論。

對(duì)OpenAI這家明星AI研究機(jī)構(gòu)，網(wǎng)友們大概是又愛(ài)又恨。

有網(wǎng)友說(shuō)：如果AGI真的能實(shí)現(xiàn)，還是希望能由OpenAI這樣的組織，而非Google、亞馬遜、facebook這樣的公司完成。

但也有網(wǎng)友認(rèn)為，OpenAI使用了太多公關(guān)技巧。

（從采訪來(lái)看，）GPT-2就是個(gè)噱頭。

還有人覺(jué)得，AGI只是OpenAI用來(lái)表現(xiàn)他們技術(shù)領(lǐng)先的工具。

我認(rèn)為他們不會(huì)成為AI領(lǐng)導(dǎo)者，可以預(yù)測(cè)OpenAI最終將被收購(gòu)。

北郵陳光老師則引用了Fran?ois Chollet的一段話，并表示：看完剖析OpenAI那篇文章，對(duì)這幾句話有了更深的理解——相比初衷，是否有持續(xù)正確的激勵(lì)，真正決定了實(shí)驗(yàn)室將走向何方、能走多遠(yuǎn)。

那么，你怎么看？

完整報(bào)道鏈接：https://www.technologyreview.com/profile/karen-hao/

— 完 —