馬斯克：離AGI還有三年，Ilya道德感很強(qiáng)，他認(rèn)真了一定是嚴(yán)肅問(wèn)題

夢(mèng)晨 2023-12-01 13:26:06 來(lái)源：量子位

夢(mèng)晨 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

馬斯克在最新訪談上金句頻出，除了大爆粗口痛罵廣告商外，還談了很多對(duì)AI的看法。

特別是對(duì)OpenAI近期動(dòng)蕩的看法。

他表示對(duì)Sam Altman的感覺(jué)很復(fù)雜，緊接著就借用《魔戒》表達(dá)了擔(dān)憂：

權(quán)力之戒會(huì)帶來(lái)腐化，而權(quán)力之戒就在這里，所以……我也不好說(shuō)，我需要知道Ilya為何認(rèn)為開(kāi)除奧特曼有必要，這看起來(lái)像是一個(gè)嚴(yán)肅的問(wèn)題。

當(dāng)初OpenAI剛成立時(shí)，正是馬斯克等人花重金把Ilya Stuskever從谷歌DeepMind挖過(guò)來(lái)，兩人私下一直保有聯(lián)系。

這次事件發(fā)生后，馬斯克也嘗試聯(lián)系Ilya和其他可能知情的人，但據(jù)他所知Ilya還沒(méi)有和任何人談?wù)撨@個(gè)問(wèn)題。

而馬斯克接觸的其他人，也都不能說(shuō)明白到底發(fā)生了什么。

AGI還三年，數(shù)字之神是個(gè)CSV文件

訪談發(fā)生在紐約時(shí)報(bào)舉辦的DealBook峰會(huì)，開(kāi)場(chǎng)僅11分鐘，馬斯克就開(kāi)啟了口吐蓮花模式。

此前，因?yàn)轳R斯克自己關(guān)于以色列問(wèn)題的言論，迪士尼蘋(píng)果可口可樂(lè)等100多家公司停止在平臺(tái)投放廣告。

面對(duì)這個(gè)問(wèn)題，馬斯克直接嗆聲“那就別來(lái)投廣告了”。

如果有人想用廣告來(lái)勒索我、用錢(qián)勒索我，就f*** yoursef去。

如果平臺(tái)因此倒下，馬斯克認(rèn)為那么“整個(gè)世界都會(huì)知道是這些廣告商毀了這家公司，并詳細(xì)記錄下來(lái)”。

……

就在馬斯克忙著處理自己麻煩事的這幾周，他參與創(chuàng)辦的OpenAI也經(jīng)歷了一場(chǎng)大風(fēng)暴。

雖然馬斯克自己也沒(méi)能搞明白事件原因，但他很相信OpenAI首席科學(xué)家Ilya Sutskever。

Ilya是一個(gè)道德感很強(qiáng)的人，他對(duì)是非對(duì)錯(cuò)問(wèn)題非常認(rèn)真。

如果他覺(jué)得開(kāi)除奧特曼是有必要的，全世界都應(yīng)該聽(tīng)聽(tīng)他的理由。

雖然還不知道這個(gè)理由到底是什么，馬斯克傾向于“OpenAI真的發(fā)現(xiàn)了什么”。

插播一句題外話，就在馬斯克接受采訪的同一天，奧特曼也首次回應(yīng)了關(guān)于Q*的傳聞，稱(chēng)“這是一個(gè)不幸的泄密事件”。

當(dāng)主持人把話題轉(zhuǎn)向“那么你的AI事業(yè)與OpenAI、谷歌如何相比”時(shí)，馬斯克表示自己從30年前上大學(xué)時(shí)，就開(kāi)始思考AI會(huì)帶來(lái)的影響。

他之所以此前沒(méi)有大規(guī)模投入AI研發(fā)，就是想先搞明白“這把雙刃劍到底哪邊更鋒利”，也就是AI給人類(lèi)帶來(lái)的好處更多，還是危害更多。

他聯(lián)合創(chuàng)辦OpenAI的初衷是制衡谷歌，當(dāng)時(shí)谷歌擁有幾乎2/3的AI人才，和無(wú)限的算力資源。

為了挖來(lái)Ilya Sutskever，他還和好友、谷歌創(chuàng)始人Larry Page鬧翻了。

接下來(lái)他明確強(qiáng)調(diào)了OpenAI名字中的“Open”本意就包含“開(kāi)源”，還開(kāi)玩笑說(shuō)現(xiàn)在這家公司應(yīng)該改名叫“超級(jí)閉源利潤(rùn)最大化AI”。

命運(yùn)喜歡諷刺。

相比于AI，他認(rèn)為可持續(xù)能源更像是只有好處的單刃劍，AI就像一但從瓶中放出來(lái)就關(guān)不住的精靈。

主持人提問(wèn)AGI還有多遠(yuǎn)，馬斯克沒(méi)有直接回答。

他先講了神經(jīng)網(wǎng)絡(luò)的權(quán)重本質(zhì)上就是一堆數(shù)值，可以表示成CSV格式（逗號(hào)分隔值）。

數(shù)字之神就是一個(gè)CSV文件，真的很好笑，但確實(shí)就是這樣。

主持人追問(wèn)，“雖然你出了名的會(huì)夸大事物發(fā)展的速度，但還是想問(wèn)你認(rèn)為AGI究竟多快會(huì)到來(lái)”。

馬斯克仔細(xì)思考一陣，推演到如果標(biāo)準(zhǔn)是“在所有事上比最聰明的人類(lèi)還聰明，比未來(lái)用機(jī)器增強(qiáng)過(guò)自己的人類(lèi)（machine augumented human）還聰明”，那真的不好說(shuō)。

但往小了說(shuō)，寫(xiě)小說(shuō)和JK羅琳一樣好、能發(fā)現(xiàn)新物理規(guī)律或發(fā)明新技術(shù)的AI，從現(xiàn)在算起還有不到3年。

馬斯克還談到自己的xAI，可能擁有全球最好的單一數(shù)據(jù)源，可以實(shí)時(shí)了解地球上發(fā)生的最新動(dòng)態(tài)。

微軟和谷歌都擁有龐大的數(shù)據(jù)，但其他文章、視頻、評(píng)論都會(huì)被用戶分享到X平臺(tái)上。

盡管單個(gè)用戶分享的內(nèi)容很少，整體上x(chóng)AI擁有了更豐富多樣的數(shù)據(jù)，成為相對(duì)其他AI公司的獨(dú)特優(yōu)勢(shì)。

但如何合理和適當(dāng)?shù)厥褂眠@些數(shù)據(jù)，避免版權(quán)問(wèn)題，還需要審慎考慮。

在討論過(guò)程中，馬斯克還向公眾明確揭露了AI行業(yè)不會(huì)對(duì)外說(shuō)的潛規(guī)則：

幾乎所有大模型，都在受版權(quán)保護(hù)的數(shù)據(jù)上訓(xùn)練了。

主持人似乎感到震驚，詢問(wèn)“你在說(shuō)包括OpenAI在內(nèi)的這些公司，在版權(quán)問(wèn)題上都撒謊了嗎”。

馬斯克回答：赤裸裸的謊言。

One More Thing

就在最近，有xAI內(nèi)測(cè)用戶發(fā)現(xiàn)，Grok大模型可能悄悄升級(jí)到Grok-2了。

但目前只有AI自己的回答為依據(jù)，也不排除是幻覺(jué)出來(lái)的。

上周，馬斯克回復(fù)網(wǎng)友說(shuō)Grok將在本周開(kāi)放給所有X Premium+付費(fèi)用戶。

本周眼看就快結(jié)束了，只能說(shuō)，搞快點(diǎn)。

參考鏈接：
[1]https://www.youtube.com/watch?v=2BfMuHDfGJI
[2]https://x.com/teslaownersSV/status/1730069334075253132