GPT-5別整了！馬斯克Bengio等聯(lián)名疾呼：所有先進(jìn)AI系統(tǒng)暫停研發(fā)6個(gè)月

白交 2023-03-29 19:02:22 來(lái)源：量子位

楊凈 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

GPT-4讓大牛慌了，緊急聯(lián)名成立人類拯救派：

所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練GPT-4更先進(jìn)的AI系統(tǒng)！

至少6個(gè)月限期。

包括馬斯克、Bengio在內(nèi)的上千位產(chǎn)學(xué)研代表聯(lián)名發(fā)表公開信“暫停巨型AI實(shí)驗(yàn)”，瞬間引起軒然大波。

信中強(qiáng)調(diào)：如果不迅速實(shí)施，那么政府應(yīng)該介入強(qiáng)制執(zhí)行。

我們熟知的一些大咖，比如Stability AI CEO、07年圖靈獎(jiǎng)得主、蘋果聯(lián)合創(chuàng)始人、多位DeepMind工程師也都赫然在列。

有網(wǎng)友表示：這是三體照進(jìn)現(xiàn)實(shí)？降臨派、拯救派和幸存派不是開玩笑的。

我目前是幸存派。

馬斯克Bengio聯(lián)名呼吁

在這封聯(lián)名公開信中，他們提出了三個(gè)方面的需求和建議舉措：

首先、立即暫停比GPT-4更先進(jìn)的AI系統(tǒng)訓(xùn)練，時(shí)間至少是6個(gè)月。

這一要求是覆蓋了所有的人工智能實(shí)驗(yàn)室，尤其是這當(dāng)中的關(guān)鍵參與者。

并且暫停舉措必須是公開、可驗(yàn)證的。如果AI機(jī)構(gòu)不能立即實(shí)施，那么政府應(yīng)該介入強(qiáng)制執(zhí)行。

其次，利用這段時(shí)間，開發(fā)和實(shí)施一套共享安全協(xié)議，用于高級(jí)人工智能設(shè)計(jì)和開發(fā)，并由獨(dú)立外部專家進(jìn)行嚴(yán)格審核和監(jiān)督。

信中還明確指出：這并不意味著總體限制一般人工智能的發(fā)展，而是從目前危險(xiǎn)的競(jìng)技中退后一步，避免更強(qiáng)大、更不可預(yù)測(cè)的黑箱模型和新興能力出現(xiàn)。

人工智能的研究和發(fā)展，應(yīng)該重新聚焦于朝著更準(zhǔn)確、安全、可信可解釋等的AI系統(tǒng)開發(fā)工作上來(lái)。

第三，開發(fā)者應(yīng)同政策制定者一道，共同加速開發(fā)人工智能治理系統(tǒng)。這個(gè)治理系統(tǒng)至少包括：

• 專門負(fù)責(zé)人工智能的全新監(jiān)管機(jī)構(gòu)；
• 監(jiān)督和跟蹤高能力的AI系統(tǒng)和大型算力池；
• 注明出處和水印系統(tǒng)，幫助區(qū)分真實(shí)和合成、以及跟蹤模型泄露；
• 健全的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；
• 對(duì)人工智能造成的傷害進(jìn)行責(zé)任認(rèn)定；
• 為人工智能安全技術(shù)研究提供強(qiáng)大的公共資金；
• 以及提前預(yù)防人工智能導(dǎo)致的巨大經(jīng)濟(jì)政治破壞。

最后，還暢想了一下未來(lái)。

在成功創(chuàng)造出強(qiáng)大的AI系統(tǒng)之后，我們現(xiàn)在享受一個(gè)“人工智能夏天”。但這個(gè)夏天希望能夠漫長(zhǎng)一點(diǎn)，需考慮到所有人的利益，并給社會(huì)一個(gè)適應(yīng)的機(jī)會(huì)，暫停使用一些危害系統(tǒng)；而不是毫無(wú)準(zhǔn)備地沖進(jìn)“秋天”。

內(nèi)涵OpenAI和奧特曼

這么做的原因，無(wú)非就是忌憚當(dāng)前GPT-4的強(qiáng)大。

畢竟連OpenAI老板奧特曼自己也承認(rèn)：AI確實(shí)可能殺死人類。

在公開信的最前面，他們（用一堆車轱轆話）解釋了這么做的原因，其中不乏一些內(nèi)涵OpenAI和老板奧特曼的話。

比如一上來(lái)就是，正如廣泛研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的那樣，能與人類競(jìng)爭(zhēng)的AI系統(tǒng)會(huì)對(duì)社會(huì)和人類構(gòu)成風(fēng)險(xiǎn)。

本該進(jìn)行謹(jǐn)慎的規(guī)劃和管理沒有進(jìn)行，反而演變成一場(chǎng)失控的AI競(jìng)速。沒有人——甚至他們的創(chuàng)造者——能夠理解、預(yù)測(cè)或可靠地控制。

甚至還發(fā)四連問：

我們應(yīng)該讓機(jī)器人在我們的信息渠道中充斥著宣傳和不真實(shí)嗎？

我們是否應(yīng)該把所有的工作都自動(dòng)化，包括那些有成就感的工作？

我們是否應(yīng)該開發(fā)非人類的大腦，使其最終超過我們的數(shù)量，勝過我們的智慧，淘汰我們并取代我們？

我們是否應(yīng)該冒著失去對(duì)我們文明的控制的風(fēng)險(xiǎn)？

他們認(rèn)為這樣的決定決不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。

（奧特曼：直接報(bào)我名字得了）

而OpenAI最近關(guān)于人工通用智能的聲明提到「獨(dú)立的審查」、「限制先進(jìn)模型的計(jì)算增長(zhǎng)速度」等方案，他們認(rèn)為應(yīng)該現(xiàn)在就開始進(jìn)行。

截至現(xiàn)在，這個(gè)公開信已有1100+的AI從業(yè)者簽署，其中不乏一些知名的大牛。

學(xué)界包括伯克利計(jì)算機(jī)系教授Stuart Russell、Hopfield網(wǎng)絡(luò)發(fā)明者John J Hopfield，2007年圖靈獎(jiǎng)得主Joseph Sifakis、IEEE計(jì)算機(jī)先驅(qū)UML之父Grady Booch、沃爾夫物理學(xué)獎(jiǎng)得主斯坦福教授Pablo Jarillo-Herrero等。

產(chǎn)業(yè)界有蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stable Diffusion背后公司Stability AI首席執(zhí)行官Emad Mostaque，多位Deepmind工程師等。

不過需要多說(shuō)一句的是，這封聯(lián)名信屬于公開署名，任何人都可以申請(qǐng)，后續(xù)名單的真?zhèn)涡杂写樽C。

甚至還有人發(fā)現(xiàn)名單里還出現(xiàn)了同名奧特曼。（狗頭）

LeCun：我不簽

回過頭再來(lái)看深度學(xué)習(xí)三巨頭看待ChatGPT，如今Bengio態(tài)度已經(jīng)是再明顯不過。

至于Hinton還忙著追趕，他的社交平臺(tái)還停留在15日，稱RLHF機(jī)制是在催熟AI。

至于LeCun則是忙著“破防”，前幾日還痛批GPT系列沒前途，世界模型 is the best。

不過對(duì)于這場(chǎng)聯(lián)名行為，他明確持反對(duì)態(tài)度。

看來(lái)又要跟馬庫(kù)斯打一架了（不是）。

對(duì)于這項(xiàng)“拯救行動(dòng)”，你覺得你是什么派呢？

參考鏈接：
[1]https://weibo.com/1646802810/MztAJ7DVy
[2]https://futureoflife.org/open-letter/pause-giant-ai-experiments/?continueFlag=d19c796896f3776241c518f8747afa68
[3]https://twitter.com/GaryMarcus/status/1640884040835428357