GPT-5別整了！馬斯克Bengio等聯(lián)名疾呼：所有先進(jìn)AI系統(tǒng)暫停研發(fā)6個月

白交 2023-03-29 19:02:22 來源：量子位

楊凈 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

GPT-4讓大?；帕?，緊急聯(lián)名成立人類拯救派：

所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練GPT-4更先進(jìn)的AI系統(tǒng)！

至少6個月限期。

包括馬斯克、Bengio在內(nèi)的上千位產(chǎn)學(xué)研代表聯(lián)名發(fā)表公開信“暫停巨型AI實(shí)驗(yàn)”，瞬間引起軒然大波。

信中強(qiáng)調(diào)：如果不迅速實(shí)施，那么政府應(yīng)該介入強(qiáng)制執(zhí)行。

我們熟知的一些大咖，比如Stability AI CEO、07年圖靈獎得主、蘋果聯(lián)合創(chuàng)始人、多位DeepMind工程師也都赫然在列。

有網(wǎng)友表示：這是三體照進(jìn)現(xiàn)實(shí)？降臨派、拯救派和幸存派不是開玩笑的。

我目前是幸存派。

馬斯克Bengio聯(lián)名呼吁

在這封聯(lián)名公開信中，他們提出了三個方面的需求和建議舉措：

首先、立即暫停比GPT-4更先進(jìn)的AI系統(tǒng)訓(xùn)練，時間至少是6個月。

這一要求是覆蓋了所有的人工智能實(shí)驗(yàn)室，尤其是這當(dāng)中的關(guān)鍵參與者。

并且暫停舉措必須是公開、可驗(yàn)證的。如果AI機(jī)構(gòu)不能立即實(shí)施，那么政府應(yīng)該介入強(qiáng)制執(zhí)行。

其次，利用這段時間，開發(fā)和實(shí)施一套共享安全協(xié)議，用于高級人工智能設(shè)計(jì)和開發(fā)，并由獨(dú)立外部專家進(jìn)行嚴(yán)格審核和監(jiān)督。

信中還明確指出：這并不意味著總體限制一般人工智能的發(fā)展，而是從目前危險的競技中退后一步，避免更強(qiáng)大、更不可預(yù)測的黑箱模型和新興能力出現(xiàn)。

人工智能的研究和發(fā)展，應(yīng)該重新聚焦于朝著更準(zhǔn)確、安全、可信可解釋等的AI系統(tǒng)開發(fā)工作上來。

第三，開發(fā)者應(yīng)同政策制定者一道，共同加速開發(fā)人工智能治理系統(tǒng)。這個治理系統(tǒng)至少包括：

• 專門負(fù)責(zé)人工智能的全新監(jiān)管機(jī)構(gòu)；
• 監(jiān)督和跟蹤高能力的AI系統(tǒng)和大型算力池；
• 注明出處和水印系統(tǒng)，幫助區(qū)分真實(shí)和合成、以及跟蹤模型泄露；
• 健全的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；
• 對人工智能造成的傷害進(jìn)行責(zé)任認(rèn)定；
• 為人工智能安全技術(shù)研究提供強(qiáng)大的公共資金；
• 以及提前預(yù)防人工智能導(dǎo)致的巨大經(jīng)濟(jì)政治破壞。

最后，還暢想了一下未來。

在成功創(chuàng)造出強(qiáng)大的AI系統(tǒng)之后，我們現(xiàn)在享受一個“人工智能夏天”。但這個夏天希望能夠漫長一點(diǎn)，需考慮到所有人的利益，并給社會一個適應(yīng)的機(jī)會，暫停使用一些危害系統(tǒng)；而不是毫無準(zhǔn)備地沖進(jìn)“秋天”。

內(nèi)涵OpenAI和奧特曼

這么做的原因，無非就是忌憚當(dāng)前GPT-4的強(qiáng)大。

畢竟連OpenAI老板奧特曼自己也承認(rèn)：AI確實(shí)可能殺死人類。

在公開信的最前面，他們（用一堆車轱轆話）解釋了這么做的原因，其中不乏一些內(nèi)涵OpenAI和老板奧特曼的話。

比如一上來就是，正如廣泛研究和頂級人工智能實(shí)驗(yàn)室所承認(rèn)的那樣，能與人類競爭的AI系統(tǒng)會對社會和人類構(gòu)成風(fēng)險。

本該進(jìn)行謹(jǐn)慎的規(guī)劃和管理沒有進(jìn)行，反而演變成一場失控的AI競速。沒有人——甚至他們的創(chuàng)造者——能夠理解、預(yù)測或可靠地控制。

甚至還發(fā)四連問：

我們應(yīng)該讓機(jī)器人在我們的信息渠道中充斥著宣傳和不真實(shí)嗎？

我們是否應(yīng)該把所有的工作都自動化，包括那些有成就感的工作？

我們是否應(yīng)該開發(fā)非人類的大腦，使其最終超過我們的數(shù)量，勝過我們的智慧，淘汰我們并取代我們？

我們是否應(yīng)該冒著失去對我們文明的控制的風(fēng)險？

他們認(rèn)為這樣的決定決不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。

（奧特曼：直接報(bào)我名字得了）

而OpenAI最近關(guān)于人工通用智能的聲明提到「獨(dú)立的審查」、「限制先進(jìn)模型的計(jì)算增長速度」等方案，他們認(rèn)為應(yīng)該現(xiàn)在就開始進(jìn)行。

截至現(xiàn)在，這個公開信已有1100+的AI從業(yè)者簽署，其中不乏一些知名的大牛。

學(xué)界包括伯克利計(jì)算機(jī)系教授Stuart Russell、Hopfield網(wǎng)絡(luò)發(fā)明者John J Hopfield，2007年圖靈獎得主Joseph Sifakis、IEEE計(jì)算機(jī)先驅(qū)UML之父Grady Booch、沃爾夫物理學(xué)獎得主斯坦福教授Pablo Jarillo-Herrero等。

產(chǎn)業(yè)界有蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stable Diffusion背后公司Stability AI首席執(zhí)行官Emad Mostaque，多位Deepmind工程師等。

不過需要多說一句的是，這封聯(lián)名信屬于公開署名，任何人都可以申請，后續(xù)名單的真?zhèn)涡杂写樽C。

甚至還有人發(fā)現(xiàn)名單里還出現(xiàn)了同名奧特曼。（狗頭）

LeCun：我不簽

回過頭再來看深度學(xué)習(xí)三巨頭看待ChatGPT，如今Bengio態(tài)度已經(jīng)是再明顯不過。

至于Hinton還忙著追趕，他的社交平臺還停留在15日，稱RLHF機(jī)制是在催熟AI。

至于LeCun則是忙著“破防”，前幾日還痛批GPT系列沒前途，世界模型 is the best。

不過對于這場聯(lián)名行為，他明確持反對態(tài)度。

看來又要跟馬庫斯打一架了（不是）。

對于這項(xiàng)“拯救行動”，你覺得你是什么派呢？

參考鏈接：
[1]https://weibo.com/1646802810/MztAJ7DVy
[2]https://futureoflife.org/open-letter/pause-giant-ai-experiments/?continueFlag=d19c796896f3776241c518f8747afa68
[3]https://twitter.com/GaryMarcus/status/1640884040835428357