Jeff Dean成眾矢之的，開(kāi)除谷歌AI倫理研究員，1400名員工公開(kāi)譴責(zé)

曉查 2020-12-07 15:11:47 來(lái)源：量子位

曉查 蕾師師 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

這個(gè)周末，AI圈的一件事在社交網(wǎng)絡(luò)引起軒然大波：

谷歌AI倫理團(tuán)隊(duì)聯(lián)合負(fù)責(zé)人Timnit Gebru被解雇。

而開(kāi)除她的，正是大名鼎鼎的谷歌AI負(fù)責(zé)人Jeff Dean。

雙方在一篇論文的內(nèi)部評(píng)審上存在著嚴(yán)重分歧，隨后Timnit Gebru的公司賬戶被切斷。

一天后Jeff Dean向谷歌員工發(fā)布郵件，表示開(kāi)除Timnit Gebru。

Timnit Gebru畢業(yè)于斯坦福大學(xué)，博士生導(dǎo)師是知名學(xué)者李飛飛。她的主要研究方向是算法偏差和數(shù)據(jù)挖掘，一直致力于黑人在科技圈的平權(quán)，是Black in AI的創(chuàng)始人之一。

Timnit Gebru最知名的研究是她在2018年發(fā)現(xiàn)，面部識(shí)別軟件對(duì)黑人女性有高達(dá)35%的錯(cuò)誤率，而對(duì)白人男性幾乎完全正確。

幾天時(shí)間里，雙方隔空喊話，聲勢(shì)愈演愈烈，已有1400名谷歌員工和1900名AI學(xué)術(shù)圈人士對(duì)谷歌的行為表示譴責(zé)，其中不乏AI圈的大佬。

一向口碑不錯(cuò)的Jeff Dean，一下子成了“眾矢之的”。

這到底是怎么回事？

時(shí)間線

12月2日 （美國(guó)當(dāng)?shù)貢r(shí)間，下同），Gebru發(fā)推文表示自己已經(jīng)被谷歌解雇，核心矛盾是雙方在內(nèi)部論文評(píng)審上的分歧。

Gebru發(fā)郵件給公司內(nèi)部的Brain Women and Allies表達(dá)了沮喪的心情，該郵件內(nèi)容泄露，Gebru被解雇，她對(duì)此表示出強(qiáng)烈的憤怒和譴責(zé)。

這個(gè)事件很快發(fā)酵，在Reddit上引發(fā)激烈的討論，評(píng)論將近一千條。

3日，Gebru公開(kāi)了她發(fā)給谷歌Brain女員工和其他同事的郵件內(nèi)容。原來(lái)，她一直希望發(fā)表她的一篇研究論文，但是一直遭到上級(jí)反對(duì)。

在郵件里，她還揭露了谷歌對(duì)黑人這一弱勢(shì)群體的不公平對(duì)待，以及對(duì)AI倫理的不重視。正是因?yàn)檫@封郵件，被爆出“不符合谷歌管理者的期望”，因而被解雇。

Jeff Dean很快就在谷歌內(nèi)部發(fā)郵件回應(yīng)了此事。他解釋了Gebru論文沒(méi)有被發(fā)表的原因。并說(shuō)Gebru提出了一些無(wú)理要求，若不答應(yīng)，她就以辭職威脅。最后，公司決定尊重她辭職的意見(jiàn)。

4日，Jeff Dean向公眾公開(kāi)了郵件的內(nèi)容，并且詳細(xì)地解釋了谷歌內(nèi)部研究論文的出版方法，以回應(yīng)雙方在論文評(píng)審上的分歧。

Gebru對(duì)他的回應(yīng)并不買(mǎi)賬，立馬發(fā)出六條推文，指出他文章中漏洞和自相矛盾的地方。

5日，Gebru的谷歌上司、著名AI科學(xué)家Samy Bengio——圖靈獎(jiǎng)得主Yoshua Begio的胞弟，在Facebook上回應(yīng)此事，實(shí)名支持Gebru，并且說(shuō)：“她的慷慨和不懈的行動(dòng)，提高了沉默者的聲音?！?/p>

“導(dǎo)火索”論文公開(kāi)

就在雙方為AI公平性、倫理等問(wèn)題吵得不開(kāi)交之時(shí)，外媒“MIT科技評(píng)論”得到了讓雙方開(kāi)戰(zhàn)的論文原文。

論文的疑似原文也在網(wǎng)上公開(kāi)流傳。

這篇論文的標(biāo)題是“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”（隨機(jī)鸚鵡的危險(xiǎn)：語(yǔ)言模型會(huì)太大嗎？）。

近年來(lái)，科技巨頭們都在全力研究自然語(yǔ)言模型，谷歌自己開(kāi)發(fā)的BERT就是其中之一，最近谷歌還宣布英文搜索幾乎全部用上了BERT。

Gebru的論文內(nèi)容談到了谷歌BERT在AI倫理上的負(fù)面影響。因此有人認(rèn)為，谷歌出于這樣的原因壓下了論文。

文章在開(kāi)頭提出了一個(gè)疑問(wèn)：我們是否對(duì)開(kāi)發(fā)這些模型的潛在風(fēng)險(xiǎn)和減輕這些風(fēng)險(xiǎn)的戰(zhàn)略進(jìn)行了足夠的思考？直指自然語(yǔ)言模型的“四大風(fēng)險(xiǎn)”。

一、環(huán)境和經(jīng)濟(jì)成本巨大。

訓(xùn)練大型AI模型消耗會(huì)消耗大量電力，使用NAS方法的語(yǔ)言模型會(huì)產(chǎn)生相當(dāng)于284噸的二氧化碳，相當(dāng)于5輛汽車在其壽命內(nèi)的碳排放。

其中，谷歌訓(xùn)練一次BERT模型會(huì)產(chǎn)生1438磅二氧化碳，幾乎等于紐約和舊金山之間的往返航班的碳排放量。

二、海量數(shù)據(jù)與不可解釋的模型。

研究人員從互聯(lián)網(wǎng)上收集數(shù)據(jù)，因此種族主義、性別歧視和其他辱罵性語(yǔ)言可能會(huì)最終出現(xiàn)在訓(xùn)練數(shù)據(jù)中。

由于訓(xùn)練數(shù)據(jù)集非常大，很難對(duì)其進(jìn)行審核，檢查這些嵌入的偏差。

另外，模型很難獲取與互聯(lián)網(wǎng)接觸較少的群體的語(yǔ)言，這將導(dǎo)致AI生成的語(yǔ)言將同質(zhì)化，只能反映最富裕國(guó)家和社區(qū)的做法。

三，研究機(jī)會(huì)成本。

大型語(yǔ)言模型實(shí)際上不理解語(yǔ)言，只是擅長(zhǎng)操縱語(yǔ)言，但大型科技公司可以從更準(zhǔn)確地從中賺錢(qián)，因此一直在投資它們。

而更小、更精心設(shè)計(jì)的數(shù)據(jù)集也會(huì)取得良好效果，消耗的能量也更少。

四、語(yǔ)言AI可能欺騙人類。

AI非常擅長(zhǎng)模仿人類語(yǔ)言，因此很容易用它來(lái)愚弄人類。

研究人員舉了一個(gè)例子：2017年，F(xiàn)acebook將一名巴勒斯坦男子的用阿拉伯語(yǔ)說(shuō)的“早上好”誤譯為希伯來(lái)語(yǔ)中的“攻擊他們”，導(dǎo)致他被捕。

對(duì)于論文提及的這些問(wèn)題，Jeff Dean在發(fā)給員工的郵件中均有解釋。

Jeff Dean認(rèn)為，Gebru的論文存在著一些漏洞。

她只提到了BERT，而沒(méi)有考慮到后來(lái)的模型提高了效率，也沒(méi)有考慮近來(lái)谷歌的研究已經(jīng)解決了一些倫理問(wèn)題。

Jeff Dean指出，僅近一年來(lái)，谷歌就發(fā)表了200多篇關(guān)于AI倫理的論文，Gebru的論文缺乏對(duì)谷歌這些工作的表述。

而且Gebru提交給谷歌審查論文距離截稿只剩一天時(shí)間，通常谷歌需要兩周時(shí)間審核論文。

Gebru則表示，論文兩個(gè)月前已經(jīng)交給相關(guān)部門(mén)審核，但是一直沒(méi)有收到反饋。

至于開(kāi)除Gebru的原因，是因?yàn)樗蠊雀杼峁徍巳藛T的名單，否則她將離開(kāi)谷歌。Jeff Dean認(rèn)為谷歌并不能滿足她的要求，因此會(huì)尊重并接受她辭職的決定。

雙方分歧的關(guān)鍵在于，Gebru究竟算被谷歌開(kāi)始還是主動(dòng)離職？

Jeff Dean認(rèn)為既然谷歌無(wú)法滿足Gebru提出的條件，因此Gebru自動(dòng)離職。而Gebru認(rèn)為，辭職應(yīng)該是自己提出，而不是谷歌單方面開(kāi)除。

另外，Gebru還向谷歌數(shù)百名員工發(fā)送郵件，希望他們停止DEI（多樣性、公平性、包容性）項(xiàng)目相關(guān)工作。這又進(jìn)一步激化了雙方的矛盾。

谷歌員工質(zhì)疑Jeff Dean

對(duì)于Jeff Dean的這番說(shuō)辭，谷歌內(nèi)部員工說(shuō)：“這真是個(gè)謊言”。

谷歌AI蒙特利爾分部的研究員Nicolas Le Roux指出，過(guò)去他提交給內(nèi)部審查的論文只會(huì)檢查是否泄露敏感內(nèi)部資料，而不會(huì)檢查文獻(xiàn)評(píng)論的質(zhì)量。

另一位谷歌前PR經(jīng)理說(shuō)：

審查這些論文是我在谷歌PR團(tuán)隊(duì)工作的一部分。通常情況下，文章對(duì)我們而言太多了，所以我們沒(méi)有及時(shí)審查它們，或者直到研究人員發(fā)布后我們才知道。我們絕不懲罰沒(méi)有適當(dāng)處理的人。

現(xiàn)在雙方的激戰(zhàn)已經(jīng)遠(yuǎn)遠(yuǎn)超出了論文的范圍，但焦點(diǎn)仍在論文處理的流程上。誰(shuí)說(shuō)的是事實(shí)，另一方就會(huì)理虧。

這一場(chǎng)谷歌AI的羅生門(mén)事件，只能等“子彈再飛一會(huì)兒”了。

然而罕見(jiàn)的是，一度在谷歌擁有“神”一樣地位的Jeff Dean，竟然在這件事中面對(duì)如此聲勢(shì)的討伐，也確實(shí)是“活久見(jiàn)”了。

參考鏈接：

Jeff Dean郵件原文：
https://docs.google.com/document/d/1f2kYWDXwhzYnq8ebVtuk9CqQqz7ScqxhSIxeYGrWjK0/edit

Timnit Gebru郵件內(nèi)容：
https://www.platformer.news/p/the-withering-email-that-got-an-ethical

Timnit Gebru論文內(nèi)容：
https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/