Google員工又“造反”了：AI倫理委員會，憑什么混進了反LGBT的人？

郭一璞 2019-04-02 13:42:27 來源：量子位

郭一璞 發(fā)自 凹非寺

量子位 報道 | 公眾號 QbitAI

Google的員工，又開始抗議自己公司了。

一千余名谷歌員工，聯(lián)合188名學界、科技界等社會各界人士，寫了一封聯(lián)名信，發(fā)起了一場浩浩蕩蕩的反對“LGBT恐懼癥”運動。

簽名的人數(shù)，還在不斷增長中。

究其起因，則是上周Google推出的先進技術(shù)外部咨詢委員會（Advanced Technology External Advisory Council, ATEAC），一個非Google員工組成的AI倫理委員會，幫助Google面對AI發(fā)展中面臨的公平性等問題。

在這個影響Google AI發(fā)展的委員會成員名單中，員工們發(fā)現(xiàn)了他們認為不應該出現(xiàn)的人：

Kay Coles James，美國傳統(tǒng)基金會（the Heritage Foundation）主席，一個反LGBT、反移民的人。

要知道，Google的不少員工都是從各國來的移民，而LGBT平權(quán)早已成為主流的政治正確。

這種反差類似于，一個反對996的作戰(zhàn)計劃討論組里，混進來一個996公司的老板。

那么一個旨在幫助Google AI負責任發(fā)展的機構(gòu)，為什么出現(xiàn)了一個偏見這么大的人？

而在這場聯(lián)署運動之外，Dyan Gibbens，一家曾經(jīng)為美國空軍提供無人機AI成像服務的公司CEO，竟然也進入了這個委員會。

要知道，不將AI應用于武器Google AI七原則中的重要一條啊，而這寶貴的七原則，可是去年員工們付出數(shù)十名員工離職、3000人聯(lián)名上書、持續(xù)一整個春天抗議的代價才爭取到的。

外部AI倫理委員會，出生即夭折

ATEAC，這個討論AI倫理的外部委員會是上周剛剛成立的。

3月26日，Google全球事務高級副總裁Kent Walker在Google博客中發(fā)文宣布，為了貫徹落實Google AI七原則，完善相關(guān)的內(nèi)部治理結(jié)構(gòu)和流程，成立ATEAC委員會。

委員會將會聚焦于Google內(nèi)部涉及七原則的復雜事物，比如人臉識別，比如機器學習的公平性，為相關(guān)工作提供多樣化的觀點。

委員會設(shè)置8名成員，分別是：

Alessandro Acquisti，經(jīng)濟學家，隱私問題研究者，CMU信息技術(shù)與公共政策教授。

Bubacarr Bah，應用和計算數(shù)學專家，南非斯泰倫博斯大學數(shù)學科學系助理教授。

吳德愷，NLP、音樂技術(shù)和機器學習專家，港科大計算機科學與工程教授，伯克利國際計算機科學研究所杰出研究者。

Dyan Gibbens，工業(yè)工程和無人系統(tǒng)專家，Trumbull Unmanned公司CEO。

Joanna Bryson，心理學和AI倫理學專家，巴斯大學計算機系副教授，多家AI公司的顧問。

Kay Coles James，美國傳統(tǒng)基金會主席，曾在美國各級政府擔任公共政策專家。

Luciano Floridi，哲學家，數(shù)字倫理專家，牛津大學哲學和信息倫理教授，指導牛津互聯(lián)網(wǎng)研究所的數(shù)字倫理實驗室，艾倫圖靈研究院數(shù)字倫理小組主席。

William Joseph Burns，外交政策專家，美國前副國務卿，卡內(nèi)基國際和平基金會主席。

上面8位組成的首屆委員會的任期是2019年，他們將會從4月開始，舉行四次會議。

但是，這8個人里，有兩個人遭到強烈反對，一個人直接退出，還有一個人看到名單就失望了。

首個退出者

還沒等到第一次會議召開，名單公布沒幾天，就有人不干了：

上述名單中的頭一位，Alessandro Acquisti在Twitter上公開表示退出ATEAC委員會，認為討論AI倫理這種重大事項，這個機構(gòu)不合適。

觸犯眾怒者

而另一邊，Google員工們集結(jié)起來，反對委員會名單上的第六個人，Kay Coles James。

Google員工們認為，這個人反LGBTQ，反移民，這違背了Google的價值觀。

她曾經(jīng)在Twitter上公開說，數(shù)千名危險的犯罪、毒品走私犯和性奴販子從邊境進入。

還公開反對幾部性別平權(quán)法案。

員工們說，有人認為把這個反LGBTQ、反移民的人放進委員會是為了思想的多樣性，這純粹是偷換概念，讓這么一個人加入委員會，就是暗示Google在做決策的時候會考慮她的這種不正確的觀點。

并且，讓這樣一個人加入ATEAC委員會，嚴重破壞了Google在AI道德和公平方面的立場。

AI對社會可能造成的傷害不是隨機的，而是和我們歷史上經(jīng)歷的那些歧視與不公如出一轍：

AI可能無法識別跨性別者，可能無法識別女性的聲音，可能無法識別有色人種女性，AI可能被用于加強警方的監(jiān)視，監(jiān)控移民，制造自動化的武器。

社會的最邊緣人群，面臨著最大的風險。

因此，Kay Coles James，這個人的觀點不僅違背了Google的價值觀，并且，還違背了AI發(fā)展的理念：

AI應用中，正義應當是凌駕于利潤之上的。

因此，ATEAC應當將弱勢群體置于決策中心。如果委員會中沒有挺LGBTQ的人，那就應當把這個反LGBTQ的人踢出去。

涉及軍方者

而在這場聯(lián)署運動之外，還有人反對名單上的第四個人，Dyan Gibbens，Trumbull Unmanned公司CEO。

這家公司的業(yè)務和無人機相關(guān)，主要客戶是能源企業(yè)和政府，幫能源企業(yè)部署基于無人機的測控、工程、物流解決方案，參與了很多政府和國防項目，包括為美國空軍提供無人機AI成像服務。

因此，不少AI專家也認為Google應該把這個做AI軍事項目的人踢出群聊。

冷嘲熱諷者

名單上的第五個人，Joanna Bryson，看到這份成員名單之后就呵呵了。

在轉(zhuǎn)發(fā)了這條消息之后，有AI研究者在她的Twitter下面留言：你知道你要在這個委員會里跟反LGBT、反移民的人打交道么？

Joanna很淡定的說：信不信吧，這名單里有比那位更糟糕的人。

并且，她還透露這個為這個委員會工作是無償?shù)模⑶易约褐怀兄Z工作一年。

不知道，她說的“更糟糕的人”是指的誰呢？

傳送門

Google員工們的聯(lián)署信

https://medium.com/@against.transphobia/googlers-against-transphobia-and-hate-b1b0a5dbf76

Google博客：成立先進技術(shù)外部咨詢委員會（ATEAC）

https://www.blog.google/technology/ai/external-advisory-council-help-advance-responsible-development-ai/