奧巴馬竟被「去馬賽克AI」洗白，CVPR新研究惹上種族歧視大麻煩，LeCun也被卷入其中

賈浩楠 2020-06-26 13:26:18 來源：量子位

賈浩楠 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

還記那只被眾網(wǎng)友玩壞的「最強(qiáng)馬賽克修復(fù)AI」PLUSE嗎？

前兩天我們報(bào)道了杜克大學(xué)發(fā)布在CVPR 2020的這項(xiàng)成果，還放出了一大波效果實(shí)測。

其中一張奧觀海同志復(fù)原圖引起了讀者SilverCasque的注意：

他留言說「還原的全是白人的臉，黑拳警告」。

沒想到這位讀者神預(yù)測，現(xiàn)在，PLUSE果然因此惹出了大麻煩。

就連深度學(xué)習(xí)巨頭LeCun出來為這項(xiàng)技術(shù)辯解，也被國外網(wǎng)友和同行炮轟。

PLUSE：不允許你不白

PLUSE一經(jīng)推出就引起了極大的關(guān)注，但是，網(wǎng)友實(shí)際使用PLUSE，卻發(fā)現(xiàn)了一個(gè)很嚴(yán)重的問題：PLUSE無法準(zhǔn)確還原有色人種圖像。

如果只是還原失敗，弄出一個(gè)不人不鬼的東西，最多只是技術(shù)問題。

但麻煩的是，PLUSE不僅還原出了完整的人臉，還是一張五官端正漂亮的白人臉。

這在如今高喊「黑命貴」的美國，無疑是一股扎眼的“逆流”。

有網(wǎng)友就拿奧巴馬的低像素照片反復(fù)測試，結(jié)果無一不是白人男性，更加坐實(shí)了PLUSE的罪名。

隨后，知名機(jī)器學(xué)習(xí)博主Robert Osazuwa Ness拿不同有色人種的低像素照片去測試，這其中有他自己、有美國著名國會(huì)議員Alexandria-Ocasio Cortez，和華裔女星劉玉玲。

看到模特皮膚不夠白，PLUSE還十分執(zhí)著地給他安上了一頭金發(fā)…….真的是「不允許你不白」。

Alexandria-Ocasio Cortez是美國有史以來最年輕的國會(huì)議員，拉丁裔，也被強(qiáng)行洗成白人。

對于亞裔，PLUSE更不客氣，你甚至看不出一點(diǎn)人物原本真實(shí)的特征。

比如博主Robert Osazuwa Ness自己的妻子：

華裔女星劉玉玲：

總之，在外國網(wǎng)友的測試中，PLUSE無一例外的把少數(shù)族裔強(qiáng)行洗白，似乎在有意糾正人們的膚色和五官特征。

網(wǎng)友對此反映自然很激烈，有人認(rèn)為這是一種帶有種族歧視的、非常危險(xiǎn)的技術(shù);

這一種觀點(diǎn)引起了較多共鳴，還有人緊跟著曬出了其他「種族偏見」的AI算法，比如這位一個(gè)將照片變成文藝復(fù)興風(fēng)格的算法也將別人強(qiáng)行洗白：

有人干脆給PLUSE起了個(gè)新外號(hào)：「白人雷達(dá)」

但是也有一部分網(wǎng)友認(rèn)為，算法本身是沒有所謂「種族歧視」的，問題出在了用來訓(xùn)練算法的數(shù)據(jù)集上。

PLUSE的核心StyleGan是在FFHQ上訓(xùn)練的，有網(wǎng)友認(rèn)為盡管它的人種多樣性好于嚴(yán)重偏向白人的CELEB-A，但仍然不夠。

有網(wǎng)友截取了一部分FFHQ的人臉數(shù)據(jù)集：

確實(shí)夠白的……但有人同時(shí)指出，除了數(shù)據(jù)集的偏差，還有一種可能是模型的崩潰失效，算法“偷懶”，僅僅把人像漂白，而不是為不同種族和面部特征建模。

但也有人認(rèn)為，即使用相同數(shù)據(jù)集訓(xùn)練StyleGan也能生成非白人結(jié)果，問題還是出在算法上。

網(wǎng)友對PLUSE的口誅筆伐目前還沒有得到論文原作者的回應(yīng)。

但另一位機(jī)器學(xué)習(xí)元老卻首先發(fā)聲了。

LeCun也中槍，到底冤不冤？

深度學(xué)習(xí)巨頭LeCun對于網(wǎng)友對PLUSE幾乎一邊倒的抨擊進(jìn)行了回應(yīng)：

他認(rèn)為，機(jī)器學(xué)習(xí)系統(tǒng)帶有偏見是因?yàn)閿?shù)據(jù)帶有偏見。假如在塞內(nèi)加爾采集的數(shù)據(jù)上訓(xùn)練，輸出肯定都是黑人。

隨后他還補(bǔ)充道，相比于這種純學(xué)術(shù)論文，這個(gè)問題應(yīng)該是工程師更加關(guān)注的，實(shí)際部署中這種偏見會(huì)有嚴(yán)重的后果，盯著幾個(gè)學(xué)者討伐沒有什么意義。

此話一出，頓時(shí)引起了同行的炮轟，外媒報(bào)道，一個(gè)可問責(zé)AI研究者Deborah Raji控訴LeCun：

對LeCun的言論十分震驚，這反應(yīng)出了行業(yè)領(lǐng)軍人物的麻木不仁（lack of awearness）。不明白像LeCun這樣處在如此關(guān)鍵位置的人，為什么會(huì)認(rèn)為學(xué)術(shù)研究對工程部署沒有影響。社會(huì)的偏見不可能靠一個(gè)「正確」的數(shù)據(jù)集去解決。

LeCun對這樣的指責(zé)頗有些無奈，他對外媒說：

我從來沒說過學(xué)術(shù)研究無法在應(yīng)用中確立規(guī)范。我之前也在Facebook建立領(lǐng)導(dǎo)過致力于AI技術(shù)公平性的工作組。

其實(shí)，稍聰明的讀者都能明白，LeCun的意思是說，論文只是提供了解決問題的思路，實(shí)際應(yīng)用中的問題復(fù)雜的多，這才是應(yīng)該關(guān)注的。

借由一篇論文的結(jié)果炮轟研究人員，以此標(biāo)榜自己的政治正確、販賣觀點(diǎn)，這一點(diǎn)是LeCun不愿意看到的。

技術(shù)本身是無罪的，國外炮轟PLUSE這一事件超出了技術(shù)本身，甚至也早就超出了科學(xué)倫理的范圍，這大概就是美利堅(jiān)特色科研吧。

你怎么看？

參考鏈接

https://www.theverge.com/21298762/face-depixelizer-ai-machine-learning-tool-pulse-stylegan-obama-bias