賴可 發(fā)自 亞龍灣
量子位 報(bào)道 | 公眾號(hào) QbitAI
沒錯(cuò)，美國人臉識(shí)別系統(tǒng)最愛的是：白人中年男性
其他非裔、亞裔族群，識(shí)別率就沒那么高了。
這周四，美國NIST發(fā)布的研究報(bào)告給出了這樣的結(jié)果。
甚至在一些算法中，亞裔和非裔美國人被誤認(rèn)的可能性比白人高100倍。
對(duì)于一向“政治正確”先行的美國，可想而知該結(jié)果帶來的“爆炸性”。
還有一個(gè)有趣的結(jié)果，像來自商湯、曠世這樣的亞洲算法，白種人和黃種人之間的誤判差距就小一些。
美國官方機(jī)構(gòu)權(quán)威檢測
這項(xiàng)研究由美國國家技術(shù)標(biāo)準(zhǔn)研究院NIST進(jìn)行，檢查了人臉識(shí)別軟件在不同種族、性別、年齡上是否有差異。
研究檢查了由99家公司，學(xué)術(shù)機(jī)構(gòu)和其他開發(fā)人員自愿提交的189種算法。包括了大多數(shù)業(yè)界領(lǐng)先的系統(tǒng)，來自主要的技術(shù)公司和承包商，包括Idemia，英特爾，微軟，松下，商湯和 Vigilant Solutions。
亞馬遜沒有提交檢查，CNN Business從NIST處得知，亞馬遜認(rèn)為自己的軟件和該檢測不相容。亞馬遜的人臉識(shí)別軟件Rekognition出售給了俄勒岡州警方，用于嫌疑人追蹤。
量子位查閱這次提交檢查的公司名單，發(fā)現(xiàn)沒有谷歌
曾經(jīng)有黑人兄弟發(fā)現(xiàn)自己被谷歌的算法識(shí)別成”大猩猩“，谷歌公司的整改方法是：把識(shí)別類別中的”大猩猩“去掉了。（可戳量子位之前的文章：為了不把黑人兄弟認(rèn)作大猩猩，谷歌的算法連真的大猩猩都不認(rèn)識(shí)了）
檢測結(jié)果
1、在一對(duì)一匹配中，相較于白人，亞裔和非裔的人臉識(shí)別錯(cuò)誤率要高10到100倍。（不同算法不同）
2、在所有種族中，美洲原著民的假陽率最高；一對(duì)多匹配，非洲裔美國女性的假陽性率更高。
3、年齡和性別因素。老年人和兒童更容易被識(shí)別錯(cuò)，女性比男性容易被識(shí)別錯(cuò)。中年白人準(zhǔn)確率最高。
4、不同國家開發(fā)的算法表現(xiàn)不同。美國開發(fā)的算法中，亞裔、非裔和土著的錯(cuò)誤率很高。亞洲開發(fā)的算法中，白人和亞洲人的錯(cuò)誤率差距較小。
“偏見”還有長尾影響
根據(jù)人臉識(shí)別的使用場景和功能，檢測分為一對(duì)一匹配和一對(duì)多匹配：
一對(duì)一匹配一般用于手機(jī)人臉解鎖或護(hù)照檢查。
一對(duì)多匹配用于確定某張照片是否在一個(gè)數(shù)據(jù)庫中有匹配項(xiàng)，經(jīng)常用于警察搜索嫌疑人。
一對(duì)一匹配出現(xiàn)錯(cuò)誤可能會(huì)導(dǎo)致人臉無法解鎖，給生活帶來麻煩。但是一對(duì)多匹配的錯(cuò)誤可能后果更嚴(yán)重，就會(huì)讓警察把無辜的人列入嫌疑名單。
這份報(bào)告的主要作者Patrick Grother表示，
我們研究的大多數(shù)面部識(shí)別算法中都存在人口統(tǒng)計(jì)學(xué)差異的證據(jù)。盡管我們不探原因，但這些數(shù)據(jù)對(duì)于決策者、開發(fā)人員和最終用戶在考慮這些算法的局限性和適當(dāng)使用方式時(shí)將是有價(jià)值的。
這不是第一份研究顯示出人臉識(shí)別帶有偏見
例如，去年MIT實(shí)驗(yàn)室的一項(xiàng)研究也得出了類似的結(jié)果。
凡遇到膚色較暗的人種以及女性，識(shí)別的錯(cuò)誤率就增加。
亞馬遜等公司之前批評(píng)了這些研究，稱這些研究使用了過時(shí)的算法，或者是系統(tǒng)使用不當(dāng)。
在美國一些地區(qū)，對(duì)于人臉識(shí)別已有禁令
舊金山、奧克蘭以及馬薩諸塞州的兩個(gè)城市薩默維爾和布魯克萊恩，在今年已通過了禁止公職人員使用面部識(shí)別的條款。加利福尼亞州禁止在警用攝像頭中使用人臉識(shí)別軟件。
這次研究結(jié)果，再次引起美國國會(huì)議員對(duì)于人臉識(shí)別技術(shù)的監(jiān)管討論。他們要求川普政府重新考慮擴(kuò)大人臉識(shí)別使用的計(jì)劃。
美國俄勒岡州的參議員Ron Wyden在一份聲明中說，
任何部署新技術(shù)的公司或政府有責(zé)任仔細(xì)檢查其產(chǎn)品是否存在偏見和歧視，至少要在軟件中徹底檢查是否有Bug。
網(wǎng)友討論：講倫理也要講技術(shù)現(xiàn)狀
有網(wǎng)友嘗試對(duì)”白人的正確率高“這一結(jié)果進(jìn)行解釋?？赡苁前兹说拿娌刻卣鞑町悾ū热缪劬皖^發(fā)的顏色）本身就比較大？
還有少數(shù)族裔的網(wǎng)友現(xiàn)身說法，講了自己被“人臉識(shí)別”喚醒“童年創(chuàng)傷”的故事：
在機(jī)場的CLEAR系統(tǒng)經(jīng)常識(shí)別不出他，他不得不進(jìn)入TSA Pre-Check。TSA檢查需要涉及背景和指紋檢查。這讓他重新經(jīng)歷童年時(shí)期朋友和老師認(rèn)不出他的痛苦。
即使現(xiàn)在，當(dāng)咖啡師看著他想不起來他的訂單時(shí)，他依舊會(huì)體驗(yàn)到激烈的情緒。
現(xiàn)在他知道這不是他的問題，而是他身上原住民血統(tǒng)的原因。
我們生活在一個(gè)充滿偏見的世界，而新技術(shù)的到來，會(huì)放大現(xiàn)實(shí)世界的偏見嗎？
參考資料
https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software
https://www.washingtonpost.com/technology/2019/12/19/federal-study-confirms-racial-bias-many-facial-recognition-systems-casts-doubt-their-expanding-use/
https://edition.cnn.com/2019/12/19/tech/facial-recognition-study-racial-bias/index.html
http://gendershades.org/overview.html
—?完?—
