沈向洋創(chuàng)造清華歷史，成為史上首位視頻聘任的清華教授，呼吁進(jìn)行可解釋的AI研究
郭一璞 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI
今天早上，離開微軟的沈向洋正式續(xù)聘清華，在清華講了第一堂課。
去年11月沈向洋離職微軟后，就在本周前幾天，沈向洋續(xù)聘清華，在清華的title是清華大學(xué)高等研究院雙聘教授。
清華大學(xué)校長(zhǎng)邱勇說，這是清華大學(xué)歷史上第一次以視頻會(huì)議的形式舉行聘任儀式，校長(zhǎng)連線發(fā)聘任書。
這次聘任儀式的兩端分別在中美兩地，校長(zhǎng)和工作人員們?cè)谖挥诒本┑那迦A大學(xué)工字廳，而沈向洋博士在位于西雅圖的清華大學(xué)全球創(chuàng)新學(xué)院（GIX）大樓127室。
邱勇校長(zhǎng)還開玩笑說：“我也是第一次跟向洋博士以這種形式見面，向洋博士在屏幕上很帥，比以前都帥?！?/p>
之所以是“續(xù)聘”，是因?yàn)檫@其實(shí)是沈向洋在清華的第二場(chǎng)聘任儀式。2005年，沈向洋首次受聘清華高等研究院雙聘教授，距今已經(jīng)過去了15年。
聘任儀式之后，借助Zoom直播平臺(tái)，沈向洋進(jìn)行了主題為Engineering Responsible AI的課程演講。
沈向洋提到，AI目前在社會(huì)各界中都有應(yīng)用，人們借助AI來做決策。但現(xiàn)在，AI已經(jīng)在做我們不懂的決策。
許多AI系統(tǒng)就像黑箱一樣，AI做了決策，但我們不知道它為什么這樣做。
因此，負(fù)責(zé)任的AI是很重要的，每個(gè)創(chuàng)造AI的人都應(yīng)該了解一些AI創(chuàng)造的原則。
之后沈向洋重點(diǎn)討論了可解釋的AI和AI的偏差（bias）
關(guān)于可解釋的AI，沈向洋舉了一個(gè)AI分辨哈士奇和狼的例子。
在以下6張照片中，只有左下角的一張被識(shí)別錯(cuò)了。
但其實(shí)，AI可能并非像我們理解的那樣，通過動(dòng)物的外形來辨別的，它的辨別方法可能是這樣：
AI的判斷并非通過圖片中的動(dòng)物部分，而是通過圖片中除了動(dòng)物之外的部分進(jìn)行的。
因此，可解釋的AI非常重要，不然你永遠(yuǎn)都不知道AI可能是用這種作弊的方法來判別哈士奇和狼的。
而關(guān)于偏差，沈向洋舉了性別偏差的例子。
曾經(jīng)有人發(fā)現(xiàn)一個(gè)人臉識(shí)別系統(tǒng)里，識(shí)別不準(zhǔn)的都是女性、不化妝、短發(fā)、不茍言笑的照片，而其他人就相對(duì)更準(zhǔn)一些。
而在詞嵌入中，問題更為明顯。
同一段描述，當(dāng)文中用的是she/her等女性詞匯時(shí)，AI判斷這段文字描述的是老師；
而當(dāng)里面的she/her變成he/his/him等男性詞匯時(shí)，AI就會(huì)判斷這段文字描述的是律師。
一個(gè)典型的例子是“He’s Brilliant, She’s Lovely”。
在一個(gè)詞嵌入系統(tǒng)中，當(dāng)主語分別是“她（she）”和“他（he）”時(shí)，出現(xiàn)的詞是不一樣的：
她是“姐妹”，他是“兄弟”；她是“護(hù)士”，他是“大夫”，談到這里，沈向洋吐槽說，你們沒發(fā)現(xiàn)哪里不對(duì)么？她是“家庭主婦”，他是“程序員”；她說“OMG”，他說“WTF”；她是“女權(quán)主義者”，他是“現(xiàn)實(shí)主義者”；她“懷孕”了，他“腎結(jié)石”了；……
這是詞嵌入里的偏差，很多時(shí)候人們想都不想，就直接用了。
最后，沈向洋教授總結(jié)說，我們是第一代和AI共存的人類，我們得決定怎么構(gòu)建AI、怎么用AI。我們能接受一個(gè)AI做的決定、我們?nèi)祟悷o法理解的世界嗎？
One More Thing
最后，沈向洋還表達(dá)了他對(duì)NLP領(lǐng)域的期待。
他說，CV現(xiàn)在還很火，但未來十年自己看好NLP：
“懂語言者得天下?！?/p>
這是沈向洋全程唯一一句中文。
傳送門
如果你想了解沈向洋演講的具體內(nèi)容，清華大學(xué)微博上可以查看回放：
https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment
相關(guān)閱讀
無線感知大牛熊杰加盟MSRA：麻省大學(xué)前副教授，深耕領(lǐng)域十年，為AI提供「第四種數(shù)據(jù)」
MSRA在無線感知領(lǐng)域的又一次發(fā)力
識(shí)讀2300多年的戰(zhàn)國(guó)竹簡(jiǎn)，清華系初創(chuàng)竟只用2B端側(cè)大模型！
最強(qiáng)端側(cè)多模態(tài)+1.2B小鋼炮
清華芯片新突破登Science，獲評(píng)“存算一體領(lǐng)域重大進(jìn)展”！基于類腦架構(gòu)實(shí)現(xiàn)片上快速AI學(xué)習(xí)
能耗僅為先進(jìn)工藝下ASIC的1/35
