沈向洋創(chuàng)造清華歷史，成為史上首位視頻聘任的清華教授，呼吁進(jìn)行可解釋的AI研究
郭一璞 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI
今天早上，離開(kāi)微軟的沈向洋正式續(xù)聘清華，在清華講了第一堂課。
去年11月沈向洋離職微軟后，就在本周前幾天，沈向洋續(xù)聘清華，在清華的title是清華大學(xué)高等研究院雙聘教授。
清華大學(xué)校長(zhǎng)邱勇說(shuō)，這是清華大學(xué)歷史上第一次以視頻會(huì)議的形式舉行聘任儀式，校長(zhǎng)連線(xiàn)發(fā)聘任書(shū)。
這次聘任儀式的兩端分別在中美兩地，校長(zhǎng)和工作人員們?cè)谖挥诒本┑那迦A大學(xué)工字廳，而沈向洋博士在位于西雅圖的清華大學(xué)全球創(chuàng)新學(xué)院（GIX）大樓127室。
邱勇校長(zhǎng)還開(kāi)玩笑說(shuō)：“我也是第一次跟向洋博士以這種形式見(jiàn)面，向洋博士在屏幕上很帥，比以前都帥?！?/p>
之所以是“續(xù)聘”，是因?yàn)檫@其實(shí)是沈向洋在清華的第二場(chǎng)聘任儀式。2005年，沈向洋首次受聘清華高等研究院雙聘教授，距今已經(jīng)過(guò)去了15年。
聘任儀式之后，借助Zoom直播平臺(tái)，沈向洋進(jìn)行了主題為Engineering Responsible AI的課程演講。
沈向洋提到，AI目前在社會(huì)各界中都有應(yīng)用，人們借助AI來(lái)做決策。但現(xiàn)在，AI已經(jīng)在做我們不懂的決策。
許多AI系統(tǒng)就像黑箱一樣，AI做了決策，但我們不知道它為什么這樣做。
因此，負(fù)責(zé)任的AI是很重要的，每個(gè)創(chuàng)造AI的人都應(yīng)該了解一些AI創(chuàng)造的原則。
之后沈向洋重點(diǎn)討論了可解釋的AI和AI的偏差（bias）
關(guān)于可解釋的AI，沈向洋舉了一個(gè)AI分辨哈士奇和狼的例子。
在以下6張照片中，只有左下角的一張被識(shí)別錯(cuò)了。
但其實(shí)，AI可能并非像我們理解的那樣，通過(guò)動(dòng)物的外形來(lái)辨別的，它的辨別方法可能是這樣：
AI的判斷并非通過(guò)圖片中的動(dòng)物部分，而是通過(guò)圖片中除了動(dòng)物之外的部分進(jìn)行的。
因此，可解釋的AI非常重要，不然你永遠(yuǎn)都不知道AI可能是用這種作弊的方法來(lái)判別哈士奇和狼的。
而關(guān)于偏差，沈向洋舉了性別偏差的例子。
曾經(jīng)有人發(fā)現(xiàn)一個(gè)人臉識(shí)別系統(tǒng)里，識(shí)別不準(zhǔn)的都是女性、不化妝、短發(fā)、不茍言笑的照片，而其他人就相對(duì)更準(zhǔn)一些。
而在詞嵌入中，問(wèn)題更為明顯。
同一段描述，當(dāng)文中用的是she/her等女性詞匯時(shí)，AI判斷這段文字描述的是老師；
而當(dāng)里面的she/her變成he/his/him等男性詞匯時(shí)，AI就會(huì)判斷這段文字描述的是律師。
一個(gè)典型的例子是“He’s Brilliant, She’s Lovely”。
在一個(gè)詞嵌入系統(tǒng)中，當(dāng)主語(yǔ)分別是“她（she）”和“他（he）”時(shí)，出現(xiàn)的詞是不一樣的：
她是“姐妹”，他是“兄弟”；她是“護(hù)士”，他是“大夫”，談到這里，沈向洋吐槽說(shuō)，你們沒(méi)發(fā)現(xiàn)哪里不對(duì)么？她是“家庭主婦”，他是“程序員”；她說(shuō)“OMG”，他說(shuō)“WTF”；她是“女權(quán)主義者”，他是“現(xiàn)實(shí)主義者”；她“懷孕”了，他“腎結(jié)石”了；……
這是詞嵌入里的偏差，很多時(shí)候人們想都不想，就直接用了。
最后，沈向洋教授總結(jié)說(shuō)，我們是第一代和AI共存的人類(lèi)，我們得決定怎么構(gòu)建AI、怎么用AI。我們能接受一個(gè)AI做的決定、我們?nèi)祟?lèi)無(wú)法理解的世界嗎？
One More Thing
最后，沈向洋還表達(dá)了他對(duì)NLP領(lǐng)域的期待。
他說(shuō)，CV現(xiàn)在還很火，但未來(lái)十年自己看好NLP：
“懂語(yǔ)言者得天下?！?/p>
這是沈向洋全程唯一一句中文。
傳送門(mén)
如果你想了解沈向洋演講的具體內(nèi)容，清華大學(xué)微博上可以查看回放：
https://weibo.com/1676317545/Ixadc8PhK?from=page_1002061676317545_profile&wvr=6&mod=weibotime&sudaref=weibo.com&display=0&retcode=6102&type=comment
- MEET2020 | 百度景鯤：AI交互正在吃掉舊產(chǎn)品邊界，觸達(dá)移動(dòng)互聯(lián)網(wǎng)盲區(qū)用戶(hù)2019-12-10
- MEET2020 | 王硯峰揭秘搜狗AI技術(shù)體系：自然交互在左，知識(shí)計(jì)算在右，核心是語(yǔ)言2019-12-16
- MEET2020 | 曠視唐文斌：你到底給誰(shuí)創(chuàng)造了什么樣的價(jià)值？這是AI產(chǎn)品的靈魂拷問(wèn)2019-12-17
- MEET2020 | 快手劉霽：AI基礎(chǔ)能力決定每個(gè)公司AI的迭代和落地效率2019-12-20
相關(guān)閱讀
剛剛，清華集成電路學(xué)院成立！校友占比半導(dǎo)體產(chǎn)業(yè)半壁江山
清華大學(xué)官宣成立集成電路學(xué)院，瞄準(zhǔn)芯片“卡脖子”問(wèn)題>>>>
300萬(wàn)元重獎(jiǎng)，GigaVision挑戰(zhàn)賽正式開(kāi)賽
不僅要“看得全、看得清”，還要“識(shí)得準(zhǔn)、識(shí)得快”
多模態(tài)大模型不會(huì)畫(huà)輔助線(xiàn)？最新評(píng)估得分：o3僅25.8%，遠(yuǎn)低于人類(lèi)82.3% | 清華騰訊斯坦福聯(lián)合
目前大模型視覺(jué)推理尚處早期階段
