Hinton、吳恩達(dá)、LeCun 通通被點(diǎn)名，馬斯克躺槍 | 馬庫斯連擊批AI

賴可 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

“著名AI批評(píng)家“馬庫斯又開批了。

Geoff HintonHinton、吳恩達(dá)、LeCun、馬斯克通通被點(diǎn)名。

他說，Hinton關(guān)于深度學(xué)習(xí)的說法可能會(huì)導(dǎo)致放射科醫(yī)生緊缺；
吳恩達(dá)預(yù)測AI能解決開放式問題是錯(cuò)的；
LeCun說強(qiáng)人工智能會(huì)出現(xiàn)到現(xiàn)在還八字沒一撇；

不止這些，他還說《經(jīng)濟(jì)學(xué)人》誤導(dǎo)報(bào)道、IBM沃森過度承諾……

他舉這些例子，都為了印證自己的觀點(diǎn)：AI宣傳中存在大量的信息誤導(dǎo)。他認(rèn)為，這怪研究者和記者，他們都喜歡強(qiáng)調(diào)突破性，卻不談?wù)摼窒扌浴?/p>

量子位把長文重新梳理，看清老馬這回到底在批些啥。

Hinton導(dǎo)致放射科醫(yī)生缺乏？

先來弄清楚馬庫斯是怎么批評(píng)深度學(xué)習(xí)教父Geoff Hinton的。為什么說是他要對(duì)放射科醫(yī)生的緊缺負(fù)責(zé)？

是這樣的，2016年，Hinton在論壇上打了一個(gè)比喻.

放射科醫(yī)生就像”已經(jīng)在懸崖邊緣的狼，卻還沒有回頭看，沒有發(fā)現(xiàn)下面已經(jīng)沒有陸地了”。

Hinton建議，現(xiàn)在就要停止培養(yǎng)放射科醫(yī)生。

兩年過去了，馬斯庫的結(jié)論是：Hinton的話驚嚇了很多放射科系，結(jié)果可能是負(fù)面的；目前世界上很多地方都缺放射科醫(yī)生。

Hinton的話和放射科醫(yī)師缺乏，這兩者之間究竟有啥關(guān)系呢。一時(shí)之間還真的有點(diǎn)難弄明白。

不過我們可以回到當(dāng)時(shí)現(xiàn)場，看一看Hinton究竟是在什么樣的情境下說了怎樣的話

在2016年機(jī)器學(xué)習(xí)和智能市場的論壇上，Hinton被提問：你認(rèn)為最激動(dòng)人心的事情會(huì)是什么？

他就說了上面的那個(gè)比方，并且說，

完全顯而易見的是，五年內(nèi)，深度學(xué)習(xí)能夠比放射科醫(yī)生做的更好，因?yàn)樗梢宰兊酶薪?jīng)驗(yàn)。也許是十年內(nèi)。

AI取代放射科醫(yī)師的爭議，量子位以前寫過文章：吳恩達(dá)被diss了

AI醫(yī)生難實(shí)現(xiàn)

至于AI醫(yī)療，馬庫斯還批評(píng)了IBM沃森在2014年過度承諾，如今交付不足。

IEEE SPectrum的相關(guān)報(bào)道指出，在2014年，沃森公司宣布了要研發(fā)AI醫(yī)生的目標(biāo)。公司承諾，首個(gè)健康護(hù)理的商業(yè)服務(wù)，將在18到24個(gè)月實(shí)現(xiàn)。

而在2016年，和MD安德森癌癥研究所等機(jī)構(gòu)合作的項(xiàng)目卻受挫。提供的服務(wù)被認(rèn)為不可靠。

沃森的一些專家也意識(shí)AI在醫(yī)療方面的局限性。比如其衛(wèi)生保健和生命科學(xué)研究副總裁Ajay Royyuru，他表示

診斷不是要去的地方,這是專家們做得很好的事情。這是一項(xiàng)艱巨的任務(wù)，無論您用AI做得如何，它都不會(huì)取代專家。

前不久，在北大醫(yī)學(xué)院舉行的，醫(yī)生和AI工作人員共同出席的“智慧醫(yī)療，潛力與挑戰(zhàn)論壇上”，雙方對(duì)于AI在醫(yī)療中扮演什么樣的角色也做了類似的討論。

騰訊優(yōu)圖實(shí)驗(yàn)室醫(yī)療AI總監(jiān)鄭冶楓表示，他們目前的關(guān)注的場景大多還是AI輔助醫(yī)生。

醫(yī)生培訓(xùn)非常重要，AI是一個(gè)新的工具出來，不可能不培訓(xùn)直接用。醫(yī)生需要用個(gè)半年一年，摸透它的脾氣了，什么情況下，會(huì)更準(zhǔn)確，而不是簡單的把AI的結(jié)果加一點(diǎn)信息，需要一個(gè)熟悉的過程。

而在使用流程上，他們也會(huì)做相關(guān)設(shè)置，避免醫(yī)生過度依賴AI。

有時(shí)候，在具體場景中，比如當(dāng)天醫(yī)生就直接把AI的結(jié)果交上去了，這肯定是不行的。我們?cè)诹鞒躺鲜强梢宰龅?，醫(yī)生必須讀一遍片子，讀完了，我再給出我的答案。而不是我直接給出答案，你在這上面改，這個(gè)容易被醫(yī)生用偏。這樣可以避免一些誤用。

而清華大學(xué)臨床醫(yī)學(xué)院院長董家鴻則提出了“人機(jī)協(xié)同”的視角，

通過人機(jī)協(xié)同的機(jī)制，看協(xié)同后產(chǎn)生的效果。基層醫(yī)生，給了他AI，然后看人機(jī)協(xié)同之后的診斷率是不是超過原來的水平。

任何一個(gè)高明的醫(yī)生的診斷也不可能完全正確，有一個(gè)容許的出錯(cuò)率。在這樣的條件下，再去評(píng)價(jià)AI在基層醫(yī)療的效用和價(jià)值。

批評(píng)NLP，懟吳恩達(dá)、LeCun

馬庫斯的批評(píng)還集中在NLP方面。首當(dāng)其沖當(dāng)然是Hinton，他4年前說過的關(guān)于自然語言的話，也被拿出來批評(píng)了

2015年，Hinton在接受衛(wèi)報(bào)時(shí)曾表示：谷歌正處于開發(fā)出有邏輯能力，能自然對(duì)話，甚至調(diào)情的算法的邊緣

4年后，馬庫斯說

我們距離能夠進(jìn)行自然對(duì)話且無需人工干預(yù)，確保連貫性的機(jī)器還有很長的路要走，沒有現(xiàn)成的系統(tǒng)能可靠地推理物理世界。

(反正你的總結(jié)都很對(duì)）

新舊搭配，他還舉了一個(gè)最近媒體誤導(dǎo)的例子。怎么誤導(dǎo)的呢？

是這樣，《經(jīng)濟(jì)學(xué)人》最近對(duì)open AI的句子生成系統(tǒng)GPT-2進(jìn)行了一次主題為2020年的采訪，并將人機(jī)對(duì)話刊登出來，標(biāo)明了”未經(jīng)編輯”，給人的感覺是，AI已經(jīng)可以進(jìn)行如此連貫自然的對(duì)話了，甚至顯出了幽默感。

實(shí)際上，這種效果是編輯對(duì)文本進(jìn)行編輯和過濾的最終效果，AI對(duì)每一個(gè)問題給出五個(gè)回答，人工從中進(jìn)行篩選連綴成文。

(有時(shí)候，一個(gè)細(xì)節(jié)對(duì)理解事實(shí)很關(guān)鍵。所以希望大家，以后對(duì)所有認(rèn)真做事實(shí)和細(xì)節(jié)核查的媒體多一丟丟尊重啦～）

馬庫斯還批評(píng)了吳恩達(dá)、LeCun 對(duì)于AI的能力增長做了過于樂觀的判斷，比如吳恩達(dá)曾經(jīng)認(rèn)為AI未來能夠解決開放式問題，LeCun 說強(qiáng)人工智能會(huì)很快出現(xiàn)。

恩……還有，這種批評(píng)名場面怎么能少了馬斯克。

他批評(píng)了馬斯克預(yù)言自動(dòng)駕駛汽車在2020年實(shí)現(xiàn)不切實(shí)際。

“AI批評(píng)家”馬庫斯

感受了一通批評(píng)大拼盤，是不是覺得滋味一言難盡。

他個(gè)人網(wǎng)站的介紹是：

加里·馬庫斯，科學(xué)家，暢銷書作者，企業(yè)家，AI逆勢(shì)者。

作為批評(píng)的慣例，怎能只破不立？換個(gè)胃口，看一下他提出了六條“意見”。馬庫斯提出，在研究者和報(bào)道者談?wù)揂I時(shí)，都應(yīng)該考慮到下面六個(gè)問題。

1、人工智能系統(tǒng)實(shí)際上在做什么？“閱讀系統(tǒng)”真的閱讀嗎？

2、結(jié)果有多普遍？

3、有沒有感興趣的讀者可以自己探索的演示？

4、如果說人工智能系統(tǒng)比人類更好，哪個(gè)人類，好多少呢？（相比之下，低薪工人缺乏良好表現(xiàn)的動(dòng)力可能無法真正探究人類能力的極限）

5、實(shí)際上，成功完成特定任務(wù)可以使我們邁向建立真正的AI多遠(yuǎn)？

6、系統(tǒng)的魯棒性？無需大量重新培訓(xùn)，它是否可以與其他數(shù)據(jù)集一樣好用？AlphaGo在19×19的板上可以正常工作，但是需要重新訓(xùn)練才能在矩形板上運(yùn)作。缺乏轉(zhuǎn)移正說明了這一點(diǎn)。

有網(wǎng)友問，

這個(gè)馬庫斯很重要么？他對(duì)機(jī)器學(xué)習(xí)或者AI的貢獻(xiàn)是啥？

網(wǎng)友答曰：
他的貢獻(xiàn)可以總結(jié)為，寫了一些文章，懷疑AI的人讀起來會(huì)開心。

馬庫斯寫了很多批評(píng)AI的文章，量子位之前也都介紹過：

這十大挑戰(zhàn)，擺在DL面前：馬庫斯長文質(zhì)疑深度學(xué)習(xí)

“眾矢之的”馬庫斯回應(yīng)14個(gè)問題，將深度學(xué)習(xí)質(zhì)疑到底

馬庫斯：DeepMind新出的機(jī)器心智網(wǎng)絡(luò)不錯(cuò)，但有誤導(dǎo)性

但是好像有一句話怎么說來著不因人廢言，不因言廢人（對(duì)的，孔子說的）

網(wǎng)友也說了，談一談對(duì)文章的不滿意比攻擊作者更好。

網(wǎng)友評(píng)論

盡管我同意馬庫斯說媒體過度宣傳AI，以及研究者應(yīng)在防止錯(cuò)誤信息做得更好，但是他的方式不合理。他似乎沉迷于尋找神經(jīng)網(wǎng)絡(luò)(NN)研究者的漏洞。用這種方式，和他進(jìn)行有益的對(duì)話很困難，而且NN研究者也會(huì)有防御心態(tài)。

除此以外，符號(hào)學(xué)AI太過簡單，不能產(chǎn)生AGI，這意味著用NN來完成是有幫助的。研究不是辯論。

文章里援引的例子大多來自2015到2017年的AI炒作期?；厮輥砜矗鞘且粋€(gè)有很多突破的時(shí)期，比如DQN,AlphaGo,Resnets，有很多目標(biāo)檢測和GAN執(zhí)行上的突破。人們剛開始基于這些進(jìn)展進(jìn)行推斷，我不怪他們。
沒錯(cuò)，進(jìn)展變得緩慢，但是所有的這些最終會(huì)實(shí)現(xiàn)。

你知道碼字至此的我，內(nèi)心的OST是啥？

（長這么大，從來沒有梳理某個(gè)人的長篇批評(píng)弄這么久！?。?/p>

你看完了有啥感受？請(qǐng)多多評(píng)論吧，如果有那么一點(diǎn)點(diǎn)收獲，也算欣慰了。（手動(dòng)比芯芯）

參考鏈接：

https://w.url.cn/s/AGxr2q4
https://worldin.economist.com/article/17521/edition2020artificial-intelligence-predicts-future
https://www.youtube.com/watch?v=2HMPRXstSvQ&t=29s
http://garymarcus.com/bio/bio.html

— 完 —