在Robust.AI的融資新聞下，LeCun“話里有話”的發(fā)問了。

畢竟之前馬庫斯對深度學(xué)習(xí)的批評，可真是尖銳又不留情面，簡直是反深度學(xué)習(xí)本反。

不過，馬庫斯這次不一樣，沒有直接應(yīng)戰(zhàn)。

在Facebook對話下回復(fù)LeCun的，是Robust.AI的CTO，MIT松下機(jī)器人研究院的教授Rodney Brooks。

Brooks誠實回答：“我們確實用了深度學(xué)習(xí)技術(shù)?！?/p>

△大佬們在新聞評論下吵了起來

但他也進(jìn)一步解釋說，這并不是公司的全部技術(shù)方案。

除了深度學(xué)習(xí)，還有控制理論、SLAM（同步定位與地圖繪制）、IK解算器等等技術(shù)，對任何流派都沒有一棍子打死。

「哦，那你們做的就是其他人都在做的」。

LeCun繼續(xù)補(bǔ)刀——也沒啥創(chuàng)新和不同呀，還以為批評得那么強(qiáng)烈，或許還真you can you up呢。

當(dāng)然，如果你對馬庫斯之前的AI批評——核心是深度學(xué)習(xí)批評不了解，或許會覺得堂堂圖靈獎得主，怎么怎么“小心眼”……

但早前幾年，馬庫斯可真沒嘴下留情。

馬老師不僅不遺余力地批評深度學(xué)習(xí)，說它“感知能力差”、“太依賴數(shù)據(jù)”…..

在AI領(lǐng)域每有重大進(jìn)展時，也幾乎是爭著出來澆涼水，比如前段時間批評GPT-3。

有時甚至看起來就是雞蛋里挑骨頭，比如GPT-3，進(jìn)步相比前2代，效果不知好到哪里去。

但馬庫斯總能揪著當(dāng)前版本的缺點批評，說這個AI無法用到醫(yī)療等領(lǐng)域，長尾場景里問題不少……誅心而論，確實看起來為批評而批評。

所以如今，他自己創(chuàng)辦的公司用深度學(xué)習(xí)，雖然也解決現(xiàn)實問題，但介于目前還是融資燒錢為主……

也算是難逃“真香定律”，活成了自己批評的樣子。

耿耿于懷Yann LeCun

這也就大概能理解，Yann LeCun為啥耿耿于懷了吧。

畢竟馬庫斯反對的，是他最重要的學(xué)術(shù)成果，也是他和Hinton、Bengio等人苦坐冷板凳十幾年換來的復(fù)興局面，深知AI迎來熱潮不容易。

他們自然知道深度學(xué)習(xí)驅(qū)動的AI所具有的局限，所以也一直在不斷找突破和打開黑盒子……算是建設(shè)性的那一派吧。

而之前對馬庫斯的批評，LeCun其實也沒少回應(yīng)。

但這一次，可算是最好的機(jī)會了，而且LeCun是“明知故問”——在福布斯關(guān)于Robust.AI融資的報道中，早已寫明了使用深度學(xué)習(xí)技術(shù)。

LeCun說白了，就是想當(dāng)面諷刺這種砸鍋還吃飯的行為。

在在回復(fù)“和別人差不多”之前，LeCun還寫了很長一段話諷刺馬庫斯，大意是：

我正在憋大招寫一本學(xué)術(shù)專著，我敢肯定這本書比馬庫斯說的任何一句話都更冒犯人……

甭管是搞AI的，還是CS、神經(jīng)科學(xué)…….讀完都能刷新從未聽說過的本領(lǐng)域重大認(rèn)知……

這些領(lǐng)域幾個世紀(jì)內(nèi)都不會有什么進(jìn)展……我期待人們讀完血壓升高。

哈哈哈哈……

LeCun真的很“記仇”，專門把“神經(jīng)科學(xué)”放在其中。

因為馬庫斯，就是心理學(xué)、神經(jīng)科學(xué)方面的教授呀——之前互懟嚴(yán)重時，也有人批評馬庫斯“沒資格”批評非自己本專業(yè)的事情。

另一位Gary加入論戰(zhàn)

LeCun的諷刺，作為事主的Gary Marcus一直沒有任何回應(yīng)……

反倒是另一位Gary出來跟LeCun辯了起來。

Gary Bradski，也是機(jī)器學(xué)習(xí)領(lǐng)域有名的大佬，最廣為人知的工作是OpenCV計算機(jī)視覺軟件庫。

他的意思是說：

LeCun你先等等，我這個Gary有話說。我認(rèn)為深度學(xué)習(xí)是革命性的進(jìn)步，也是一個實用的工具。

大家現(xiàn)在都在用微分方法做模型渲染和模擬，這點很重要，因為大家都把這些要素作為變量加進(jìn)Pytorch中。

一段代碼稍加修改就可微，這使得使用Pytorch的深度學(xué)習(xí)進(jìn)展迅速。

深度學(xué)習(xí)部分證明了通用人工智能的可行，但問題是結(jié)果的解釋和歸因標(biāo)準(zhǔn)缺失，卻少有人質(zhì)疑。

祝公司辦好！祝你們永遠(yuǎn)有清晰可用的梯度。

Gary Bradski委婉得多，承認(rèn)了深度學(xué)習(xí)當(dāng)下的重要性，但又說模型解釋不了不行。

他一語道出了目前深度學(xué)習(xí)的現(xiàn)狀和隱憂，這是馬庫斯長期炮轟深度學(xué)習(xí)，和各江湖大佬結(jié)下恩怨的癥結(jié)，也是未來人工智能發(fā)展路徑的爭論焦點。

深度學(xué)習(xí)“錯”在哪里？

關(guān)于馬庫斯對AI的批評，最具代表性的是其2018年寫下的長文，將自己的對深度學(xué)習(xí)的看法全面、系統(tǒng)地闡述了一遍。

這篇文章可以總結(jié)為深度學(xué)習(xí)的十大缺陷。

1、深度學(xué)習(xí)對數(shù)據(jù)很高度依賴

抽象的關(guān)系，人類依靠明確的定義，很容易就能學(xué)會。

但深度學(xué)習(xí)不具備這種通過語言描述的清晰定義來學(xué)習(xí)抽象概念的能力，動輒需要數(shù)以億計的數(shù)據(jù)訓(xùn)練。

Geoff Hinton也表達(dá)了對深度學(xué)習(xí)系統(tǒng)依賴于大量標(biāo)注數(shù)據(jù)這個問題的擔(dān)憂。

2、深度學(xué)習(xí)遷移能力有限

“深度學(xué)習(xí)”中的“深”，指的是技術(shù)上、架構(gòu)上的性質(zhì)，也就是堆疊了很多隱藏層。這種“深”，并不是說它對抽象的概念有深刻的理解。

一旦任務(wù)場景改變，就需要重新找數(shù)據(jù)訓(xùn)練。

3、深度學(xué)習(xí)還不能自然處理層級結(jié)構(gòu)

當(dāng)前大多數(shù)基于深度學(xué)習(xí)的語言模型都將句子視為詞的序列。

在遇到陌生的句子結(jié)構(gòu)時，循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）無法系統(tǒng)地展示、擴(kuò)展句子的遞歸結(jié)構(gòu)。

這是因為深度學(xué)習(xí)學(xué)到的各組特征之間的關(guān)聯(lián)是平面的。

4、深度學(xué)習(xí)還不能搞定開放式推理

在斯坦福問答數(shù)據(jù)集SQuAD上，如果問題的答案包含在題面文本里，現(xiàn)在的機(jī)器閱讀閱讀理解系統(tǒng)能夠很好地回答出來，但如果文本中沒有，系統(tǒng)表現(xiàn)就會差很多。

也就是說，現(xiàn)在的系統(tǒng)還沒有像人類那樣的推理能力。

5、深度學(xué)習(xí)還不夠透明

神經(jīng)網(wǎng)絡(luò)的“黑箱”性質(zhì)一直很受關(guān)注。但是這個透明性的問題，至今沒有解決。

6、深度學(xué)習(xí)還未與先驗知識結(jié)合

因為缺少先驗知識，深度學(xué)習(xí)很難解決那些開放性問題，比如怎樣修理一輛繩子纏住輻條的自行車？

看似簡單的問題，涉及到現(xiàn)實世界中大量不同的知識，沒有哪個數(shù)據(jù)集適用于它們。

7、深度學(xué)習(xí)不能區(qū)分因果和相關(guān)關(guān)系

深度學(xué)習(xí)系統(tǒng)，學(xué)習(xí)的是輸入和輸出之間復(fù)雜的相關(guān)性，但是學(xué)習(xí)不到其間的因果關(guān)系。

8、深度學(xué)習(xí)需要在嚴(yán)格穩(wěn)定的環(huán)境下工作

深度學(xué)習(xí)的這套邏輯，在高度穩(wěn)定的環(huán)境下表現(xiàn)最佳，例如下棋這種博弈，其中的規(guī)則不會改變，但在政治和經(jīng)濟(jì)生活中，不變的只有改變。

9、深度學(xué)習(xí)只是一種近似

深度學(xué)習(xí)在一些特定領(lǐng)域表現(xiàn)出色，但也很容易被愚弄。

10、深度學(xué)習(xí)難以工程化

深度學(xué)習(xí)很難穩(wěn)健的實現(xiàn)工程化，因為很難保證機(jī)器學(xué)習(xí)系統(tǒng)在一個全新新的環(huán)境下有效工作。

這十大「罪狀」，可謂刀刀見肉，深度學(xué)習(xí)確實存在機(jī)械性依賴訓(xùn)練、不透明、模糊因果等問題。

但馬庫斯尖銳的批評，如果止于學(xué)術(shù)本身，或許就不會有LeCun的耿耿于懷。

深度學(xué)習(xí)作為當(dāng)前AI領(lǐng)域最火的工具。

馬庫斯直言，學(xué)界對于深度學(xué)習(xí)的吹捧宣傳過了頭，客觀上誤導(dǎo)了人們對于AI發(fā)展路徑的認(rèn)識。

這些問題，成為了馬庫斯炮轟深度學(xué)習(xí)、質(zhì)疑AI進(jìn)展的根本出發(fā)點。

這些年來，馬庫斯多次與AI界大佬們交鋒論戰(zhàn)，其中包括深度學(xué)習(xí)三巨頭、吳恩達(dá)等等。

而大佬們的辯護(hù)，重點在「深度學(xué)習(xí)不是定義一種東西，而是指明一個方向」。

問深度學(xué)習(xí)能不能做沒有意義，有意義的是問如何訓(xùn)練它去做。

深度學(xué)習(xí)是一種思想和方法論。

顯然，AI大佬們，不希望從根上否定深度學(xué)習(xí)，不然AI又會陷入沉寂和歷史暗夜中。

面對馬庫斯的「定性」質(zhì)疑，只有AAAI前主席Thomas G. Dietterich在一番爭論后，回應(yīng)：

「深度學(xué)習(xí)的貢獻(xiàn)或批判，未來自有結(jié)果」。

另外，馬庫斯甚至還和LeCun面對面有過一次激辯：“AI到底有沒有必要具備類似人類的能力”。

這場辯論的本質(zhì)，還是關(guān)于深度學(xué)習(xí)的一系列缺陷。

馬庫斯認(rèn)為這樣的AI走不遠(yuǎn)，LeCun認(rèn)為潛力巨大，不需要具備類腦能力也能滿足需求。

當(dāng)然，他倆根本不能說服對方。

一方面，是深度學(xué)習(xí)所向披靡，在眾多AI研究中處于關(guān)鍵地位，一些較為成熟的技術(shù)已經(jīng)實際落地。深度學(xué)習(xí)已經(jīng)展現(xiàn)出的能力，其他方法還無法取代。

另一方面，深度學(xué)習(xí)的局限性和本身的缺陷，確實短時間難以破解。

所以很顯然，這是一場“革命派”和“維新派”的戰(zhàn)斗。

馬庫斯為代表的“革命派”，全方位否定，重估深度學(xué)習(xí)和AI……

LeCun等好不容易用深度學(xué)習(xí)推動AI復(fù)興，即便深知深度學(xué)習(xí)的缺陷和AI當(dāng)前挑戰(zhàn)，但也希望不斷在發(fā)展中找對策，而不是因噎廢食……

只是馬庫斯這個“革命派”，只管推倒，不在乎建設(shè)，現(xiàn)在還用自己批評的技術(shù)吃飯融資。

LeCun沒說臟話，估計已經(jīng)足夠克制了。

你怎么看？