火遍AI圈的萬字長文，Lecun卻說標(biāo)題太好笑，作者發(fā)推：歡迎來辯

明敏 2022-03-14 13:24:03 來源：量子位

明敏 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

Lecun一句話，恐怕又要引來一場唇槍舌戰(zhàn)了。

這個標(biāo)題錯得太荒謬了，太搞笑了。

他所說的這篇文章不是別的，正是最近在圈內(nèi)引起了一波討論熱潮的《深度學(xué)習(xí)要碰壁了》。

從文章發(fā)布以來，幾天內(nèi)它在推特上引起了幾百人的轉(zhuǎn)發(fā)點贊。

有人認(rèn)同也有人反對，但真正讓作氣到跳腳的，還是Lecun在Facebook上的這條評論。

導(dǎo)致Gary Marcus本人直接在推特上“下戰(zhàn)書”：歡迎你發(fā)表觀點，我洗耳恭聽。

并且就在幾個小時前，他還掛出Lecun在2018年發(fā)表的觀點。

強(qiáng)調(diào)Lecun當(dāng)時認(rèn)為這10個問題中有很多都是錯的，在目前看來這些問題都還沒有被解決。

不過目前Lecun還沒有做出回應(yīng)。

文章具體說了什么？

首先，我們來看一下Gary Marcus這篇文章中，具體講了哪些內(nèi)容。

大體來看，全文可分為兩個部分：

1. 當(dāng)下的深度學(xué)習(xí)充滿了炒作，實際上只有在粗略計算時的效果表現(xiàn)好；
2. 深度學(xué)習(xí)應(yīng)該調(diào)整發(fā)展方向，和符號處理結(jié)合在一起。

作者開篇即提到了Hinton在2016年提出的論點：

AI將在5年內(nèi)取代放射科醫(yī)生。

目前來看，這一豪言的確沒有實現(xiàn)。

實際上，AI在應(yīng)用中遇到的“滑鐵盧”不是少數(shù)：

比如代表著醫(yī)療AI的IBM Watson被拆分出售、GPT-3等語言模型三觀不正、無人駕駛事故頻發(fā)……

對此作者認(rèn)為，深度學(xué)習(xí)在完成輸出對精密度要求高的結(jié)果時，表現(xiàn)往往不夠好，以上列舉的3個場景就是最好的論證。

而且深度學(xué)習(xí)已經(jīng)遇到了擴(kuò)展限制（scaling limits），也就是再繼續(xù)擴(kuò)大模型所帶來的的收益，已經(jīng)不夠明顯。

相反，在圖像識別這種只需要粗略結(jié)果的情況下，深度學(xué)習(xí)的效果是好的。

對此，作者提出了自己的觀點：

深度學(xué)習(xí)應(yīng)該與符號處理 （symbol manipulation）相結(jié)合。

符號處理，可以看做是計算機(jī)內(nèi)部編碼，比如用二進(jìn)制位串來代表一些復(fù)雜的想法。

為什么得出這樣的觀點？在這里作者舉了一個例子。

在Meta發(fā)起的一場NetHack挑戰(zhàn)比賽上，AI以1:3的成績敗給了游戲系統(tǒng)。

要知道，這其實是一款在1987年就發(fā)布的單人地下城探索游戲，它的地圖由ASCII 字符編碼。

作者認(rèn)為，AI之所以會輸?shù)舯荣悾饕且驗槊繄鲇螒蚨紩匦律尚碌牡貓D，這意味著玩家不能通過死記硬背地圖來取勝，而是要理解游戲中的各種標(biāo)志，并且搞清楚它們之間的聯(lián)系。

他還列舉了麥卡錫、明斯基等行業(yè)先驅(qū)的觀點，認(rèn)為符號處理可以被用來構(gòu)建精確的人工智能程序，用符號來表示獨立實體和抽象思想。

不過純符號系統(tǒng)在圖像識別、語音識別任務(wù)上的表現(xiàn)不夠好。

而這部分，正是神經(jīng)網(wǎng)絡(luò)所擅長的。

作者提到，谷歌搜索中的自動拼寫糾錯，正是神經(jīng)網(wǎng)絡(luò)和符號處理結(jié)合使用的最好案例。

實際上，在這方面的探索也從來沒有停止過。

比如最負(fù)盛名的AI——AlphaGo，就是使用符號樹搜索和神經(jīng)網(wǎng)絡(luò)混合的系統(tǒng)。

還有包括IBM、英特爾、谷歌等科技巨頭，這些年也從未停止過在這一領(lǐng)域的積極探索。

網(wǎng)友：Lecun可能只是開玩笑

如此一篇萬字長文，一經(jīng)發(fā)表就在網(wǎng)絡(luò)上激起千層浪。

在不少學(xué)界大佬轉(zhuǎn)發(fā)的另一面，也有不少人對Gary Marcus的觀點存疑。

有人就提出，深度學(xué)習(xí)并不存在碰壁，而是正在經(jīng)歷一個階段轉(zhuǎn)型期。

也有人用漫畫來生動地表達(dá)自己的看法。

另一邊，支持Gary Marcuns的人則表示：

他只是提出來一種混合模型，這有什么壞處嗎？

而在Gary Marcus向Lecun“下戰(zhàn)書”的推特下面，有人也勸他消消氣。

可能Lecun只是說著玩的。

最后，我們再來了解一下Gary Marcus。

他是Robust.AI的創(chuàng)始人，這是一家智能機(jī)器人公司，自稱擁有世界上第一個工業(yè)級AI認(rèn)知引擎。

他還是紐約大學(xué)名譽(yù)教授，在神經(jīng)科學(xué)、遺傳學(xué)、進(jìn)化心理學(xué)、AI等領(lǐng)域發(fā)表過大量文章，其文章很多刊登在Nature、Science上。

與此同時，他還是一位作家，作品包括《The Algebraic Mind》、《Kluge》、《The Birth of the Mind》等。

那么對于這篇長文，你怎么看呢？

歡迎評論區(qū)分享觀點~

參考鏈接：
[1]https://twitter.com/GaryMarcus/status/1503015357149171717
[2]https://nautil.us/deep-learning-is-hitting-a-wall-14467/