機(jī)器學(xué)習(xí)太討厭！細(xì)數(shù)ML五大罪，引發(fā)網(wǎng)友大討論

魚羊 2019-07-15 13:12:44 來源：量子位

魚羊 發(fā)自 凹非寺

量子位 報道 | 公眾號 QbitAI

在當(dāng)今的人工智能領(lǐng)域，機(jī)器學(xué)習(xí)已成主宰，獨(dú)領(lǐng)時代風(fēng)騷。

但登上技術(shù)王座并不意味著地位永固，萬眾歸心。

偏偏就有人不買賬，恨不能拿著大喇叭向全世界宣布：討厭機(jī)器學(xué)習(xí)！

甚至還有理有據(jù)，靈魂拷問機(jī)器學(xué)習(xí)。

振臂一呼，追隨者眾。對機(jī)器學(xué)習(xí)的質(zhì)疑掀起波瀾，引發(fā)了一片熱議。

五問機(jī)器學(xué)習(xí)

質(zhì)疑源自一位不愿透露姓名的人工智能研（shou）究（nue）者。

靈魂質(zhì)疑一：今年的技術(shù)明年就out

當(dāng)年還說RNN好，轉(zhuǎn)頭就投入了CNN的懷抱。

如果不做技術(shù)的弄潮兒，轉(zhuǎn)眼機(jī)器學(xué)習(xí)的大浪就把你拍死在沙灘上。

技術(shù)迭代是正常的，可無休止的更新會讓一天的專注學(xué)習(xí)全都付諸流水。

靈魂質(zhì)疑二：付費(fèi)墻

想做機(jī)器學(xué)習(xí)，數(shù)據(jù)集和算力缺一不可。

擁有更強(qiáng)大的計算資源，你就可以快人一步地訓(xùn)練并測試方案。

那不就是比誰更能燒錢嗎？

誠然在許多工業(yè)領(lǐng)域，資金投入一樣非常重要，錢總能帶來更快更好的進(jìn)步，但在機(jī)器學(xué)習(xí)領(lǐng)域，問題遠(yuǎn)不止于此。

只要肯燒錢，即使你的數(shù)據(jù)集分類器是一坨垃圾，你的模型也可能比別人學(xué)得更快更好——這才是問題所在。

哦，做數(shù)據(jù)集也要花錢呢！

這還不夠讓人討厭的嗎？

靈魂質(zhì)疑三：code/改進(jìn)機(jī)器學(xué)習(xí)代碼令人沮喪

黑盒是老生常談了，但你可知道，它竟給程序員造成了精神折磨？

碼代碼解決問題給人一種創(chuàng)造的快感，但神經(jīng)網(wǎng)絡(luò)的黑盒屬性破壞了這一切。

做一個煉丹師會快樂嗎？不會的。我調(diào)參了，我的分類準(zhǔn)確度提升了，可它是為什么提升的？鬼知道！

這位工程師舉了個例子，Ta曾花費(fèi)了數(shù)周的時間在改變輸入數(shù)據(jù)的形態(tài)和設(shè)置，調(diào)整每個層的節(jié)點(diǎn)數(shù)量這樣的事情上，然而，這一切毫無效果。

有一天Ta把稠密層上的激活函數(shù)從relu換成了selu，神奇的事情出現(xiàn)了，只是改變了字母，網(wǎng)絡(luò)的準(zhǔn)確度就超越了過去幾周里所有的嘗試！

這樣的感覺太糟糕了，就好像你并把握不住你的代碼。你做出了調(diào)整并且也知道會有所改進(jìn)，可這個改進(jìn)在何時何地以何種程度出現(xiàn)，沒人能給出準(zhǔn)確的答案。

花費(fèi)在這種事情上的時間越久，失望的感覺就會捆得人越緊，到底是我玩機(jī)器學(xué)習(xí)，還是機(jī)器學(xué)習(xí)玩我？

工程師可不是無情的調(diào)參機(jī)器啊。

靈魂質(zhì)疑四：依賴數(shù)據(jù)集

沒有數(shù)據(jù)集的神經(jīng)網(wǎng)絡(luò)是沒有靈魂的空殼，可數(shù)據(jù)集會存在什么樣的bias可說不好。

拿考試復(fù)習(xí)來舉個例子，非機(jī)器學(xué)習(xí)的方式是從頭開始建立對學(xué)習(xí)資料的理解，扎實(shí)的理解足以解決任何可能出現(xiàn)的問題。

而機(jī)器學(xué)習(xí)的方式則是搜集教授前幾年出的試題，而后瘋狂刷題。

誠然刷題可能會讓成績更好看，但問題是在考試結(jié)束之后，在實(shí)際解決問題之時，真正掌握了知識的人更有可能發(fā)揮堅實(shí)的作用。

更糟糕的是，在機(jī)器學(xué)習(xí)的邏輯里，如果答題出錯，那么一定是因?yàn)檫@道題沒出過。

在實(shí)際應(yīng)用場景當(dāng)中，神經(jīng)網(wǎng)絡(luò)會把數(shù)據(jù)集里的固有偏差變成自己的特質(zhì)，在遇到以前沒有見過的情況時它就變成了那個不靠譜的豬隊友。

靈魂質(zhì)疑五：建議使用機(jī)器學(xué)習(xí)解決問題的人和真正的ML工程師缺乏聯(lián)系

引發(fā)熱議

五點(diǎn)質(zhì)疑引起熱烈討論，許多人產(chǎn)生了共鳴：

我非常煩惱的是有些人文章寫得稀爛還沾沾自喜，要是不開源代碼，我壓根不想讀他們的文章。在這個領(lǐng)域里，許多結(jié)果根本無法重現(xiàn)。

付費(fèi)墻這件事我也很想吐槽?？从ミ_(dá)的論文里說的：噢，看我們這個網(wǎng)絡(luò)多么鵝妹子嚶，你只需要8個V100就能復(fù)現(xiàn)我們的工作喲。簡直想打人。

贊成。讓模型變快基本就是純靠經(jīng)驗(yàn)，課程和教材都沒啥幫助。不過倒是有一些技術(shù)標(biāo)準(zhǔn)可以用來診斷模型里偏差 vs. 方差的問題。

也有人不以為然：

我認(rèn)為這些方法并沒有變化得那么快。注意力機(jī)制是在2013年提出的，但它對機(jī)器翻譯來說依然非常重要。同樣的例子還有LSTM，90年代末期它就出現(xiàn)了。

甚至是RNN，盡管用的比以前少了（這也是有爭議的），但ResNet在概念上仍對LSTM有很大影響。

機(jī)器學(xué)習(xí)的準(zhǔn)入門檻很低了，有時候甚至能從Google和AWS上拿到免費(fèi)的GPU時間。即使是在計算機(jī)科學(xué)領(lǐng)域，ML也不是最貴的。更何況ML是非常開放的，很多最新研究成果都能輕松獲取。

其實(shí)，機(jī)器學(xué)習(xí)還是一個非常年輕的領(lǐng)域，它潛力巨大，但這也意味著存在許多未知。隨著基礎(chǔ)研究的推進(jìn)，這個黑盒在未來很可能漸漸透明，發(fā)揮更加強(qiáng)大的超能力。

你覺得呢？

— 完 —