無貢獻無創(chuàng)新無思路，ML領(lǐng)域準博士求助：論文到底要怎么創(chuàng)新？
Reddit野生博士：關(guān)注應用，idea自來
博雯 發(fā)自 凹非寺
量子位 報道 | 公眾號 QbitAI
機器學習領(lǐng)域水寫論文日常：
△圖源推特：AI Memes for Artificially Intelligent Teens
明明想得很美：要提出一個更好的新架構(gòu)、新?lián)p失函數(shù)、新優(yōu)化器或激活函數(shù)……
而實際正在做的呢？
在一個數(shù)據(jù)集上應用現(xiàn)有的東西（如架構(gòu)，優(yōu)化器，損失功能），嘗試不同的組合以找到該數(shù)據(jù)集上的最優(yōu)解。
這就是Reddit上的一位準博士現(xiàn)階段的煩惱：
他并不滿意目前的工作，也不知道自己都做了哪些貢獻。
所以帖子標題非常直接：
如何在機器學習領(lǐng)域?qū)懻撐臅r保證創(chuàng)新性？
關(guān)注現(xiàn)實問題和細分領(lǐng)域
而對于這一問題，下方討論的網(wǎng)友們基本分為了兩類。
第一類認為，不要刻意去追求“創(chuàng)新”，而是先嘗試從解決現(xiàn)實問題出發(fā)：
一個新想法的出現(xiàn)，通常是為了試圖解釋一些以前沒有解決的問題。
或是這一問題已有方法（但你找到了更好的解決方案）。
現(xiàn)實中確實有很多這樣的例子。
比如強化學習領(lǐng)域的很多論文都是集中在游戲上的。
造成這種現(xiàn)象的原因之一，就是大家在一開始都是用較低的成本讓模擬器快速運行的。
但慢慢地，這種傳統(tǒng)方法就讓游戲暴露出了不少問題：
比如，只有在執(zhí)行了一長串的正確行動（actions）后，你的（強化學習）模型才能得到獎勵信號（reward signals）。
像這種實際應用中的困難，很容易就能引申到“要如何解決”或“怎么讓現(xiàn)有方法變得更好”上。
那創(chuàng)新點不就來了？
而第二類網(wǎng)友則直接從問題根源入手：
別再在ML大領(lǐng)域里浪了，趕緊選個利基領(lǐng)域 （niche area）上吧。
什么是利基領(lǐng)域？
這是指一個大領(lǐng)域下尚未被其他人所占領(lǐng)的某個專業(yè)的小領(lǐng)域，也叫細分領(lǐng)域。
這一類網(wǎng)友覺得，你要在機器學習領(lǐng)域內(nèi)創(chuàng)新，那就意味著要跟成千上萬的科研人競爭，這談何容易？
所以還不如去一些“過氣”的分支領(lǐng)域去試試。
比如30年前在AI領(lǐng)域中流行過的歸納邏輯程序設(shè)計（ILP）：
當然，這種方法更適用于當你的目標是“獲得博士學位就算成功”的時候。
畢竟這樣做很可能導致你的引用數(shù)常年在個位數(shù)打轉(zhuǎn)……
最后就是Just Try it的保留節(jié)目了：
就算最后失敗了，你也會對相關(guān)問題有更深的理解，或產(chǎn)生新的思考。
同時，這也能側(cè)面印證你選擇的課題是不是真的有價值：
畢竟對于牛逼的課題，即使失敗也是成功的墊腳石。
但如果你完全無法從這次失敗中收獲新的東西的話——
那還是趕緊跑路另擇idea吧。
永恒的難題：idea
其實今天開貼的這位題主所說的“保證論文創(chuàng)新性”，說到底還是一個idea的問題。
而對于廣大科研人來說，這是個永恒的話題。
比如說19年時，就有這種“發(fā)現(xiàn)自己的idea已經(jīng)被人發(fā)表了該怎么辦？”的討論帖了：
（只聽標題都是聞者傷心聽者落淚）
大家在下面集思廣益了半天，從如何避免撞車，到撞車之后如何擴展強化，再到個人能力培養(yǎng)和學術(shù)環(huán)境，最后表示：
湊合一下，克服一下，適應一下。
而在去年，來自清華的高天宇同學也在直播中分享了他的idea來源：
這位本科期間就發(fā)表過兩篇AAAI和兩篇EMNLP的大神表示：
idea的形式多種多樣，有原創(chuàng)的突破性工作，就像發(fā)明襯衫；也有排列組合、遷移、漸進的補充性工作，就像給襯衫裝上紐扣和前衣口袋；而灌水就像是在衣服背后縫了個口袋。
今年，甚至有位英國教授專門寫了篇論文來指導大家如何寫論文：
作者主要從建模前如何準備、如何建出可靠的模型、如何穩(wěn)健地評估模型，如何公平地比較模型以及如何報告結(jié)果五個方面，全面闡述了如何避免機器學習研究中的陷阱。
那么最后，你覺得還有什么保證論文創(chuàng)新性（或?qū)ふ襥dea）的方法呢？
清華特獎高天宇：
http://www.xaznjj.net/2020/03/12309.html
如何寫一篇不水的機器學習論文：
http://www.xaznjj.net/2021/08/27616.html
發(fā)現(xiàn)自己的idea已經(jīng)被人發(fā)表了，該怎么辦？
http://www.xaznjj.net/2019/06/3337.html
參考鏈接：
https://www.reddit.com/r/MachineLearning/comments/p4pv17/d_how_to_bring_novelty_in_machine_learning/
- 4o-mini華人領(lǐng)隊也離職了，這次不怪小扎2025-08-19
- 宇樹機器人“撞人逃逸”火到國外，王興興回應：下次不遙控了2025-08-16
- 突破Claude-4編程上限！自進化Agent框架拿下新SOTA，已開源2025-08-19
- 讓OpenAI只領(lǐng)先5天，百川發(fā)布推理新模型，掀翻醫(yī)療垂域開源天花板2025-08-11
相關(guān)閱讀
