提示工程夭折？MIT斯坦福讓大模型主動(dòng)提問，自己搞懂你想要什么
AI反向提示人類
明敏 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
我就說嘛，提示工程正在消失，這篇新研究即可解釋原因。
AI圈百萬粉絲大V的一條推特，可把大家給驚到了。
要知道，提示工程可是ChatGPT趨勢(shì)中的大熱詞。由它衍生出的新崗位提示工程師年薪可高達(dá)幾十萬美元，“未來人人都要學(xué)會(huì)提示工程”的觀點(diǎn)更是引發(fā)熱議……
結(jié)果現(xiàn)在，提示工程就開始消失了？？？
而且有理有據(jù)。
博主伊森·莫利克提到的這篇論文，由MIT、斯坦福和Anthropic（Claude2打造者）共同提出。
論文提出了一種新型的機(jī)器學(xué)習(xí)框架，能讓大模型學(xué)會(huì)主動(dòng)向人類提問，自己搞明白用戶的偏好。
他們使用GPT-4進(jìn)行實(shí)驗(yàn)，結(jié)果發(fā)現(xiàn)和提示工程、監(jiān)督學(xué)習(xí)等方法比，在這個(gè)框架的輔助下GPT-4在多個(gè)任務(wù)上更懂人類了。
如果大模型能更容易揣度出人類想啥，也就意味著人類自己不用絞盡腦汁表達(dá)自己的想法了。
所以伊森·莫利克覺得，這不就不用每個(gè)人都去學(xué)習(xí)提示工程了么？
有網(wǎng)友補(bǔ)充說，這是不是說某種程度上，我們未來是不是可以不用語言和LLM進(jìn)行交流。讓大模型通過提問來弄清楚我們?cè)谙胧裁?，這真是一個(gè)巨大的進(jìn)步。
讓AI來提示你
具體來看，這項(xiàng)研究提出了一種新型學(xué)習(xí)框架GATE（Generative active task elicitation）。
它能基于大模型本身的能力，來引出、推理人類用戶的喜好。
研究團(tuán)隊(duì)將這稱為一種更主動(dòng)的方式，具體表現(xiàn)形式就是讓大模型來對(duì)用戶提問，以讓人類的偏好想法能更加明確地被表達(dá)出來。
對(duì)應(yīng)來看，監(jiān)督學(xué)習(xí)和提示工程都屬于被動(dòng)的方式，監(jiān)督學(xué)習(xí)和少量主動(dòng)學(xué)習(xí)還要基于示例。
為什么要“反客為主”提示人類？
因?yàn)槿祟惤o出的提示存在局限性，不一定能準(zhǔn)確完整表達(dá)出自己的喜好。
比如很多人都不懂提示工程；或者在提示過程中提供了存在誤導(dǎo)性的資料……這些都會(huì)導(dǎo)致大模型表現(xiàn)變差。
論文中列舉了一個(gè)例子。假如一個(gè)用戶說自己很喜歡讀網(wǎng)球相關(guān)的文章，對(duì)網(wǎng)球巡回賽、發(fā)球技術(shù)感興趣。但是從他提供的文章參考里，無法判斷他是否對(duì)網(wǎng)球方面的其他話題感興趣。
所以，如果大模型能學(xué)會(huì)一些提問技巧，就能將用戶的偏好鎖定在更小范圍內(nèi)。
本項(xiàng)研究讓大模型嘗試了多種提問方式，比如主動(dòng)生成用戶標(biāo)注的樣本、是非類提問、開放式提問等。
主要測(cè)試的任務(wù)為內(nèi)容推薦、道德推理和郵箱驗(yàn)證。
結(jié)果顯示，在三項(xiàng)任務(wù)中，GATE包含的辦法效果都優(yōu)于其他方法。
使用這一框架的大模型，使用起來也不那么“燒腦”了（如下左圖）。
以及這種方法的引入也不會(huì)影響人類用戶本來的偏好（如下右圖）。
作者認(rèn)為更大的模型可能是更好的引導(dǎo)者，實(shí)驗(yàn)中他們使用的是GPT-4。
如醫(yī)療、法律等需要做出復(fù)雜決策的領(lǐng)域，會(huì)是GATE框架未來拓展的方向。
本項(xiàng)工作由MIT、Anthropic和斯坦福學(xué)者聯(lián)合推出。
“我們現(xiàn)在仍依賴提示工程”
而以這篇研究為核心，也引發(fā)了一波關(guān)于提示工程的討論。
并不是所有人都贊同“提示工程正在消失”這一觀點(diǎn)。
另一位AI圈大V elvis就表示，這篇研究和之前那些研究人類偏好的工作沒有太大不同，我們現(xiàn)在還是要依賴提示工程。
我不認(rèn)為“理解人類意圖/喜好”會(huì)導(dǎo)致提示工程消失，除非LLM訓(xùn)練和工作的方式發(fā)生系統(tǒng)性變化。
也有人覺得提示工程只是會(huì)從前端消失，形式上發(fā)生改變。
還有人提問，要是提示工程消失了，那花重金雇傭提示工程師的人可咋辦？
不過回到研究本身，的確提示工程對(duì)于很多人來說還是有難度，有網(wǎng)友覺得，這是阻礙很多人擁抱ChatGPT的一大原因。
你覺得呢？
論文地址：
https://arxiv.org/abs/2310.11589
參考鏈接：
[1]https://twitter.com/emollick/status/1715022305925984296?s=20
[2]https://twitter.com/iScienceLuvr/status/1714947314375372999?s=20
- 4o-mini華人領(lǐng)隊(duì)也離職了，這次不怪小扎2025-08-19
- 宇樹機(jī)器人“撞人逃逸”火到國(guó)外，王興興回應(yīng)：下次不遙控了2025-08-16
- 突破Claude-4編程上限！自進(jìn)化Agent框架拿下新SOTA，已開源2025-08-19
- 讓OpenAI只領(lǐng)先5天，百川發(fā)布推理新模型，掀翻醫(yī)療垂域開源天花板2025-08-11
相關(guān)閱讀
大語言模型擊敗擴(kuò)散模型！視頻圖像生成雙SOTA，谷歌CMU最新研究，一作北大校友
業(yè)內(nèi)首次證據(jù)證明
