突破Claude-4編程上限！自進化Agent框架拿下新SOTA，已開源

SE-Agent團隊 投稿

量子位 | 公眾號 QbitAI

突破多步推理瓶頸，讓Claude-3.7-Sonnet解題成功率暴增20.6%。

在SWE-Bench Verified上刷新開源框架SOTA！

中科院、清華大學、階躍星辰等提出SE-Agent，一個創(chuàng)新的自進化（Self-Evolution）框架。

它不再滿足于簡單地“多想幾次”，而是讓智能體學會系統(tǒng)性地修訂、重組與精煉其整個思考過程，通過多軌跡間的相互啟發(fā)與對抗，探索更廣闊、更多樣化的解決方案空間。

隨著Claude 4模型的發(fā)布，SE-Agent的性能被推向新的高度：在SWE-Bench Verify上，它取得了高達80%的Top-1 Resolution Rate，再次刷新了領(lǐng)域紀錄。

這充分證明該框架可以隨著基礎(chǔ)模型升級而不斷進步。

核心思想：從“獨立嘗試”到“集體進化”

大語言模型（LLM）驅(qū)動的智能體在處理復雜推理和工具使用方面展現(xiàn)了驚人的潛力，尤其是在軟件工程等需要多步驟交互的任務(wù)上。然而，現(xiàn)有方法（如蒙特卡洛樹搜索 MCTS）常常陷入困境：它們將每次的解決嘗試（即“軌跡”）視為獨立事件，忽視了不同解決方案路徑之間的內(nèi)在聯(lián)系，導致思維固化，難以跳出局部最優(yōu)解。

通俗來說，傳統(tǒng)智能體就像一群各自為戰(zhàn)的士兵，雖然人數(shù)眾多，但缺乏協(xié)同。SE-Agent則引入了“進化”的視角，將每一次解決問題的完整路徑（軌跡）視為一個“物種”，通過三大核心操作，讓這些“物種”在一個“生態(tài)系統(tǒng)”中迭代進化，優(yōu)勝劣汰。

SE-Agent的三大進化算子：

1、修訂（Revision）-深度自省與定向改進

生成初始多樣性：首先，通過多樣的規(guī)劃策略和可控的“突變”，生成一個包含不同解題思路的初始軌跡池，確保進化的起點足夠豐富。

反思與修正：隨后，智能體對每一條初始軌跡進行“復盤”，分析其優(yōu)缺點、邏輯斷點和潛在的改進空間，然后進行有針對性的修正，消除邏輯不一致和冗余推理，完成個體的自我完善。

2、重組（Recombination）-跨軌跡的“雜交”與學習

這是SE-Agent最具創(chuàng)新性的部分。它不再將軌跡視為孤島，而是促進它們之間的“知識共享”。

交叉融合（Crossover）：識別并提取不同軌跡中的高效片段（例如，一個軌跡擅長定位問題，另一個擅長編寫修復代碼），然后將這些“優(yōu)勢基因”組合起來，創(chuàng)造出全新的、更強大的混合軌跡。

知識遷移（Transfer Learning）：將成功軌跡中的關(guān)鍵策略和洞見，系統(tǒng)性地“嫁接”到其他表現(xiàn)較差的軌跡上，實現(xiàn)“差生”向“優(yōu)等生”的學習。

3、精煉（Refinement）-多維評估與優(yōu)化選擇

在每一輪進化后，SE-Agent會通過一個多維度評估函數(shù)（綜合考量任務(wù)完成度、推理質(zhì)量和效率）對所有新舊軌跡進行打分。

精英選擇：保留得分最高的“精英”軌跡，同時通過策略性選擇確保軌跡的多樣性，避免所有方案趨同。這個過程不斷迭代，直到找到能夠穩(wěn)健解決問題的最優(yōu)解。

在最具挑戰(zhàn)性的代碼基準上實現(xiàn) SOTA

研究團隊以SWE agent作為我們的Baseline，在公認極具挑戰(zhàn)性的SWE-bench Verified基準（包含500個真實GitHub問題）上對SE-Agent進行了全面評測。結(jié)果顯示，SE-Agent在所有測試的LLM上都實現(xiàn)了顯著的性能提升。

開源模型表現(xiàn)（Pass@1）：

• DeepSeek-V3：從31.6%提升至54.8%（+73%相對提升）
• Qwen-2.5-72B：從18.8%提升至38.8%（+106%相對提升）
• Llama-3.1-70B：從15.4%提升至32.6%（+112%相對提升）

閉源模型表現(xiàn)（Pass@1）：

• GPT-4o：從22.4%提升至40.4%（+80%相對提升）
• Claude-3.7-Sonnet：從40.6%提升至61.2%（+51%相對提升）

值得注意的是，SE-Agent在Claude-3.7-Sonnet上達到了61.2%的首次嘗試成功率，這創(chuàng)造了開源智能體框架在SWE-bench Verified上的最佳性能記錄。消融實驗進一步證明，修訂和重組兩大模塊對于框架的成功至關(guān)重要。

核心優(yōu)勢與技術(shù)突破

SE-Agent的成功源于對現(xiàn)有智能體范式的幾大核心突破：

1、真正的解決方案多樣性：不同于傳統(tǒng)方法僅在表面表達上有所不同，SE-Agent通過軌跡級干預(yù)，生成本質(zhì)上不同的解決路徑，大幅擴展了候選解決方案空間。

2、跨軌跡協(xié)同智能：SE-Agent充分利用軌跡間的豐富相互依賴關(guān)系和潛在協(xié)同效應(yīng)，實現(xiàn)了集體智慧的最大化，突破了單一智能體的認知局限。

3、高效進化收斂：相比傳統(tǒng)遺傳算法，SE-Agent通過結(jié)構(gòu)化的進化機制，能在顯著更少的進化周期內(nèi)實現(xiàn)高質(zhì)量結(jié)果。

4、模型無關(guān)的即插即用：SE-Agent作為一個獨立的優(yōu)化模塊，可與現(xiàn)有智能體框架無縫集成，在多種 LLM 上都展現(xiàn)出一致的、強大的性能提升。

案例研究：SE-Agent如何跳出思維定勢？

在一個scikit-learn的真實Bug修復案例中，傳統(tǒng)智能體的問題顯露無遺。

傳統(tǒng)智能體（上圖）：所有嘗試都緊盯報錯信息出現(xiàn)的_validation.py文件，提出的修復方案幾乎是“換湯不換藥”的重復，始終無法觸及問題的根源，導致測試失敗。

SE-Agent（下圖）：通過軌跡的重組與進化，SE-Agent強迫自己探索了完全不同的方向。它跳出了最初報錯的文件，成功定位到根源在于multioutput.py文件缺少了一個關(guān)鍵字段的寫入。最終，通過一行代碼的根本性修復，完美通過了所有測試。

這個案例生動地說明了SE-Agent如何通過在軌跡層面進行演化，有效避免了“隧道視野”，從而發(fā)現(xiàn)那些隱藏更深、也更為關(guān)鍵的解決方案。

結(jié)論與技術(shù)影響

SE-Agent的提出，為提升LLM智能體的復雜推理能力提供了一個全新的、高效的范式。其重要影響在于：

1、開創(chuàng)了軌跡級優(yōu)化范式：從傳統(tǒng)的參數(shù)調(diào)整轉(zhuǎn)向系統(tǒng)性的推理路徑操作，為智能體能力提升提供了新的理論基礎(chǔ)。

2、驗證了集體智慧機制：證明了通過跨軌跡學習實現(xiàn)智能體群體智慧的有機融合，是突破單一智能體認知瓶頸的有效途徑。

3、構(gòu)建了自進化智能系統(tǒng)：為實現(xiàn)能夠持續(xù)自我改進的智能體系統(tǒng)鋪平了道路。

展望未來，研究團隊計劃將SE-Agent的自進化思想擴展到更廣泛的路徑搜索問題中，例如強化學習策略發(fā)現(xiàn)、具身智能規(guī)劃等，為通往更強大、更魯棒的通用人工智能持續(xù)貢獻力量。

本論文團隊還創(chuàng)立了學術(shù)組織QuantaAlpha，成員來自北大、中科院、CMU等，旨在探索智能和引領(lǐng)前沿。我們將在CodeAgent、AgentRL等方向持續(xù)產(chǎn)出高質(zhì)量的研究。主頁：https://quantaalpha.github.io

論文標題： SE-Agent: Self-Evolution Trajectory Optimization in Multi-Step Reasoning with LLM-Based Agents
論文鏈接： https://arxiv.org/pdf/2508.02085
開源代碼： https://github.com/JARVIS-Xs/SE-Agent