1.93bit版DeepSeek-R1編程超過Claude 4 Sonnet，不用GPU也能運行
作者自己也震驚了
克雷西 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
1.93bit量化之后的 DeepSeek-R1（0528），編程能力依然能超過Claude 4 Sonnet？
最新優(yōu)化版R1在編程榜單aider上取得了60%的成績，不僅超過了Claude 4 Sonnet的56.4分，也超過了1月版的滿血R1。
并且aider是一個接近現(xiàn)實軟件工程任務的榜單，不是靠做題就能取勝。
△圖中R1為一月份的0120滿血版
體積方面，相比8bit原始版，這個1.93bit版本，文件大小降低了70%以上。
看到如此輕量級的版本能有這樣的表現(xiàn)，連作者本人都感到震驚。
而R1-0528的滿血版在aider上則是取得了71.4分，超過了不開啟思考的Claude 4 Opus。
量化版R1，不用GPU也能跑
這個量化版本來自Unsloth工作室，從1.66到5.5bit，Unsloth一共制作了9個量化版本。
最小的1.66bit版，gguf文件大小僅162GB，比8bit版減小了近80%，1.93bit版也減小了70%。
按照Unsloth的說法，較小的版本沒顯卡也能跑，比如1.x級中間的1.78bit版本搭配64GB內(nèi)存，每秒可以跑1個token。
如果放進24GB顯存的顯卡（比如3090），搭配128GB內(nèi)存可以跑到每秒5個token。
不過Unsloth還是推薦至少180GB的統(tǒng)一內(nèi)存，或者RAM和顯存加起來超過180GB也可以，這樣速度可以提到每秒5個token以上。
對于其他版本，也給出了簡單的計算方式——內(nèi)存和顯存加起來（或統(tǒng)一內(nèi)存）不低于下載的文件大小。
在眾多版本當中，為了實現(xiàn)更好的大小與精度平衡，Unsloth更建議使用2.4bit和2.7bit的版本。
說完R1的這些量化版本，再來看看制作它們的Unsloth。
團隊主要工作就是微調(diào)模型使其更高效運行，除了DeepSeek，阿里的Qwen、微軟的Phi，還有Mistral、Llama也都被這個團隊微調(diào)過。
這些模型當中，內(nèi)存占用最少降低了一半，速度最少提升50%。
并且團隊的GitHub倉庫擁有4萬多星標。
另外Unsloth這次還推出了用R1-0528蒸餾的Qwen3-8B模型，據(jù)介紹可以達到與Qwen3-235B相同的性能，并且“幾乎可以適應任何配置”。
R1-0528打游戲超越o4-mini
說完量化，再看看R1本身。
一個名為Hao AI Lab的機構推出了一套讓大模型玩人類游戲的評測基準Lmgame Bench，并公布了R1-0528取得的成績。
這套基準一共包含了六款游戲——俄羅斯方塊、2048、推箱子、馬里奧兄弟、逆轉(zhuǎn)裁判和糖果傳奇。
其中，和1月的版本比較，0528在俄羅斯方塊上的提升非常明顯。
如果和其他家模型相比，0528的俄羅斯方塊成績超過了o4-mini，僅次于o3。
直觀感受就是，四個模型同時開始游戲，而R1-0528堅持到了最后。
除了俄羅斯方塊，R1-0528在推箱子、2048和糖果傳奇上的表現(xiàn)也大幅超過1月版本，在糖果傳奇中還名列前茅，僅次于最強的o3。
其中，2048、推箱子和俄羅斯方塊一樣，評價方法是看誰最后Game Over。
這里官方只展示了R1和Qwen的可視化對比。
而糖果傳奇則是在規(guī)定的步數(shù)內(nèi)看誰的得分最多，R1-0528取得了548分，領先o4-mini近20分。
你覺得R1還能挑戰(zhàn)哪些人類游戲呢？
參考鏈接：
[1]https://aider.chat/docs/leaderboards/
[2]https://docs.unsloth.ai/basics/deepseek-r1-0528-how-to-run-locally
[3]https://x.com/haoailab/status/1929997363407708646
- GPT-5 Pro獨立做數(shù)學研究！讀論文后給出更精確邊界，OpenAI總裁：這是生命跡象2025-08-21
- 黃仁勛子女成長路徑曝光：一個學烘焙一個開酒吧，從基層做到英偉達高管2025-08-12
- 讓64張卡像一張卡！浪潮信息發(fā)布新一代AI超節(jié)點，支持四大國產(chǎn)開源模型同時運行2025-08-11
- 快來看看GPT-5第一波實測2025-08-08
相關閱讀
