DeepSeek玩家能提前拿蘋果新品！只要15萬元，在家跑滿血版R1
實測11 tokens/秒
金磊 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
號稱地表最強的M3 Ultra，本地跑滿血版DeepSeek R1，效果到底如何？
其實，有些DeepSeek玩家們已經(jīng)提前拿到手做過實測了。
例如這位Alex老哥就是其中之一：
他提前拿到了兩臺搭載M3 Ultra的Mac Studio，配置是這樣的：
- M3 Ultra（32 核中央處理器、80 核圖形處理器和 32 核神經(jīng)網(wǎng)絡引擎）
- 512G統(tǒng)一內(nèi)存
- 1TB固態(tài)硬盤
具體來說，Alex老哥用配備Thunderbolt 5互連技術(shù)（傳輸速率為 80Gbps）的EXO Labs設(shè)備，來運行完整的DeepSeek R1模型（671B、8-bit）。
然后效果是這樣的：
嗯，跑通了！
Alex老哥表示，兩臺Mac Studio本地跑滿血版DeepSeek R1，實際速度是11 tokens/秒，理論上可以達到20 tokens/秒。
至于價格嘛，一臺上述配置的Mac Studio是74249元，兩臺就是小15萬元。
或許很多小伙伴覺得這個價格有點略貴。
但在M3 Ultra之前啊，如果你想在本地使用顯卡來推理V3或R1，那么就得起碼需要6、7張A100……大約小100萬元。
也正因如此，也有不少網(wǎng)友認為搭載M3 Ultra的Mac Studio，堪稱是“性價比最高的大模型一體機”。
值得注意的是，蘋果這次似乎是主動給DeepSeek玩家們提前發(fā)貨，有種讓他們趕緊測一測的意味。
畢竟在發(fā)布之際，蘋果就強調(diào)了可以在M3 Ultra版Mac Studio中跑超過6000億參數(shù)的大模型。
掀起一波本地跑DeepSeek的風
其實在M3 Ultra版Mac Studio發(fā)布前后，已經(jīng)有不少人做過類似的評測。
例如B站博主“雖然但是張黑黑”的測試結(jié)果是：
- 15.78 tokens/秒：采用Ollama的GGUF格式
- 19.17 tokens/秒：采用更適合蘋果的MLX格式
這個速度已經(jīng)跟在線使用DeepSeek R1的速度相媲美了。
除此之外，像外網(wǎng)博主Xcreate還把M3 Ultra版Mac Studio和M4 Max版Macbook Pro的拉到一個“擂臺”做了比較。
首先從性能上來看，Geekbench測試的結(jié)果顯示，M3 Ultra在CPU性能方面與M4 Max非常接近，但M3 Ultra略勝一籌。
在本地運行大模型測試方面，博主在運行基于Llama的DeepSeek R1 70B模型時，M3 Ultra的速度為11.3 tokens/ 秒，而M4 Max測試結(jié)果為10.69 tokens/秒，差距并不是很大。
但更重要的是測試滿血版DeepSeek R1的結(jié)果。
對此，博主認為在本地完整運行671B的DeepSeek是有點困難的，因為已經(jīng)有人宣告失敗。
但也有成功的例子。
他舉例另一位評測人員的結(jié)果，顯示是運行8bit量化版本的DeepSeek R1，得到了9-21 tokens/秒的速度。
而在4bit量化版情況下，速度為16-18 tokens/秒。
至于為什么體量更大的671B的DeepSeek，會比70B運行速度更快，是因為DeepSeek將671B模型分片為 “專家混合體”，實際運行時根據(jù)問題切換，類似運行30B的模型。
最后，博主也提醒想要在本地運行大模型的友友們，網(wǎng)傳蘋果將在今年WWDC上發(fā)布M4 Ultra，所以可以再觀望一下。
參考鏈接：
[1]https://x.com/alexocheema/status/1899604613135028716
[2]https://www.bilibili.com/video/BV1nkRnYTEWx/
- 商湯林達華萬字長文回答AGI：4層破壁，3大挑戰(zhàn)2025-08-12
- 商湯多模態(tài)大模型賦能鐵路勘察設(shè)計，讓70年經(jīng)驗“活”起來2025-08-13
- 以“具身智能基座”為核，睿爾曼攜全產(chǎn)品矩陣及新品亮相2025 WRC2025-08-11
- 哇塞，今天北京被機器人人人人人塞滿了！2025-08-08
