英偉達(dá)新“桌面超算”800GB大內(nèi)存，滿血DeepSeek R1能裝1個(gè)半

聞樂(lè) 2025-05-19 16:16:10 來(lái)源：量子位

夢(mèng)晨 聞樂(lè) 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

英偉達(dá)官宣新辦公室落戶中國(guó)臺(tái)灣省臺(tái)北市，但居然是從太空飛下來(lái)的嗎？

當(dāng)然，這只是黃仁勛在Computex大會(huì)上展示的CG特效，但背后還有這樣一層意思：

如此逼真的畫(huà)面中，只有1/10的像素是顯卡渲染的，剩下全部?jī)?nèi)容為AI預(yù)測(cè)。

當(dāng)初是GeForce顯卡讓AI成為現(xiàn)實(shí)，現(xiàn)在AI反過(guò)來(lái)給GeForce顯卡帶來(lái)顛覆性變革。

除了正式宣布新辦公室地址，會(huì)上英偉達(dá)還宣布多款重磅新品：

面向個(gè)人有DGX Station，在桌面跑1T參數(shù)大模型，這回刀法也不用了，足足給到800GB內(nèi)存。

面向企業(yè)有RTX PRO Server，可加速?gòu)腁I智能體、物理AI、科學(xué)計(jì)算到渲染、3D圖形和視頻等各種用例。

同時(shí)老黃還表示英偉達(dá)正在經(jīng)歷一次轉(zhuǎn)型，從一家芯片公司擴(kuò)展到一家AI基礎(chǔ)設(shè)施公司。

過(guò)去幾十年，英偉達(dá)從造GPU芯片到造超算系統(tǒng)，現(xiàn)在造數(shù)據(jù)中心都已經(jīng)不滿足了，接下來(lái)要交付的是“星際之門(mén)”、xAI Colossus超級(jí)計(jì)算集群這樣的大項(xiàng)目。

老黃表示，AI基礎(chǔ)設(shè)施市場(chǎng)將以數(shù)萬(wàn)億美元衡量。

此外，這場(chǎng)演講中的其他亮點(diǎn)還有：

• 發(fā)布半定制化NVLink Fusion（混搭，有IP就可用）
• 推出英偉達(dá)AI數(shù)據(jù)平臺(tái)
• 宣布與迪士尼合作機(jī)器人項(xiàng)目
  ……

下面一起來(lái)看。

“買(mǎi)的越多，創(chuàng)造的越多”

今年第三季度，英偉達(dá)主打產(chǎn)品將升級(jí)到Blackwell架構(gòu)GB300超級(jí)芯片。

與GB200相比，GB300在算力和內(nèi)存上約提升50%，網(wǎng)絡(luò)連接性能則提升1倍。

2個(gè)超級(jí)新品組成1個(gè)計(jì)算節(jié)點(diǎn)(node)，老黃在現(xiàn)場(chǎng)還拆開(kāi)實(shí)物，詳細(xì)展示了其內(nèi)部構(gòu)造。

2018年的Sierra超級(jí)計(jì)算機(jī)中包含18000塊英偉達(dá)Volten架構(gòu)GPU，如今一個(gè)Blackwell計(jì)算節(jié)點(diǎn)就可提供同等的算力。

按黃式數(shù)學(xué)，這叫6年時(shí)間性能提升約4000倍。

將這些節(jié)點(diǎn)連接在一起就需要NVLink，這次老黃重點(diǎn)了系統(tǒng)的“脊柱”NVLink Spine，內(nèi)含總長(zhǎng)兩英里（3.218公里）的5000條銅纜，將每塊芯片之間全互聯(lián)，實(shí)現(xiàn)每秒14.4TB的全連接帶寬。

這次宣布的新品則是NVLink Fusion，允許合作伙伴將NVLink技術(shù)應(yīng)用于定制的機(jī)架。

也就是說(shuō)，非英偉達(dá)的CPU和其他加速器也可以與英偉達(dá)產(chǎn)品結(jié)合使用，同時(shí)享有NVLink的高速連接。

數(shù)據(jù)中心產(chǎn)品之外，英偉達(dá)在桌面產(chǎn)品上再次發(fā)力。

老黃先透露，之前宣布的個(gè)人AI計(jì)算機(jī)DGX Spark已全面投產(chǎn)，將于數(shù)周內(nèi)上市。

DGX Spark采用英偉達(dá)GB10芯片，能夠提供每秒1000萬(wàn)億次的AI運(yùn)算，用于微調(diào)和推理最新AI模型。

升級(jí)款DGX Station，則首次搭載了與數(shù)據(jù)中心同款的GB300超級(jí)芯片。

英偉達(dá)表示DGX Station屬于全新設(shè)計(jì)的計(jì)算機(jī)類別，適用于在桌面上開(kāi)發(fā)和運(yùn)行大規(guī)模AI訓(xùn)練和推理工作負(fù)載。

高達(dá)784GB的大容量統(tǒng)一內(nèi)存，最高支持運(yùn)行1T參數(shù)的大模型，也就是說(shuō)671B的滿血DeepSeek R1能跑一個(gè)半。

面向企業(yè)的RTX Pro Server搭載了8塊RTX PRO 6000服務(wù)器版GPU，96GB GDDR7內(nèi)存，1.6TB/s內(nèi)存帶寬。

一臺(tái)RTX Pro Server機(jī)架包括4臺(tái)RTX PRO Server服務(wù)器，提供120PFlops的FP4峰值算力。

現(xiàn)場(chǎng)也特意用了DeepSeek R1模型的測(cè)試數(shù)據(jù)，每花費(fèi)500萬(wàn)美元，RTX PRO Server的性價(jià)比是H100的四倍。

花更少的錢(qián)，生成更多的token。

對(duì)于這一系列新品，老黃這次改變了促銷口號(hào)。

從“買(mǎi)的越多，省得越多”，變成了“買(mǎi)的越多，創(chuàng)造的越多”。

GPU之外一系列新發(fā)布

老黃表示，人類要查詢像SQL這樣的結(jié)構(gòu)化數(shù)據(jù)，而AI想要查詢的是非結(jié)構(gòu)化數(shù)據(jù)，因此需要打造新型存儲(chǔ)平臺(tái)，也就是NVIDIA AI數(shù)據(jù)平臺(tái)。

這個(gè)新型的存儲(chǔ)平臺(tái)不再是依靠CPU，而是配備計(jì)算GPU。

并且打造了一個(gè)新型查詢系統(tǒng)——Nvidia AIQ或IQ，就像SQL服務(wù)器、SQL軟件和文件存儲(chǔ)軟件一樣，類似一個(gè)復(fù)雜的軟件層。

他還提到，加速運(yùn)算始于CUDA-X，這個(gè)集合幾乎包含了所有領(lǐng)域的加速運(yùn)算。

比如，Aerial和Sionna能夠?qū)I帶到5G和6G；Monai可以用于醫(yī)學(xué)成像；Earth-2用于天氣預(yù)報(bào)；Coup quantum用于量子經(jīng)典計(jì)算架構(gòu)；以及Megatron、Dynamo、NIXL等包含了深度學(xué)習(xí)所有的訓(xùn)練庫(kù)。

英偉達(dá)正在研究一類量子經(jīng)典或量子GPU計(jì)算平臺(tái)——CUDAQ，與全球優(yōu)秀企業(yè)合作，將AI帶入5G和6G。

并且，老黃還提到未來(lái)的超級(jí)計(jì)算機(jī)就是具有QPU和GPU的QPU。

物理AI，是機(jī)器人革命的基石。

老黃舉了個(gè)例子，比如說(shuō)滾動(dòng)一個(gè)球，根據(jù)球的速度，它可能到了汽車(chē)底下或者汽車(chē)的另一邊，但它沒(méi)有消失；又比如面前有張桌子，最好的選擇是繞過(guò)它或者鉆過(guò)去，而不是直接穿過(guò)它。

在人工智能時(shí)代，AI能夠推理類似的物理事件是極其重要的。

而如今要做的事情就是研究一種能夠根據(jù)提示自主生成視頻，然后進(jìn)行訓(xùn)練的機(jī)器人。

在此構(gòu)想之下，英偉達(dá)/谷歌DeepMind/迪士尼合作開(kāi)發(fā)了專為機(jī)器人開(kāi)發(fā)而構(gòu)建的新一代開(kāi)源物理引擎Newton，可讓機(jī)器人學(xué)習(xí)如何以更高的精度處理復(fù)雜任務(wù)。

One More Thing

除了演講現(xiàn)場(chǎng)火爆，在會(huì)場(chǎng)外的英偉達(dá)紀(jì)念品攤位這次也很受歡迎。

亮點(diǎn)是其中的文化衫，印滿了老黃的Q板頭像。

只能說(shuō)，老黃現(xiàn)在是明星級(jí)待遇。

視頻回放：
https://www.youtube.com/watch?v=TLzna9__DnI

參考鏈接：
[1]https://www.nvidia.com/en-us/products/workstations/dgx-station/
[2]https://nvidianews.nvidia.com/news/nvidia-rtx-pro-servers-speed-trillion-dollar-enterprise-it-industry-transition-to-ai-factories
[3]https://x.com/JSolomonCNBC/status/1924245721311809845

— 完 —