英偉達(dá)迷你超算遭友商嘲諷：宣傳FP4算力，實(shí)際“不如買個(gè)游戲電腦”

克雷西 2025-01-10 16:34:15 來源：量子位

克雷西 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

老黃在CES上發(fā)布的迷你超算Project DIGITS，開啟了AI超算的PC時(shí)刻。

但隨即也引發(fā)了不小爭(zhēng)議，還遭到了大佬的貼臉嘲諷。

在AMD和英特爾都工作過的芯片設(shè)計(jì)專家Raja Koduri實(shí)名吐槽道：

FLOPs除以4，價(jià)格翻倍，這就是在CES上stay grounded的秘訣。

后來Koduri在網(wǎng)友追問下給出了詳細(xì)解釋，表示英偉達(dá)宣傳的算力是在FP4精度下的，而Project DIGITS在FP16下的表現(xiàn)，可能就和5070差不多，甚至接近Intel Arc B580（售價(jià)250美元）。

友商Tiny Corp更是抓住這一點(diǎn)猛地一波輸出，直接表示，人們趨之若鶩的的所謂3000美元超算，就是純純的詐騙。

最后還不忘再補(bǔ)一刀說，3000美元還不如買個(gè)游戲電腦。

關(guān)于細(xì)節(jié)，Tiny Corp在另一則推文里表示，F(xiàn)P4根本就沒法用，Project DIGITS在FP8精度下只有500TFLOPs，順便宣傳自家的產(chǎn)品有4PFLOPs，是Project DIGITS的8倍。

史上最迷你超算，售價(jià)22000起

英偉達(dá)介紹，這一波發(fā)布的Project DIGITS，可以說是目前體積最小的AI超算。

Project DIGITS將于今年5月份由官方和頂級(jí)合作商一同發(fā)售，起售價(jià)3000美元，約合人民幣兩萬二。

它搭載了英偉達(dá)全新Grace Blackwell超級(jí)芯片——GB10，F(xiàn)P4運(yùn)算能力達(dá)到了1PFLOPs。

GB10包含了英偉達(dá)Blackwell GPU，具有最新一代CUDA核心和第五代Tensor Cores。

CPU則是與聯(lián)發(fā)科合作研發(fā)的Grace CPU，基于Arm架構(gòu)，擁有20個(gè)節(jié)能核心。

CPU和GPU之間，則是通過NVLink-C2C芯片到芯片互連連接，另外還有128GB統(tǒng)一內(nèi)存和4TBNVMe存儲(chǔ)。

據(jù)介紹，Project DIGITS可以在桌面端運(yùn)行200B大模型，還可以把兩臺(tái)組合到一起，跑405B的模型。

此外英偉達(dá)還給用戶配有AI軟件庫，包括NGC目錄和開發(fā)者門戶中的軟件開發(fā)工具包、編排工具、框架和模型等，可用NVIDIA NeMo框架微調(diào)模型、NVIDIA RAPIDS庫加速數(shù)據(jù)科學(xué)，運(yùn)行PyTorch等常見框架。

還可以利用NVIDIA Blueprints和NVIDIA NIM微服務(wù)構(gòu)建智能AI應(yīng)用。

并且在桌面系統(tǒng)上對(duì)大模型搞完開發(fā)或推理之后，還可以無縫部署到加速云或數(shù)據(jù)中心基礎(chǔ)設(shè)施里。

英偉達(dá)的桌面CPU計(jì)劃

之前有傳言稱，英偉達(dá)打算在今年進(jìn)軍消費(fèi)級(jí)CPU市場(chǎng)。

這次的Project DIGITS中，20個(gè)節(jié)能核心的Grace CPU就是英偉達(dá)的第一次試水。

黃仁勛在投資者演講中回答分析師的問題時(shí)表示，英偉達(dá)與聯(lián)發(fā)科共同設(shè)計(jì)了一款“可以廣泛銷售的”節(jié)能CPU。

不過，搭載新CPU的Project DIGITS主要面向AI從業(yè)人員，主要運(yùn)行Linux系統(tǒng)，離成為大眾消費(fèi)市場(chǎng)設(shè)備還存在距離。

但老黃也明確表示，英偉達(dá)對(duì)于桌面級(jí)的CPU“有進(jìn)一步計(jì)劃”，具體細(xì)節(jié)則要之后再透露。

不過這已經(jīng)足夠證明，英偉達(dá)想要進(jìn)軍消費(fèi)級(jí)CPU的說法屬實(shí)。

并且老黃也對(duì)此充滿了信心：

我們將使其成為主流產(chǎn)品，將竭盡全力支持專業(yè)和高質(zhì)量的軟件，而PC（制造商）將向最終用戶提供它。

另外，與英偉達(dá)合作的聯(lián)發(fā)科可能也有自己的野心。

老黃表示，聯(lián)發(fā)科既可以把產(chǎn)品提供給英偉達(dá)，也可能自行保留并推向市場(chǎng)。

不過至少在目前看來，黃仁勛依然認(rèn)為與聯(lián)發(fā)科的合作是一個(gè)雙贏的結(jié)果。

參考鏈接：
[1]https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidias-usd3-000-mini-ai-supercomputer-draws-scorn-from-raja-koduri-and-tiny-corp-ai-server-startup-suggests-users-just-buy-a-gaming-pc
[2]https://www.theverge.com/2025/1/8/24338939/nvidia-jensen-huang-hints-arm-desktop-cpu
[3]https://www.reuters.com/technology/nvidia-ceo-says-mediatek-will-be-able-sell-nvidias-desktop-cpus-2025-01-07/