英偉達(dá)發(fā)布“空氣CPU”，Arm架構(gòu)專為AI而生，性能超x86十倍，與自家GPU更搭

曉查 2021-04-13 12:15:22 來源：量子位

夢晨 曉查 發(fā)自 凹非寺
量子位 報道 | 公眾號 QbitAI

30系顯卡買不到？英偉達(dá)老黃剛剛又發(fā)布一款“空氣CPU”。

不過就算你搶不到也沒關(guān)系，因為這款CPU專門為服務(wù)器設(shè)計，到2023年才能發(fā)布。

剛剛，在英偉達(dá)舉辦的GPU技術(shù)大會上（其實會場就是老黃家的廚房），黃仁勛發(fā)布了全新ARM架構(gòu)CPU，也是英偉達(dá)首款服務(wù)器CPU——Grace。

這款CPU專為處理大量數(shù)據(jù)的AI任務(wù)而生。老黃說，如果服務(wù)器用上這款CPU，那么AI性能將超過x86架構(gòu)CPU的10倍。

去年，老黃就是在這里發(fā)布了A100、RTX 30系列GPU。今年，這位皮衣男的頭發(fā)更長了，也更白了。

除推出首款服務(wù)器GPU外，英偉達(dá)還要把ARM架構(gòu)帶到筆記本上。

如果用一句話概括這場發(fā)布會，那就是老黃想用ARM革x86的命，畢竟英偉達(dá)是準(zhǔn)備用400億美元收購ARM的。

PPT級CPU

全新的CPU以女程序員先驅(qū)Grace Hopper的名字命名，有趣的是英偉達(dá)的GPU是以男性科學(xué)家的名字來命名的：圖靈、安培……現(xiàn)在英偉達(dá)的兩條產(chǎn)品線實現(xiàn)了夢幻聯(lián)動。

RTX 30系顯卡是因為買不到而被叫做“空氣”，那么Grace CPU被叫做空氣的原因是，這款產(chǎn)品實在是“太PPT”了。

正式發(fā)布時間在2年后，什么整數(shù)浮點運算性能、主頻參數(shù)統(tǒng)統(tǒng)沒有，連制程工藝也語焉不詳，如果不出意外，應(yīng)該是5nm。

英偉達(dá)只在發(fā)布會上透露，Grace在SPECrate2017_int_base基準(zhǔn)測試中超過300分，可以與AMD第二代64核EPYC中的某些CPU相媲美。

再看看這一個月里AMD和Intel發(fā)布的服務(wù)器GPU那一大串參數(shù)，這不就是“空氣”嗎！

既然什么參數(shù)都沒有，唯一參數(shù)也只和AMD上一代ETPC持平，老黃為何敢拍著胸脯說Grace比其他x86架構(gòu)強10倍呢？

因為，在數(shù)據(jù)傳輸速度這件事上，Grace比AMD和Intel跑得快多了。

這對于AI任務(wù)太重要了。英偉達(dá)的GPU用于深度學(xué)習(xí)，而CPU、內(nèi)存和GPU之間的通信速度往往拖了AI的后腿。

過去，CPU和GPU之間靠PCIe總線進(jìn)行數(shù)據(jù)傳輸，兩種不同架構(gòu)硬件之間的溝通太慢。

而x86架構(gòu)CPU又不支持英偉達(dá)自有的NVLink，所以最好的辦法是自己造一個CPU，專門為大量數(shù)據(jù)的AI任務(wù)而生。

Grace和英偉達(dá)GPU之間通過NVLink 4進(jìn)行通信，從GPU到CPU之間的傳輸速度高達(dá)900GB/s，比AMD EPYC 2+NVIDIA A100的搭配快14倍。

△ Grace與AMD CPU傳輸速率對比（圖片來自AnandTech）

另外，Grace也有著最高的內(nèi)存帶寬500GB/s，且支持LPDDR5x ECC內(nèi)存，能效比其他產(chǎn)品高10倍。

這款CPU我們何時才能見到呢？

現(xiàn)在已經(jīng)有兩個大客戶了，其中瑞士國家計算中心正在建造全球最快AI超算算力達(dá)20EFLOPS；美國洛斯阿拉莫斯國家實驗室也將為其研究人員配備搭載Grace的新AI超算。

至于Grace的一個可能用途，是用來訓(xùn)練下一代超過1萬億參數(shù)的NLP模型，GPT-4就靠它了。

ARM筆記本也能有獨顯

取代x86的野心不僅在服務(wù)器端，英偉達(dá)還要把ARM帶到PC平臺上。

但英偉達(dá)不是自己制造筆記本CPU，而是與聯(lián)發(fā)科合作。

未來英偉達(dá)RTX筆記本顯卡將支持ARM架構(gòu)CPU，將光追和AI技術(shù)帶到ARM平臺上。目前雙方已經(jīng)開發(fā)了支持Chromium、Linux兩種開源系統(tǒng)的SDK參考平臺。

聯(lián)發(fā)科CEO表示，GPU加速將對整個Arm生態(tài)系統(tǒng)產(chǎn)生巨大的推動作用。

希望Windows能在ARM軟件生態(tài)上給力，用上ARM架構(gòu)的獨顯游戲本也許不是夢了。

自動駕駛芯片

老黃在發(fā)布會上表示，將于2022年投產(chǎn)Orin自動駕駛芯片。

雖然我們到明年才可能看到搭載Orin的汽車，但是這不妨礙英偉達(dá)發(fā)布下一代自動駕駛芯片Atlan。

Atlan算力達(dá)到1000TOPS，是上一代Orin芯片的4倍，為2025年誕生的汽車設(shè)計。

英偉達(dá)宣布與沃爾沃深化合作，明年沃爾沃將從新款XC90開始搭載Orin系統(tǒng)，并在2025年款車型中搭載最新的Atlan系統(tǒng)。

更多AI落地

Nvidia發(fā)布了用于訓(xùn)練大規(guī)模Transformer模型的“威震天”——Megatron Triton推理服務(wù)器。

Transformer模型的參數(shù)規(guī)模正以指數(shù)級增長，每兩個半月翻一倍。Nvidia預(yù)計明年將會出現(xiàn)萬億級參數(shù)的模型。

以GPT-3為例，使用雙路CPU的服務(wù)器進(jìn)行一次128個單詞的查詢就要超過一分鐘。

Megatron Triton通過多GPU、多節(jié)點推理，可以在1秒內(nèi)同時進(jìn)行16次這樣的查詢。

會上還發(fā)布了藥物研發(fā)領(lǐng)域的Clara Discovery產(chǎn)品，包括醫(yī)學(xué)影像、基因組分析、量子化學(xué)、尋找新化合物等方面。

CuQuantum，用GPU加速量子電路模擬，適用于張量網(wǎng)絡(luò)求解和狀態(tài)向量求解。在測試中，將雙CPU需要10天完成的任務(wù)縮短到2小時。

除此之外，還有多模態(tài)實時對話AI平臺Jarvis的1.0公測版，能夠?qū)崿F(xiàn)語音識別、語言理解、翻譯，以及在合成語音中表現(xiàn)出情緒。

以及開源推薦系統(tǒng)框架Merlin。在測試中實現(xiàn)10-50倍的ETL加速。

Jarvis和Merlin都已可以在Nvidia NGC中下載。

還要打造虛擬世界

Nvidia還宣布夏季推出元宇宙產(chǎn)品Omniverse企業(yè)授權(quán)許可，用于讓團(tuán)隊在虛擬世界中異地實時協(xié)作。

元宇宙(Metaverse)，1992年由尼爾·斯蒂芬森于在科幻小說《雪崩》中提出，是一個與現(xiàn)實世界相互影響的虛擬世界，就像《頭號玩家》中展示的那樣。

NVIDIA Omniverse是一個云原生平臺，除了視覺模擬外、還進(jìn)行高精度的材料和物理學(xué)模擬并與NVIDIA AI完全集成。

除了娛樂外，Omniverse可用于機器人訓(xùn)練，通過創(chuàng)造工廠的數(shù)字重建，在虛擬環(huán)境中訓(xùn)練好的機器人AI可以直接部署到真實環(huán)境中。

老黃還展示了與寶馬公司合作的項目，通過模擬了31家寶馬工廠的生產(chǎn)流程，并在數(shù)字環(huán)境中進(jìn)行優(yōu)化，將生產(chǎn)效率提升了30%。

顯卡呢？

說了這么多亂七八糟的，老本行顯卡呢？

Nvidia公布了8款為下一代筆記本電腦、臺式機和服務(wù)器推出八款全新安培架構(gòu)顯卡RTX A系列。

A系列為用于圖形設(shè)計的專業(yè)卡，搭載下一代RTX技術(shù)。

其中RTX A5000桌面卡提供24G顯存。而A2000-A5000的移動版將搭載第三代MAX-Q技術(shù)，在不影響筆記本輕薄屬性下提供更高性能。

參考鏈接：

[1]https://nvidianews.nvidia.com/news/nvidia-announces-cpu-for-giant-ai-and-high-performance-computing-workloads
[2]https://www.anandtech.com/show/16610/nvidia-unveils-grace-a-highperformance-arm-server-cpu-for-use-in-ai-systems
[3]https://www.engadget.com/nvidia-mediatek-arm-pcs-gpus-170021586.html