英特爾首款A(yù)I芯片終于發(fā)布：訓(xùn)練推理兩用，歷時(shí)4年花費(fèi)5億美元買(mǎi)來(lái)4家公司

魚(yú)羊 曉查 2019-08-21 12:36:58 來(lái)源：量子位

邊策 魚(yú)羊 發(fā)自 凹非寺

量子位 報(bào)道 | 公眾號(hào) QbitAI

歷時(shí)4年，壕購(gòu)4家創(chuàng)業(yè)公司，花費(fèi)超過(guò)5億美元，終于發(fā)布第一款A(yù)I芯片。

這就是芯片半導(dǎo)體巨頭英特爾，今日搞出的大新聞。

該AI芯片取名Nervana神經(jīng)網(wǎng)絡(luò)處理器（NNP）。兩個(gè)方向可用：NNP-T用于訓(xùn)練，NNP-I主打推理。

算力性能也有競(jìng)爭(zhēng)力，但發(fā)布后慘遭網(wǎng)友神吐槽：分分鐘搞出一個(gè)過(guò)時(shí)的芯片。

具體詳情究竟如何？我們先看貨、再評(píng)價(jià)。

英特爾首款A(yù)I芯片

神經(jīng)網(wǎng)絡(luò)訓(xùn)練處理器NNP-T中的“T”指Train，也就是說(shuō)這款芯片用于AI推理，處理器代號(hào)為Spring Crest。

訓(xùn)練機(jī)器學(xué)習(xí)模型是開(kāi)發(fā)AI過(guò)程中計(jì)算量最大的部分，這部分包含大量的矩陣和矢量數(shù)學(xué)運(yùn)算發(fā)生時(shí)，正是英特爾CPU能力欠缺的部分。

NNP-T將由英特爾的競(jìng)爭(zhēng)對(duì)手臺(tái)積電（TSMC）制造，采用16nm FF+工藝。

NNP-T有270萬(wàn)個(gè)16nm晶體管，硅片面積680平方毫米，60mmx60mm 2.5D封裝，包含24個(gè)張量處理器組成的網(wǎng)格，核心頻率最高可達(dá)1.1GHz，60MB片上存儲(chǔ)器，4個(gè)8GB的HBM2-2000內(nèi)存，它使用x16 PCIe 4接口，TDP為150~250W。

每個(gè)張量處理單元都有一個(gè)微控制器，用于指導(dǎo)是數(shù)學(xué)協(xié)處理器的運(yùn)算，還可以通過(guò)定制的微控制器指令進(jìn)行擴(kuò)展。

NNP-T支持3大主流機(jī)器學(xué)習(xí)框架：TensorFlow、PyTorch、PaddlePaddle，還支持C++ 深度學(xué)習(xí)軟件庫(kù)、編譯器nGraph。

在算力方面，英特爾表示，這款芯片最高可以達(dá)到每秒119萬(wàn)億次操作（119TOPS），但是英特爾并未透露是在INT8還是INT4上的算力。作為對(duì)比，英偉達(dá)Tesla T4在INT8上算力為130TOPS，在INT4上為260TOPS。

另一款是用于AI推理的芯片NNP-I，代號(hào)Spring Hill，它采用英特爾自己的10nm工藝，基于Ice Lake處理器。

對(duì)于這款芯片，英特爾主打的是其能效比，在數(shù)據(jù)中心推理工作負(fù)載中，它的效率達(dá)4.8TOPs/W，功率范圍可以在10W到50W之間。

NNP-I接口為PCIe 4 x4/x8，如果說(shuō)NNP-T從外觀(guān)上來(lái)看像顯卡，那么NNP-I則像是一塊SSD。NNP-I的特點(diǎn)是集成了12個(gè)推理計(jì)算引擎（ICE）。

ICE由深度學(xué)習(xí)計(jì)算網(wǎng)格、可編程矢量處理器、高帶寬內(nèi)存接口、超大本地緩存幾個(gè)部分組成，支持FP16、INT8、INT 4/2/1。

在ResNet50上，NNP-I在10W的功率水平上每秒可以完成3600次推理，每瓦每秒可以處理360張圖片。

針對(duì)主要數(shù)據(jù)中心推理工作負(fù)載，NNP-I能做到在很寬的功率范圍內(nèi)具有可擴(kuò)展的性能、不影響能效比的高度可編程性，從而在單位功率上實(shí)現(xiàn)最佳性能。

NNP-I支持的深度學(xué)習(xí)軟件有：ONNX，nGraph，OpenVINO，C++。

NNP-T、NNP-I這兩款芯片都是用于數(shù)據(jù)中心。

英特爾副總裁、AI事業(yè)部負(fù)責(zé)人Naveen Rao表示：

“數(shù)據(jù)中心和云計(jì)算需要訪(fǎng)問(wèn)高性能和可擴(kuò)展的通用計(jì)算，以及復(fù)雜AI應(yīng)用程序的專(zhuān)用加速。在未來(lái)的AI愿景中，需要采用從硬件到軟件再到應(yīng)用程序的整體方法。”

英特爾NNP的發(fā)布，意味著企業(yè)在谷歌、英偉達(dá)的硬件之外又有了新的選項(xiàng)，AI硬件行業(yè)的競(jìng)爭(zhēng)越來(lái)越激烈。

從英特爾的官方數(shù)據(jù)來(lái)看，NNP-I在推理上的速度已經(jīng)超過(guò)英偉達(dá)Tesla P4的水平，雖然和V100仍有差距，但是已經(jīng)縮小到50%以?xún)?nèi)，而不再是數(shù)量級(jí)上的差距。

不僅為了在硬件上取得突破，英特爾收購(gòu)Nervana還有軟件上的考量，Nervana這家公司有深度學(xué)習(xí)模型的Python軟件Neon，還有一個(gè)全棧的AI云端平臺(tái)Nervana Cloud。

多年積累

英特爾早已將AI芯片業(yè)務(wù)看作未來(lái)發(fā)展的大方向。

2018年，英特爾的AI芯片部門(mén)收入達(dá)10億美元，英特爾預(yù)計(jì)這一市場(chǎng)還會(huì)以每年30%的速度增長(zhǎng)，從2017年的25億美元，到2022年增長(zhǎng)至100億美元。

而在AI芯片領(lǐng)域的排兵布陣，開(kāi)始得更早。

為了在與英偉達(dá)、高通和AMD等公司的競(jìng)爭(zhēng)中立于不敗之地，英特爾這家半導(dǎo)體領(lǐng)域的巨頭不僅每年投入上百億美元的研發(fā)資金，還實(shí)施了不少頗具戰(zhàn)略?xún)r(jià)值的收購(gòu)計(jì)劃。

2015年，英特爾收購(gòu)了現(xiàn)場(chǎng)可編程門(mén)陣列（FPGA）制造商Altera，之后推出了基于FPGA的專(zhuān)用深度學(xué)習(xí)加速卡。

2016年，并購(gòu)深度學(xué)習(xí)芯片公司Nervana Systems，填補(bǔ)其在硬件平臺(tái)產(chǎn)品的空白，并為全新一代AI加速器芯片組奠定了基礎(chǔ)。同時(shí)，Nervana的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Naveen Rao也加入了英特爾，成為英特爾AI戰(zhàn)略的總策劃師。

同年，英特爾還收購(gòu)了Movidius，這家公司專(zhuān)門(mén)為計(jì)算機(jī)視覺(jué)設(shè)計(jì)低功耗處理器芯片。

2018年，英特爾又將開(kāi)發(fā)AI模型套件的創(chuàng)業(yè)公司Vertex.ai收入囊中。

研發(fā)并購(gòu)雙頭并進(jìn)，于是早在2017年，英特爾就宣布其正在研發(fā)兩款A(yù)I芯片，并在2018年1月的國(guó)際消費(fèi)電子展（CES）新聞發(fā)布會(huì)上進(jìn)一步詳細(xì)介紹了Nervana神經(jīng)網(wǎng)絡(luò)處理器（NNP-I）。

而在去年的英特爾人工智能開(kāi)發(fā)者大會(huì)（AI DevCon 2018）上，英特爾首次演示了開(kāi)發(fā)中的第一個(gè)商用神經(jīng)網(wǎng)絡(luò)處理器（NNP）產(chǎn)品Spring Crest，與初代NNP芯片Lake Crest相比，這款產(chǎn)品的訓(xùn)練性能提升了3-4倍。

英特爾副總裁、AI事業(yè)部負(fù)責(zé)人Naveen Rao表示：

有超過(guò)50%的美國(guó)企業(yè)正在轉(zhuǎn)向基于英特爾至強(qiáng)處理器的云解決方案，以滿(mǎn)足他們?cè)谌斯ぶ悄芊矫娴男枨?，這肯定了包括英特爾至強(qiáng)處理器，英特爾Nervana和英特爾Movidius技術(shù)以及英特爾FPGA的方法，滿(mǎn)足了人工智能工作負(fù)載的獨(dú)特需求。

不久之前的百度AI開(kāi)發(fā)者大會(huì)上，Naveen Rao也親臨現(xiàn)場(chǎng)，宣布與百度攜手打造用于訓(xùn)練AI的神經(jīng)網(wǎng)絡(luò)處理器。

又遭“擠牙膏”評(píng)價(jià)

消息一公布，英特爾就在推特上收獲了數(shù)百贊。

面對(duì)英特爾在AI芯片領(lǐng)域的雄心，有網(wǎng)友用表情包說(shuō)明一切：

但也有網(wǎng)友并不買(mǎi)賬：

只有英特爾能分分鐘搞出一個(gè)過(guò)時(shí)的芯片。

因?yàn)镹NP-T使用的是臺(tái)積電的16nm工藝，而英偉達(dá)V100早已用上了12nm工藝，還沒(méi)上市開(kāi)賣(mài)就已經(jīng)落后，芯片核心面積上，V100也比NNP-T大20%左右。

我只想問(wèn)7nm CPU呢？

看來(lái)背上了“牙膏廠(chǎng)”名聲的英特爾，想要挽回大眾的信心，并沒(méi)有那么容易。

— 完 —