光子計(jì)算加快AI運(yùn)算速度,Nature連登兩篇論文
隨著人工智能的爆炸式增長(zhǎng),其對(duì)算力的要求也越來越高。
Nature最新一期,就連登了兩篇光學(xué)加速AI計(jì)算的論文,里面介紹了兩個(gè)AI計(jì)算加速器:分別是11TOPS的光子卷積加速器和張量核光子加速器,兩者都可以達(dá)到每秒數(shù)萬億次的計(jì)算速度。
隨著人工智能的爆炸式增長(zhǎng),其對(duì)算力的要求也越來越高。
Nature最新一期,就連登了兩篇光學(xué)加速AI計(jì)算的論文,里面介紹了兩個(gè)AI計(jì)算加速器:分別是11TOPS的光子卷積加速器和張量核光子加速器,兩者都可以達(dá)到每秒數(shù)萬億次的計(jì)算速度。
光子處理器利用光的特性,可以加速人工智能計(jì)算處理過程,同時(shí),還會(huì)引領(lǐng)光子計(jì)算的復(fù)興。
為何光子計(jì)算能加速AI?
由于光譜覆蓋的波長(zhǎng)范圍很廣,不同波長(zhǎng)的光子可以進(jìn)行多路傳輸或者平行傳輸,光信號(hào)之間而相互干擾,還能夠進(jìn)行調(diào)整,改變傳輸方式,攜帶更多的信息。
所以在過去幾十年中,光纖通信取得了巨大成功。
但是,光子計(jì)算跟SOTA水平的電子計(jì)算處理器相比,還是有著很多不足,比如缺乏合適的并行計(jì)算機(jī)制、人工神經(jīng)元的高速非線性響應(yīng)的材料和可擴(kuò)展的光子設(shè)備,這些都難以讓光子計(jì)算快速準(zhǔn)確地集成到計(jì)算硬件中。
幸運(yùn)的是,光梳的發(fā)展為集成光子處理器帶來了新的機(jī)遇。所謂的光梳是一組發(fā)射光譜的光源,它們由數(shù)千或數(shù)百萬條在頻率上均勻緊密排列的尖銳光譜線組成。
光梳在光譜學(xué)、光時(shí)鐘計(jì)量學(xué)和遠(yuǎn)程通信等領(lǐng)域取得了巨大成功,因此獲得了2005年諾貝爾物理學(xué)獎(jiǎng)。
光梳還能集成到計(jì)算機(jī)芯片中,用作光計(jì)算的節(jié)能能源,給光子計(jì)算的增速帶來了曙光。
在光梳的基礎(chǔ)上,他們創(chuàng)造出了這兩個(gè)AI加速器。
11TOPS的光子卷積加速器
11TOPS的光子卷積加速器是研究人員利用了光梳制造的一種多功能的光學(xué)矢量加速器。
研究者采用了巧妙的方法進(jìn)行卷積運(yùn)算,他們先利用色散為波長(zhǎng)多路復(fù)用光信號(hào)產(chǎn)生不同的時(shí)間延遲,然后將這些信號(hào)沿著與光波波長(zhǎng)相關(guān)的維度進(jìn)行組合。
通過充分利用光子波長(zhǎng)的廣泛范圍,研究者實(shí)現(xiàn)了不同卷積運(yùn)算的并行計(jì)算,使用單個(gè)處理核心的光計(jì)算速度,只受數(shù)據(jù)吞吐量的限制,速度能達(dá)到10萬億次每秒。
運(yùn)用這個(gè)加速器,每秒可以對(duì)25萬像素進(jìn)行卷積運(yùn)算,足以進(jìn)行人臉識(shí)別。
他們還使用這個(gè)加速器形成一個(gè)有10個(gè)輸出神經(jīng)元的光學(xué)卷積神經(jīng)網(wǎng)絡(luò),成功地識(shí)別出不同的數(shù)字圖像,準(zhǔn)確率高達(dá)88% 。
這種方法還可以訓(xùn)練更復(fù)雜的模型,比如無人車、視頻實(shí)時(shí)識(shí)別等。
張量核光子加速器
另外一個(gè)研究團(tuán)隊(duì),展示了一個(gè)張量核光子加速器,每秒能夠進(jìn)行數(shù)萬億次的MAC運(yùn)算。
它是一個(gè)特殊計(jì)算集成的光子硬件加速器,利用相變材料存儲(chǔ)器陣列和基于光子芯片的光梳實(shí)現(xiàn)了光子存儲(chǔ)的并行計(jì)算,還通過多種波長(zhǎng)和相變材料的集成單元陣列進(jìn)行模擬矩陣矢量乘法,使輸入數(shù)據(jù)完全并行化。
高度并行化的計(jì)算框架,可以同時(shí)高效處理整個(gè)圖像。將來,這個(gè)方法可以廣泛用于商業(yè)制造程序和機(jī)器學(xué)習(xí)。
由于卷積過程涉及無源傳輸,光子處理核心的計(jì)算可以低功耗下進(jìn)行,這對(duì)于像云計(jì)算這種能源密集型應(yīng)用程序來說意義重大。
研究結(jié)果表明,集成式并行光子計(jì)算在自動(dòng)駕駛、實(shí)時(shí)視頻處理和下一代云計(jì)算服務(wù)等數(shù)據(jù)量大的人工智能應(yīng)用中,可以發(fā)揮重要作用。
問題與挑戰(zhàn)
雖然上述兩者在光子計(jì)算的AI領(lǐng)域,取得了突破,證明了光子計(jì)算在AI領(lǐng)域的巨大潛能。
但是全光子計(jì)算的規(guī)模仍舊比較小。這因?yàn)橛?jì)算效率受到光學(xué)元件的限制,電信號(hào)和光信號(hào)之間還要進(jìn)行不斷轉(zhuǎn)換,所以還需要材料學(xué)、光子學(xué)、電子學(xué)不同領(lǐng)域的科學(xué)家協(xié)同研究工作。
還有一個(gè)發(fā)展方向就是開發(fā)非線性集成的光學(xué)計(jì)算結(jié)構(gòu),即通過集成電子電路和成百上千個(gè)光子處理器,開發(fā)出光子處理器和電子處理器的混合光電框架。
這個(gè)框架可能會(huì)給AI硬件領(lǐng)域帶來歷史性的變革。
*參考鏈接:*
*https://www.nature.com/articles/d41586-020-03572-y*
*https://www.nature.com/articles/s41586-020-03063-0*
*https://www.nature.com/articles/s41586-020-03070-1*