清華類腦計(jì)算成果再登Nature：張悠慧施路平團(tuán)隊(duì)出品，有望打破馮諾依曼瓶頸

賈浩楠 2020-10-15 13:04:46 來(lái)源：量子位

賈浩楠 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

清華類腦計(jì)算研究成果，再登Nature。

新研究的關(guān)鍵詞是：類腦計(jì)算、新計(jì)算機(jī)系統(tǒng)框架、通用人工智能（AGI）。

它的重要性，在于有希望打破如今馮·諾依曼型計(jì)算機(jī)，對(duì)人工智能的普遍限制，完全發(fā)揮類腦算法的潛力，使AGI更具可行性。

研究了些什么？

這并不是清華大學(xué)類腦計(jì)算中心的相關(guān)研究成果，第一次登上Nature。

去年8月，清華類腦計(jì)算中心施路平團(tuán)隊(duì)自行研發(fā)的類腦芯片“天機(jī)”，登上了Nature封面。

以這片類腦芯片為基礎(chǔ)，研究團(tuán)隊(duì)實(shí)現(xiàn)了高度靈敏，并且能聽(tīng)懂自然語(yǔ)言指令的自行車。

而最新發(fā)表的研究，則是為了解決類腦計(jì)算系統(tǒng)的“基礎(chǔ)設(shè)施架構(gòu)”問(wèn)題。

在名為A system hierarchy for brain-inspired computing的論文中，施路平教授團(tuán)隊(duì)提出了一種全新的、突破性的類腦計(jì)算通用系統(tǒng)層次結(jié)構(gòu)。

這項(xiàng)研究中提出的神經(jīng)形態(tài)完備性概念，這是一種更具適應(yīng)性、更廣泛的類腦計(jì)算完備性的定義，它降低了系統(tǒng)對(duì)神經(jīng)形態(tài)硬件的完備性要求，提高了不同硬件和軟件設(shè)計(jì)之間的兼容性。

這意味著這種專門為類腦計(jì)算任務(wù)設(shè)計(jì)的計(jì)算機(jī)結(jié)構(gòu)，具備了和我們熟知的馮·諾依曼結(jié)構(gòu)計(jì)算機(jī)相同的能力。

即避免系統(tǒng)中軟件和硬件之間的緊密關(guān)聯(lián)，實(shí)現(xiàn)了高效、兼容和獨(dú)立的進(jìn)程。不同的編程語(yǔ)言可通過(guò)編譯器處理變?yōu)榭晒C(jī)器執(zhí)行的指令。

這一點(diǎn)是十分重要關(guān)鍵的，因?yàn)橐酝?，在馮·諾依曼結(jié)構(gòu)計(jì)算機(jī)上，類腦計(jì)算缺乏合適的系統(tǒng)層次結(jié)構(gòu)來(lái)支持整體開(kāi)發(fā)，神經(jīng)形態(tài)軟件和硬件之間沒(méi)有合適的接口。

一個(gè)特定的算法或類腦芯片，需要借助一系列特定的軟件工具才能運(yùn)行，

這種方法的弊端在于，類腦計(jì)算系統(tǒng)（包括應(yīng)用程序模型、系統(tǒng)軟件和神經(jīng)形態(tài)設(shè)備）的各個(gè)層被緊密綁定在了一起，影響了軟件和硬件之間的兼容性，降低了類腦計(jì)算系統(tǒng)的編程靈活性和開(kāi)發(fā)效率。

解決這個(gè)問(wèn)題的關(guān)鍵，是“神經(jīng)形態(tài)完備性”。

神經(jīng)形態(tài)完備的三層結(jié)構(gòu)

這項(xiàng)研究中提出了神經(jīng)形態(tài)完備性的概念。

這是一種類腦計(jì)算完備性的定義，與通用的圖靈完備性類似，定義通用機(jī)器和語(yǔ)言的要求。

定義提出，如果一個(gè)類腦系統(tǒng)能夠以規(guī)定的準(zhǔn)確度執(zhí)行一組給定的基本操作，那么它就是神經(jīng)形態(tài)完備的。

這與圖靈完備性有所不同。

在圖靈完備性中，只有當(dāng)一個(gè)系統(tǒng)為一組給定的基本運(yùn)算提供了一個(gè)精確且等價(jià)的結(jié)果時(shí)，才可以將其定義為完備。

而在所提出的神經(jīng)形態(tài)完備框架中的基本運(yùn)算，包括兩個(gè)已知的加權(quán)和運(yùn)算，以及元素-整流線性運(yùn)算，這使得硬件系統(tǒng)能夠同時(shí)支持脈沖和非脈沖人工神經(jīng)網(wǎng)絡(luò)。

新定義降低了系統(tǒng)對(duì)神經(jīng)形態(tài)硬件的完備性要求，使得不同硬件和軟件設(shè)計(jì)之間的兼容性更易實(shí)現(xiàn)。

新的層次結(jié)構(gòu)的一個(gè)重要特點(diǎn)是，提出了完整的連續(xù)性，根據(jù)類腦系統(tǒng)能夠執(zhí)行基本操作的精度，接受不同級(jí)別的算法性能。

完整的連續(xù)性還允許算法的不同實(shí)現(xiàn)路徑在同一硬件上運(yùn)行。例如，探索如何權(quán)衡算法精度與芯片尺寸，以降低功耗。

為滿足神經(jīng)形態(tài)完備性，團(tuán)隊(duì)提出一種全新的系統(tǒng)層次結(jié)構(gòu)，這一結(jié)構(gòu)包括軟件、硬件和編譯三個(gè)層次：

其中，軟件層指的是編程語(yǔ)言或框架以及建立在它們之上的算法或模型。在這個(gè)層次上，團(tuán)隊(duì)提出了一種統(tǒng)一的、通用的軟件抽象模式——POG 圖（programming operator graph）——以適應(yīng)各種類腦算法和模型設(shè)計(jì)。

POG 由統(tǒng)一的描述方法和事件驅(qū)動(dòng)的并行程序執(zhí)行模型組成，該模型集成了存儲(chǔ)和處理，描述了什么是類腦程序，并定義了如何執(zhí)行。由于 POG 是圖靈完備的，它最大程度地支持各種應(yīng)用程序、編程語(yǔ)言和框架。

硬件方面，則包括所有類腦芯片和架構(gòu)模型。團(tuán)隊(duì)設(shè)計(jì)了抽象神經(jīng)形態(tài)體系結(jié)構(gòu)（ANA）作為硬件抽象，包括一個(gè) EPG 圖（execution primitive graph），作為上層的接口來(lái)描述它可以執(zhí)行的程序。

EPG 具有控制、流、數(shù)據(jù)流的混合表示，滿足它對(duì)不同硬件的適應(yīng)性。

編譯層，是將程序轉(zhuǎn)換為硬件支持的等效形式的中間層。為實(shí)現(xiàn)可行性，研究人員提出了一套被主流類腦芯片廣泛支持的基本硬件執(zhí)行原語(yǔ)（hardware execution primitives）。

類腦計(jì)算領(lǐng)域的重要一步

近年來(lái)，隨著摩爾定律逐漸失效，馮·諾依曼結(jié)構(gòu)帶來(lái)的局限日益明顯，存儲(chǔ)墻、功耗墻、智能提升等問(wèn)題，讓當(dāng)前計(jì)算機(jī)發(fā)展面臨重大挑戰(zhàn)。

從人類大腦中汲取靈感的類腦計(jì)算或神經(jīng)形態(tài)計(jì)算，是一種有潛力打破馮·諾伊曼瓶頸并推動(dòng)下一波計(jì)算機(jī)工程的計(jì)算模型和架構(gòu)。

而Nature給這項(xiàng)研究的評(píng)語(yǔ)是“a welcome step”。

比較實(shí)現(xiàn)相同算法的等效版本的不同硬件平臺(tái)，以及在同一硬件上實(shí)現(xiàn)的不同算法的比較。

這些都是類腦結(jié)構(gòu)的有效基準(zhǔn)測(cè)試的關(guān)鍵。

新結(jié)構(gòu)的另一個(gè)優(yōu)勢(shì)是它可以將類腦算法和相應(yīng)的硬件開(kāi)發(fā)分流。

類腦算法在不斷實(shí)現(xiàn)強(qiáng)大功能的同時(shí)，算法的規(guī)模和復(fù)雜性將需要隨著時(shí)間的推移而增加。因此這種分流將有助于研究人員專注于特定方向，避免復(fù)雜的端到端解決方案。

這項(xiàng)研究是類腦計(jì)算領(lǐng)域的重要一步。

盡管現(xiàn)在，人類大腦本身是否符合“神經(jīng)形態(tài)完備”還有待觀察，但這項(xiàng)研究仍然讓類腦計(jì)算實(shí)用化，以及可能在此基礎(chǔ)上發(fā)展的通用人工智能離我們更近了。

進(jìn)擊的清華類腦計(jì)算中心

清華大學(xué)類腦計(jì)算中心，由施路平教授2013年3月全職入職清華大學(xué)后組建，從基礎(chǔ)理論、類腦計(jì)算系統(tǒng)芯片和軟件系統(tǒng)全方位進(jìn)行類腦計(jì)算研究。

去年 8 月，施路平團(tuán)隊(duì)的“天機(jī)芯”登上《自然》雜志封面 加鏈接，這是世界上首款異構(gòu)融合類腦芯片，并通過(guò)自動(dòng)駕駛自行車成功驗(yàn)證了通用智能的可行性。

團(tuán)隊(duì)很早就著手類腦計(jì)算的商業(yè)落地，2018年，北京靈汐科技作為清華大學(xué)類腦計(jì)算中心科技成果轉(zhuǎn)化項(xiàng)目正式成立，施路平教授是聯(lián)合創(chuàng)始人。

參考鏈接
https://www.nature.com/articles/d41586-020-02829-w

論文地址
https://www.nature.com/articles/s41586-020-2782-y