2021世界人工智能大會舉行，專家熱議圖神經(jīng)網(wǎng)絡(luò)與認(rèn)知智能

量子位的朋友們 2021-07-13 11:10:24 來源：量子位

7月8日，為期三天的2021世界人工智能大會（WAIC）在上海世博展館拉開序幕。今年WAIC以“智聯(lián)世界 眾智成城”為主題，旨在通過匯聚世界人工智能發(fā)展的最新成果和觀點(diǎn)，為全球人工智能協(xié)同共治描繪新藍(lán)圖，為我國人工智能健康發(fā)展注入新活力。大會匯聚頂級科學(xué)家、企業(yè)家、政府官員、專家學(xué)者、國際組織、投資人、初創(chuàng)團(tuán)隊(duì)等，促進(jìn)全球人工智能創(chuàng)新思想、技術(shù)、應(yīng)用、人才和資本的集聚和交流，助力打造人工智能世界級產(chǎn)業(yè)集群。

7月10日，大會圓滿落幕之際，重要分論壇之一“圖神經(jīng)網(wǎng)絡(luò)與認(rèn)知智能前沿技術(shù)論壇”壓軸舉行，本論壇由世界人工智能大會組委會辦公室指導(dǎo)，AI TIME和東浩蘭生集團(tuán)有限公司主辦，北京智譜華章科技有限公司承辦，中軟國際教育科技集團(tuán)協(xié)辦。

圖神經(jīng)網(wǎng)絡(luò)與認(rèn)知智能前沿技術(shù)論壇現(xiàn)場

2020年，清華大學(xué)人工智能研究院院長張鈸院士首次全面闡述第三代人工智能的理念，提出第三代人工智能的發(fā)展路徑是融合第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動的人工智能，基于知識圖譜的推理體現(xiàn)了第三代人工智能的特點(diǎn)。為順應(yīng)“第三代人工智能”趨勢，未來AI將在推理、規(guī)劃、邏輯表示等方面深入探索，增強(qiáng)AI的可解釋性、魯棒性，發(fā)現(xiàn)AI系統(tǒng)因果關(guān)系。而圖神經(jīng)網(wǎng)絡(luò)的研究趨勢恰恰是面向推理和認(rèn)知，因此圖神經(jīng)網(wǎng)絡(luò)被認(rèn)為是推動認(rèn)知智能發(fā)展強(qiáng)有力的推理方法，有望解決深度學(xué)習(xí)無法處理的關(guān)系推理、可解釋性等一系列問題，讓機(jī)器“能理解、會思考”。

為理清圖神經(jīng)網(wǎng)絡(luò)和認(rèn)知智能的發(fā)展和應(yīng)用，本次論壇采用獨(dú)特的 “AI TIME論道”形式，邀請了國內(nèi)此領(lǐng)域知名的學(xué)者與產(chǎn)業(yè)界專家，就“圖神經(jīng)網(wǎng)絡(luò)”、“大規(guī)模預(yù)訓(xùn)練模型”、“認(rèn)知智能”等前沿方向展示最新的研究成果，并共同探討理論、技術(shù)、產(chǎn)業(yè)落地以及未來展望等。

據(jù)了解， AI TIME由清華大學(xué)人工智能研究院院長張鈸院士，清華大學(xué)計(jì)算機(jī)系唐杰教授、李涓子教授等人于2019年聯(lián)合發(fā)起，用辯論的形式，聚集熱愛AI的人士探討人工智能和人類未來之間的矛盾，探索人工智能領(lǐng)域的未來。

清華大學(xué)計(jì)算機(jī)系教授李涓子

論壇現(xiàn)場，清華大學(xué)計(jì)算機(jī)系教授李涓子圍繞“知識圖譜與認(rèn)知推理”做了主題報(bào)告。李涓子指出，未來搜索或者推薦系統(tǒng)的終極目標(biāo)是得到問題的準(zhǔn)確答案。目前簡單問答在一些數(shù)據(jù)集上已經(jīng)達(dá)到了人類水平，但是復(fù)雜問答能力還相差很遠(yuǎn)。為此，李涓子團(tuán)隊(duì)提出了可解釋認(rèn)知推理的框架。

“知識驅(qū)動和數(shù)據(jù)驅(qū)動相結(jié)合是機(jī)器智能非常重要的理論研究，我們提出了基于圖的可解釋認(rèn)知推理的框架，框架將提問對象表示為圖結(jié)構(gòu)，將復(fù)雜問題解析為由基本函數(shù)組合而成的程序的推理過程，在圖結(jié)構(gòu)上使用注意力機(jī)制進(jìn)行模塊推理，使得每個模塊的輸出可以被人類所理解。未來希望進(jìn)一步構(gòu)建可擴(kuò)展的通用推理函數(shù)庫，并研究多模態(tài)認(rèn)知推理和具有增量學(xué)習(xí)能力的推理?！崩钿缸颖硎?。

清華大學(xué)計(jì)算機(jī)系副教授許斌

清華大學(xué)計(jì)算機(jī)系副教授許斌介紹了“面向大規(guī)模知識圖譜的預(yù)訓(xùn)練模型”，他表示：“我們希望通過異構(gòu)識別網(wǎng)絡(luò)的預(yù)訓(xùn)練模型和預(yù)訓(xùn)練模型支撐的大規(guī)模知識圖譜鏈接支撐AI，賦能學(xué)術(shù)與科技情報(bào)服務(wù)。通過知識圖譜構(gòu)建和神經(jīng)網(wǎng)絡(luò)構(gòu)建基礎(chǔ)，我們在學(xué)術(shù)領(lǐng)域構(gòu)建了垂直應(yīng)用AMiner，即基于知識驅(qū)動的技術(shù)服務(wù)體系，可以提供的智能服務(wù)包括科技趨勢分析、專家發(fā)現(xiàn)、學(xué)術(shù)推薦等，能夠通過AI技術(shù)幫助研究人員去理解科學(xué)的本質(zhì)。我們最終目的是希望把知識圖譜和預(yù)訓(xùn)練模型很好地結(jié)合起來，使得機(jī)器像人一樣思考并且廣泛服務(wù)于人類的方方面面?！?/p>

阿里巴巴資深算法專家楊紅霞

接下來，阿里巴巴資深算法專家楊紅霞介紹了“超大規(guī)模多模態(tài)預(yù)訓(xùn)練模型M6”。超大規(guī)模多模態(tài)預(yù)訓(xùn)練模型M6文到圖的技術(shù)生成能力，可以給文字創(chuàng)造圖片，讓人眼前一亮，這是之前深度學(xué)習(xí)模型沒辦法做到的事情，因此，人工智能被認(rèn)為具有了一定的創(chuàng)造能力。楊紅霞說道：“我本人在業(yè)界，對M6真正大規(guī)模落地和應(yīng)用非常關(guān)注，我們主要關(guān)注三個核心點(diǎn)：如何依靠有限的GPU資源，低碳地運(yùn)行人工智能模型；如何滿足落地商業(yè)化應(yīng)用對圖片清晰度的高要求；再就是如何實(shí)現(xiàn)商業(yè)化首次大規(guī)模落地。如今，預(yù)訓(xùn)練是‘大力出奇跡’，我們也在做探索，把每個專家分到K個組，每個組是TOP-1機(jī)制，最終是K TOP-1稀疏激活策略，結(jié)果非常不錯，提速非?？?，谷歌把算子的精度壓到了BF16，我們直接壓到了半精度。M6能夠應(yīng)用在服飾新制造、長尾詞搜索、推薦新品的高效孵化等領(lǐng)域。”

浙江大學(xué)副教授楊洋

最后，浙江大學(xué)副教授楊洋圍繞“圖神經(jīng)網(wǎng)絡(luò)的魯棒性學(xué)習(xí)”進(jìn)行了分享。圖數(shù)據(jù)是非常常見的數(shù)據(jù)結(jié)構(gòu)，比如人和人之間的關(guān)系構(gòu)成社交網(wǎng)絡(luò)。楊洋以圖風(fēng)控為例做了介紹：“我們在應(yīng)用模型的時候發(fā)現(xiàn)數(shù)據(jù)層面有一些比構(gòu)建模型更具挑戰(zhàn)的工作，比如我們發(fā)現(xiàn)真實(shí)的網(wǎng)絡(luò)數(shù)據(jù)往往帶有大量的噪音。為了解決這個問題，我們提出基于強(qiáng)化學(xué)習(xí)的框架，在金融領(lǐng)域、電信領(lǐng)域包括社交網(wǎng)絡(luò)都做了一些測試，在不同的降噪比下，降噪以后在節(jié)點(diǎn)分類上提升了將近30%?！?/p>

“AI TIME論道”環(huán)節(jié)

隨后，由AI TIME負(fù)責(zé)人何蕓主持，幾位演講嘉賓與復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院教授黃萱菁、清華大學(xué)電子工程系助理研究員戴國浩，共同圍繞“圖神經(jīng)網(wǎng)絡(luò)是否是實(shí)現(xiàn)認(rèn)知智能的關(guān)鍵？”這一議題進(jìn)行了一場精彩的“AI TIME論道”。

參與嘉賓從各自的角度出發(fā)，各抒己見地探討了圖神經(jīng)網(wǎng)絡(luò)的發(fā)展現(xiàn)狀、面臨問題、產(chǎn)業(yè)落地和未來藍(lán)圖，現(xiàn)場觀眾就自己感興趣的議題踴躍提問，氛圍活躍。最終，大家一致認(rèn)為，在認(rèn)知智能領(lǐng)域，圖神經(jīng)網(wǎng)絡(luò)是非常強(qiáng)大的工具，隨著時間的發(fā)展，圖神經(jīng)網(wǎng)絡(luò)將在更多的交叉領(lǐng)域取得突破，最終推動人工智能發(fā)展。