ResNet作者張祥雨，投身AI大模型

西風(fēng) 2024-08-05 13:42:40 來源：量子位

衡宇 西風(fēng) 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

大模型的人才黑洞效應(yīng)，還在持續(xù)。

量子位獲悉，最新出現(xiàn)在大模型大牛轉(zhuǎn)會名單上的重磅大牛，是90后AI大牛張祥雨，ResNet四位作者之一，孫劍首位深度學(xué)習(xí)博士生，未來科學(xué)大獎得主。

現(xiàn)在，他出現(xiàn)在了國產(chǎn)大模型獨角獸階躍星辰的引援傳聞中。

而且六小強之一的階躍星辰，據(jù)說最近還不止這一位AI大牛。

不過截至發(fā)稿，階躍星辰暫未作出明確回應(yīng)。

張祥雨，ResNet四位作者之一

△圖源：未來科技大獎官網(wǎng)

2008年，張祥雨考入西安交通大學(xué)；一年后申請轉(zhuǎn)專業(yè)進(jìn)入軟件工程專業(yè)學(xué)習(xí)。

2011年，張祥雨獲美國大學(xué)生數(shù)學(xué)建模競賽（MCM）特等獎提名獎（Finalist），創(chuàng)下當(dāng)時西安交通大學(xué)參加該競賽以來歷史最好成績。

2012年，張祥雨獲西安交通大學(xué)軟件學(xué)院軟件工程專業(yè)學(xué)士學(xué)位。

之后張祥雨又入選了西安交通大學(xué)與微軟亞洲研究院博士生聯(lián)合培養(yǎng)項目，師從孫劍和何愷明。2017年，獲得博士學(xué)位。

正是在微軟亞洲研究院期間，何愷明、孫劍、任少卿和張祥雨四人共同完成了著名的ResNet，張祥雨負(fù)責(zé)底層框架和編碼。

ResNet即殘差學(xué)習(xí)，本身雖為計算機視覺領(lǐng)域研究，但其核心思想殘差連接已經(jīng)跨界成為現(xiàn)代深度學(xué)習(xí)模型的基本組件。

開啟上一次AI熱潮的AlphaGo Zero就是結(jié)合了ResNet+強化學(xué)習(xí)+蒙特卡洛搜索共同完成。

而開啟最新AI熱潮的ChatGPT，其中的“T”也就是Transformer網(wǎng)絡(luò)中同樣使用了殘差連接。

ResNet原始論文在2016就獲得了CVPR最佳論文獎。

去年，何愷明、孫劍、任少卿和張祥雨四人又憑借這項研究獲得了2023未來科學(xué)大獎“數(shù)學(xué)與計算機科學(xué)獎”，由此可見其深遠(yuǎn)影響。

目前這篇論文Google Scholar的被引用次數(shù)已超23萬，是本世紀(jì)最火的深度學(xué)習(xí)論文之一：

2016年7月，孫劍加入曠視，任首席科學(xué)家和曠視研究院負(fù)責(zé)人。張祥雨在博士畢業(yè)后也緊隨導(dǎo)師進(jìn)入了曠視。

張祥雨研究方向包括高性能卷積網(wǎng)絡(luò)設(shè)計、AutoML與自動化神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索、深度模型的裁剪與加速。

2017、18年，張祥雨完成了另一代表作——移動端高效卷積神經(jīng)網(wǎng)絡(luò)ShuffleNet兩部曲。

現(xiàn)月之暗面聯(lián)合創(chuàng)始人、算法團(tuán)隊負(fù)責(zé)人周昕宇，也是共同一作。

ShuffleNet后來影響了包括蘋果3D人臉解鎖在內(nèi)的各種手機毫秒級人臉解鎖技術(shù)。

2020年，張祥雨入選“AI 2000計算機視覺全球最具影響力學(xué)者”榜單第4位。

除此之外，張祥雨還有諸多研究，Google Scholar數(shù)據(jù)顯示，目前其論文引用量達(dá)到320510次，h-index為59。

還有2位萬引大牛加盟

2024年，AI牛人的流動沒有減少，但他們的選擇不全是下場創(chuàng)業(yè)。

行業(yè)中人往往對AI技術(shù)有很強烈的親身感受。他們中還有許多像張祥雨這樣，選擇前往既有公司，到新潮流一線激情沖浪的人。

而階躍星辰，就在悄然之間招攬了不少這種選擇的牛人。

量子位獲悉，騰訊俞剛和MSRA段楠，也已經(jīng)加入階躍星辰的隊伍。

俞剛，現(xiàn)任階躍星辰主任研究員。

在此之前，他在騰訊擔(dān)任研究總監(jiān)；再之前，他是曠視Detection組長。

俞剛2007年本科畢業(yè)于山東大學(xué)，2010年在上海交通大學(xué)獲得計算機碩士學(xué)位。

之后前往南洋理工大學(xué)攻讀博士學(xué)位，師從袁浚菘；期間曾在微軟研究院實習(xí)，2014年畢業(yè)后加入曠視工作。

主要負(fù)責(zé)檢測、分割、跟蹤、骨架、動作行為等方面的研究以及算法落地工作。

2017年，俞剛帶隊參加2017 COCO+Places挑戰(zhàn)賽，獲得檢測第一名，人體姿態(tài)估計第一名；2018年再次帶隊參加COCO+Mapillary挑戰(zhàn)賽，獲四項第一。

曠視五年期間，俞剛和曠視首席科學(xué)家、曠視研究院院長孫劍合著過十篇paper。

2019年年底，俞剛在知乎確認(rèn)離職消息，宣布加入騰訊PCG光影研究室，繼續(xù)從事CV相關(guān)算法及技術(shù)研究。

今年，俞剛有2篇論文被ECCV2024接收、2篇論文被CVPR接收；同時，他也擔(dān)任了CVPR的區(qū)域主席。

目前，俞剛的谷歌學(xué)術(shù)被引量為1.9萬。

再來說MSRA段楠——其實今年5月，量子位就跟大家分享過他加入階躍星辰的訊息。

離職前，段楠是MSRA資深首席研究員，自然語言計算團(tuán)隊研究經(jīng)理。

主要從事自然語言處理、多模態(tài)智能、代碼智能、機器推理等研究，多次擔(dān)任NLP/AI學(xué)術(shù)會議程序主席和領(lǐng)域主席。

同時是中國科學(xué)技術(shù)大學(xué)、西安交通大學(xué)兼職博導(dǎo)，天津大學(xué)兼職教授。

段楠從天津大學(xué)博士畢業(yè)后就加入MSRA，當(dāng)今NLP領(lǐng)域成就最高的華人之一、MSRA前副院長周明是他的導(dǎo)師。

他在MSRA工作了17年零9個月。

工作期間，段楠的多項研究成果成功應(yīng)用到微軟AI產(chǎn)品中，包括必應(yīng)搜索、必應(yīng)廣告、微軟新聞、Cortana語音助手和微軟小冰等。

他的研究工作還有微軟NüWA（女媧），由MSRA和北大聯(lián)合打造的多模態(tài)預(yù)訓(xùn)練模型，面世則直取8項SOTA。

據(jù)了解，段楠擔(dān)責(zé)的職務(wù)是NüWA系列模型家族項目擔(dān)任研究組長和導(dǎo)師。

目前，段楠的Google Scholar被引量，也逼近1.9萬。

另有統(tǒng)計結(jié)果顯示，段楠與微軟前全球副總裁、階躍星辰創(chuàng)始人CEO姜大昕，合著過44篇論文。

大模型創(chuàng)業(yè)，AI人才新黑洞

幾個月時間，把張祥雨、俞剛、段楠收入囊中，還有更多的AI人才加入消息秘而不宣。

階躍星辰必然是有兩把刷子在身上的。

究其原因，首先是其頗受認(rèn)可的江湖地位。

階躍星辰已經(jīng)是公認(rèn)的國產(chǎn)大模型創(chuàng)企“六小強”之一：

和月之暗面、Minimax、智譜華章、零一萬物、百川智能一起，深耕基礎(chǔ)模型領(lǐng)域，并因人才、技術(shù)、產(chǎn)品、市場認(rèn)可度綜合評價，估值快速躍遷至10億美金以上。

6月時，階躍星辰在投融資市場中的身價，曝已是20億美元。

再就是出場就很吸引人的人才堡壘。

創(chuàng)始人兼CEO姜大昕，微軟前全球副總裁。

不談其他，單純看他在微軟的最后title，就很能理解為什么許多與MSRA有千絲萬縷聯(lián)系的AI牛人門，前赴后繼奔向階躍星辰懷抱中（一個狗頭）。

2011年，姜大昕開始在微軟亞洲互聯(lián)網(wǎng)工程院（STCA）工作，去年3月升任為微軟副總裁，同時兼任亞洲軟件技術(shù)中心WebXT S+D（網(wǎng)絡(luò)體驗、搜索和分銷）集團(tuán)總經(jīng)理。

然后在事業(yè)新高峰時依然下場創(chuàng)業(yè)，有了今日的階躍星辰。

階躍星辰的數(shù)據(jù)負(fù)責(zé)人焦斌星，就是和姜大昕一起打包自己，從微軟投身AI新浪潮創(chuàng)業(yè)的一份子。

這家公司的系統(tǒng)負(fù)責(zé)人朱亦博，也曾有過MSRA的工作經(jīng)歷。

更重要的是，他是國內(nèi)屈指可數(shù)的、擁有多次單集群萬卡以上的系統(tǒng)建設(shè)與管理實踐經(jīng)驗的從業(yè)者。

以及離不開的壘雪球神器——階躍自研模型和產(chǎn)品。

其模型側(cè)的Step系列通用大模型，以及躍問&冒泡鴨兩款toC產(chǎn)品，陸陸續(xù)續(xù)投入市場，進(jìn)行檢驗，正在獲得更大的認(rèn)可。

以上或許能解釋，為什么階躍星辰成為了我們看到的“AI人才黑洞”。

而階躍星辰對人才的吸引力，正是大模型六小強瘋狂“斂（人）才”的原因的縮影。

人才的流動，還會繼續(xù)。

參考資料：
[1]https://se.xjtu.edu.cn/info/1044/2628.htm
[2]https://www.skicyyu.org/
[3]https://scholar.google.com.sg/citations?user=BJdigYsAAAAJ&hl=en
[4]https://nanduan.github.io/

— 完 —

量子位 QbitAI · 頭條號簽約

關(guān)注我們，第一時間獲知前沿科技動態(tài)