阿里大模型元老楊紅霞去向：入職香港高校！被曝創(chuàng)業(yè)項(xiàng)目也在推進(jìn)

明敏 2024-07-28 13:06:51 來(lái)源：量子位

明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

最新消息，阿里大模型元老楊紅霞入職香港理工大學(xué)，任電子計(jì)算機(jī)系教授。

楊紅霞是AI領(lǐng)域知名科學(xué)家。她曾在IBM T.J.沃森研究中心擔(dān)任研究人員，并在雅虎擔(dān)任首席科學(xué)家。2016年加入阿里巴巴，就職于達(dá)摩院智能計(jì)算實(shí)驗(yàn)室；2023年3月入職字節(jié)跳動(dòng)。

她在達(dá)摩院期間領(lǐng)導(dǎo)了通義千問前身M6大模型的研發(fā)，是M6大模型從百億、千億參數(shù)量進(jìn)化到萬(wàn)億規(guī)模的主要功臣，并領(lǐng)導(dǎo)通義大模型核心技術(shù)“統(tǒng)一學(xué)習(xí)范式OFA-M6”的開發(fā)。

任職字節(jié)期間，她主要負(fù)責(zé)大模型研發(fā)，向字節(jié)AML和豆包大模型Foundation團(tuán)隊(duì)負(fù)責(zé)人項(xiàng)亮匯報(bào)。

今年5月，楊紅霞被曝從字節(jié)跳動(dòng)離職，有傳聞稱她將進(jìn)行大模型領(lǐng)域創(chuàng)業(yè)。

如今，更先一步曝光了她進(jìn)軍學(xué)術(shù)圈的消息。

此前楊紅霞未曾在高校內(nèi)有正式任職，僅擔(dān)任過浙江大學(xué)上海高級(jí)研究院兼職教授。

通義千問奠基人物

楊紅霞本科畢業(yè)于南開大學(xué)統(tǒng)計(jì)學(xué)專業(yè)。博士就讀于杜克大學(xué)。

在頂級(jí)會(huì)議和期刊上發(fā)表論文100余篇，在美國(guó)和中國(guó)擁有50多項(xiàng)專利。

主要研究方向?yàn)樨惾~斯統(tǒng)計(jì)、時(shí)間序列分析、時(shí)空建模、生存分析、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘及其在商業(yè)分析和大數(shù)據(jù)中的應(yīng)用。

博士畢業(yè)后，她最先在IBM T.J.沃森研究中心擔(dān)任研究人員。之后來(lái)到雅虎擔(dān)任計(jì)算廣告首席數(shù)據(jù)科學(xué)家，負(fù)責(zé)開發(fā)廣告投放預(yù)測(cè)相關(guān)算法。

2016年，楊紅霞回國(guó)入職阿里巴巴，就職于達(dá)摩院智能計(jì)算實(shí)驗(yàn)室。

在此期間她最重要的工作是推動(dòng)了M6大模型的研發(fā)和擴(kuò)展。

這一多模態(tài)模型是通義千問的前身，也是構(gòu)建阿里當(dāng)下大模型競(jìng)爭(zhēng)力的關(guān)鍵基礎(chǔ)工作。

M6項(xiàng)目在啟動(dòng)研發(fā)1年時(shí)間左右，快速完成從億級(jí)到十萬(wàn)億級(jí)規(guī)模擴(kuò)展。2020年6月項(xiàng)目啟動(dòng)，2021年5月發(fā)布萬(wàn)億參數(shù)規(guī)模M6并投入使用，2021年10月M6正式成為全球首個(gè)10萬(wàn)億參數(shù)多模態(tài)大模型。

不僅成為當(dāng)時(shí)世界上最大的中文多模態(tài)模型，并且快速追趕上谷歌的發(fā)展腳步，在文生圖、商業(yè)化等領(lǐng)域達(dá)到世界一流水平。而且在綠色低碳方面，相比GPT-3，M6實(shí)現(xiàn)了同等參數(shù)規(guī)模下所需能耗僅為1%。

這項(xiàng)工作由阿里和清華共同開發(fā)，楊紅霞、唐杰共同擔(dān)任通訊作者。

其他主要成員，正是通義千問研發(fā)的核心成員，比如An Yang、Rui Men。

M6的共同一作林俊旸是目前通義千問開源負(fù)責(zé)人。

2022年9月，達(dá)摩院正式發(fā)布“通義”大模型系列，打造業(yè)界首個(gè)AI通義底座，并構(gòu)建了大小模型協(xié)同的層次化人工智能系統(tǒng)。

其中統(tǒng)一底座的M6-OFA模型由楊紅霞領(lǐng)導(dǎo)完成。

它在業(yè)界首次實(shí)現(xiàn)模態(tài)表示、任務(wù)表示、模型結(jié)構(gòu)統(tǒng)一。不引入新增結(jié)構(gòu)，單一模型就可以同時(shí)處理超過10項(xiàng)跨模態(tài)任務(wù)，升級(jí)后可以處理超過30種。

這項(xiàng)工作對(duì)外開源，目前被引用數(shù)超過900+，GitHub星標(biāo)2.4k。

而就在這項(xiàng)重磅發(fā)布1個(gè)月后，楊紅霞被曝因家庭原因從達(dá)摩院離職。

下一次新動(dòng)向已是2023年3月。

消息稱她已加入字節(jié)AML（機(jī)器學(xué)習(xí)系統(tǒng)）團(tuán)隊(duì)，任字節(jié)跳動(dòng)大語(yǔ)言模型研發(fā)技術(shù)專家，在美國(guó)西雅圖從事大語(yǔ)言模型的研發(fā)。

不過短短1年時(shí)間，她就又從字節(jié)離職。與此同時(shí)，行業(yè)的風(fēng)向也從基礎(chǔ)大模型開發(fā)，逐漸轉(zhuǎn)向更細(xì)分的應(yīng)用落地方向。

同步籌備全球化AI項(xiàng)目

值得一提的是，此前楊紅霞的下一站被猜測(cè)是“端側(cè)模型創(chuàng)業(yè)”，布局AI Agent。

5月消息稱，團(tuán)隊(duì)正在籌備組建中，已獲得3000-4000萬(wàn)美元投資，投后估值1.5億美元。

最近量子位從知情人士處獲悉，楊紅霞前不久還在西雅圖籌備全球化AI項(xiàng)目。

綜合來(lái)看，楊紅霞入職香港理工大學(xué)，可能和創(chuàng)業(yè)動(dòng)作并不沖突。

值得一提的是，從事更具體的AI細(xì)分領(lǐng)域大展拳腳，確實(shí)是目前AI人才再創(chuàng)業(yè)比較集中的選擇。

比如漆遠(yuǎn)的創(chuàng)業(yè)方向選擇了可信大模型。從螞蟻集團(tuán)副總裁任上離職后，漆遠(yuǎn)先是重返學(xué)界，在復(fù)旦擔(dān)任教職，而后又產(chǎn)學(xué)研并行地創(chuàng)立了大模型公司無(wú)限光年。

此前，量子位從市場(chǎng)獲悉更多消息如下：

如上或有缺漏與誤傳，歡迎評(píng)論區(qū)留言指正、分享更多行業(yè)信息。

參考鏈接：
https://www.polyu.edu.hk/comp/people/academic-staff/prof-yang-hongxia/