李沐大模型公司細(xì)節(jié)曝光，項(xiàng)目GitHub空倉標(biāo)星超500

魚羊 2023-11-26 15:31:00 來源：量子位

衡宇 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

AI大神李沐大模型創(chuàng)業(yè)方向，終于“水落石出”：

利用大模型能力，做游戲引擎，且是面向4A游戲。

關(guān)于4A游戲這個(gè)概念，目前業(yè)內(nèi)沒有統(tǒng)一的“名詞解釋”，但通常理解為比3A游戲更強(qiáng)大一點(diǎn)的游戲（doge）。

被曝從亞馬遜首席科學(xué)家的職務(wù)上離職后，李沐聯(lián)手其導(dǎo)師、另一位亞馬遜出身AI大牛Alex Smola的創(chuàng)業(yè)公司Boson.ai既沒有高調(diào)露面，也沒有什么隱秘爆料跟上。

外界只能從領(lǐng)英和公司極簡風(fēng)的官網(wǎng)上得知，公司方向是“scalable foundation models”（可擴(kuò)展基礎(chǔ)模型）。

而且是面向所有人（for everyone）那種。

現(xiàn)在，“大家的李沐老師”正在做的事情逐步清晰，AIGC for 游戲。

以及來自投資市場的消息，為了順利推進(jìn)這個(gè)目標(biāo)，Boson.ai后來招賢納士，吸納了一位游戲方面的大牛坐鎮(zhèn)公司聯(lián)創(chuàng)。

——畢竟粗掃一遍發(fā)現(xiàn)，在過去，李沐和Smola沒什么與游戲技術(shù)直接緊密關(guān)聯(lián)的經(jīng)歷。

目前尚不清楚Boson.ai選擇這條創(chuàng)業(yè)路線的準(zhǔn)確原因，但大模型在游戲引擎上能夠釋放的能力，還是很明晰的。

比如最直給的創(chuàng)意生成和編輯能力，還有語音指令控制能力；

又或者是為游戲NPC賦予AI的靈魂，形成一個(gè)個(gè)獨(dú)特的Agent，增強(qiáng)玩家的互動(dòng)性和可玩空間等等。

……

總之，它能夠讓開發(fā)者對(duì)前端框架知識(shí)的門檻降低、效率提升。

而且要知道，上述例子僅僅是“大模型助力游戲引擎”已經(jīng)露出水面的一角，還有很多水面下的故事值得挖掘。

話說回來，這家創(chuàng)業(yè)10個(gè)多月還神神秘秘的公司，為什么值得關(guān)注和期待？

為什么值得持續(xù)關(guān)注？

原因之一，就是李沐和Alex Smola都是AI領(lǐng)域里有技術(shù)、有名氣的大牛。

AI 2.0時(shí)代，創(chuàng)業(yè)賽道上眾星云集，李沐和Alex Smola棄亞馬遜入大模型，屬于是有名氣、有技術(shù)的人投身最明星的賽道，當(dāng)然格外耀眼。

李沐，二者之間大家比較熟悉的那一位。

自己有很厲害的經(jīng)歷，加上在小破站傳道授業(yè)，打下了響當(dāng)當(dāng)?shù)闹取?/p>

而Alex Smola，更是一個(gè)AI屆的神級(jí)大牛。

直接上數(shù)據(jù)：

Smola在Google Scholar上的被引用次數(shù)，超過17萬次。

其中，被引次數(shù)前三的所著論文，被引數(shù)統(tǒng)統(tǒng)破萬。

除了是ML著作《動(dòng)手學(xué)深度學(xué)習(xí)》的主要作者外，Smola這些年的履歷也很值得好好了解一番——

1996年，Smola在慕尼黑工業(yè)大學(xué)完成碩士學(xué)業(yè)，而后又在柏林工業(yè)大學(xué)拿下計(jì)算機(jī)科學(xué)博士學(xué)位。

博士畢業(yè)后，他先后去往柏林GMD軟件工程和計(jì)算機(jī)體系結(jié)構(gòu)研究所、NICTA（澳大利亞信息與通信技術(shù)研究中心）工作。

2004年起，Smola在NICTA的統(tǒng)計(jì)機(jī)器學(xué)習(xí)項(xiàng)目中，擔(dān)任高級(jí)首席研究員和項(xiàng)目負(fù)責(zé)人；到了2008年，Smola選擇入職雅虎研究院。

2012年春天到2014年年底，2年多的時(shí)間里，Smola的工作地點(diǎn)是谷歌研究院。

期間，他開始擔(dān)任CMU的教授。也是這個(gè)時(shí)候，他成為了李沐的博士導(dǎo)師，二人結(jié)緣。

2016年7月，Smola成為了亞馬遜的一員，致力于構(gòu)建AI和機(jī)器學(xué)習(xí)工具。

他的首要任務(wù)之一，是讓AWS和開發(fā)者社區(qū)建立和保持聯(lián)系。

具體來說，他的工作是讓更多的開發(fā)者共同建設(shè)亞馬遜深度學(xué)習(xí)庫MXNet。

離職創(chuàng)業(yè)前，Smola在亞馬遜擔(dān)任的職位是杰出科學(xué)家和副總裁。

值得一提的是，由于Smola在分布式深度學(xué)習(xí)框架領(lǐng)域曾提出并行LDA（Latent Dirichlet Allocation）的框架——這是參數(shù)服務(wù)器概念的最早來源，因此，Smola也被業(yè)界稱為參數(shù)服務(wù)器之父。

參數(shù)服務(wù)器，以共享的形式實(shí)現(xiàn)不同節(jié)點(diǎn)之間數(shù)據(jù)交互的通信模式。

其采用了一種將模型參數(shù)中心化管理的方式，來實(shí)現(xiàn)模型參數(shù)的分布式存儲(chǔ)和更新。

它的作用在于存儲(chǔ)一些多節(jié)點(diǎn)共享的數(shù)據(jù)，常適用于存在數(shù)據(jù)共享的應(yīng)用場景。

在大模型當(dāng)?shù)赖默F(xiàn)在，我們也可以說參數(shù)服務(wù)器的提出對(duì)大模型訓(xùn)練的性能和效果發(fā)揮著重要作用。

另一個(gè)值得期待的原因，就是李沐和Smola師徒二人，此前有過一次還算成功的創(chuàng)業(yè)經(jīng)歷。

Smola是李沐在CMU讀博期間的導(dǎo)師，那時(shí)候兩人曾一同創(chuàng)辦數(shù)據(jù)分析算法公司Marianas Labs，Smola任CEO，李沐任CTO。

李沐在《博士這五年》一文中提到，那次創(chuàng)業(yè)，他們拿了幾十萬投資，風(fēng)風(fēng)火火干了好一陣，最后把公司賣給了一家小上市公司。

結(jié)束這段創(chuàng)業(yè)經(jīng)歷后，兩人才先后踏入亞馬遜公司的大門。

直到今年2月，Smola在領(lǐng)英宣布離職，成立新公司并擔(dān)任CEO。

他在領(lǐng)英資料里提到：

我們正在建造一個(gè)大項(xiàng)目……請(qǐng)繼續(xù)關(guān)注。如果你想在可擴(kuò)展基礎(chǔ)模型上工作，請(qǐng)告訴我。

隨后傳出消息，這個(gè)“大項(xiàng)目”就是Smola和李沐的二次聯(lián)手創(chuàng)業(yè)。

不過直到現(xiàn)在，除了悄悄招人擴(kuò)大團(tuán)隊(duì)以外，Boson.ai沒有再多的公開大動(dòng)作。

包括李沐的領(lǐng)英，最新動(dòng)態(tài)仍然停留在他的亞馬遜經(jīng)歷。

One More Thing

因此，在得知李沐老師要用大模型能力做游戲引擎后，我們第一時(shí)間興奮地沖向了Boson.ai的GitHub主頁。

有點(diǎn)遺憾，GitHub倉庫和幾個(gè)月前官宣時(shí)一樣，沒有什么新變化，也沒有任何與游戲相關(guān)的蛛絲馬跡。

但是就這么一個(gè)什么也沒有的主頁，已經(jīng)有近500顆星了……

— 完 —