再融近5億！清華系A(chǔ)I創(chuàng)業(yè)新勢力，成最吸金“算力運營商”

衡宇 2024-09-02 09:59:21 來源：量子位

衡宇 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

一筆近5個億新融資，投向AI大模型領(lǐng)域。

量子位獨家獲悉，清華系A(chǔ)I創(chuàng)業(yè)公司無問芯穹完成了近5億元A輪融資。加碼的股東陣容很全、很豪華：

一口氣新增15家股東，涵蓋北京上海等地的國資/地方基金，順為資本/達晨財智等市場化頭部VC，還有券商直投和產(chǎn)業(yè)CVC。

至此，這家成立1年零4個月的創(chuàng)業(yè)公司，已經(jīng)累計融資近10億元。

該公司沒有透露最新估值。但更具風向意義的是，據(jù)統(tǒng)計，這已經(jīng)是目前國內(nèi)大模型賽道累計融資額最高的AI Infra公司。

沒有之一。

那么，問題來了——如此吸金的AI創(chuàng)業(yè)公司，是怎么煉成的？

無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪，在對話中給出了答案。

融這么多的錢的，為什么是無問芯穹？

去年5月31日，無問芯穹成立。

但這家公司在AI領(lǐng)域積淀的開端遠在這一天之前。

準確來說，團隊生根于清華NICS-EFC實驗室。該實驗室成立于2008年，全稱“Nanoscale Integrated Circuits and System Lab, Energy Efficient Computing Group”，專注于電子工程領(lǐng)域。

該實驗室的領(lǐng)導者，正是無問芯穹的發(fā)起人、也是這家公司的靈魂人物：清華電子系系主任——汪玉。

夏立雪是汪玉的學生，是汪玉做博導后帶的博士；聯(lián)合創(chuàng)始人、CTO顏深根同為清華人，現(xiàn)在是電子工程系副研究員，曾任商湯科技數(shù)據(jù)與計算平臺部執(zhí)行研究總監(jiān)，帶隊搭建過萬卡集群。

聯(lián)合創(chuàng)始團隊中的另一位重要成員，首席科學家、上海交通大學長聘教軌副教授戴國浩，當初也是從清華電子系拿下學士及博士學位。

怎么說呢，這個陣容，就真的很清華（電子）。

這幾人帶隊，在無問芯穹組建了150多人的隊伍，其中100多人專注于AI大模型軟硬件技術(shù)研發(fā)。

此謂人和。

咱們再繼續(xù)來說清華NICS-EFC實驗室。

往前看，2016年時，這個實驗室成功孵化出AI芯片公司深鑒科技，兩年后，深鑒被全球最大的FPGA（可編程芯片）廠商賽靈思以3億美元收購。

深鑒科技走的路線是從算法等軟件層面提升芯片效率，而其“發(fā)源地”NICS-EFC實驗室，一直有另一條不同的路線：

協(xié)同軟硬件，做聯(lián)合優(yōu)化。

夏立雪說，這條路線的價值在AI 1.0時代很受掣肘。

因為泛化能力不足，每個小場景都需要量體裁衣般單獨優(yōu)化，需要一個特定的模型。

不過，2022年底，ChatGPT問世，大模型時代即AI 2.0時代轟轟烈烈開始了。

“大模型的出現(xiàn)是一個重要轉(zhuǎn)折點，因為它能用相同的模型來支持不同的場景。”夏立雪解釋道，“這樣一來，我們之前積累的經(jīng)驗和技術(shù)只需進行一次優(yōu)化，就能解決多個場景的需求?！?/p>

與此同時，AI 2.0也給AI Infra層帶來了更大的未來價值。

現(xiàn)在，可能只需付出20%的努力，就能支撐80%的場景。

大模型時代的到來，無疑給無問芯穹的成立和后續(xù)發(fā)展帶來了“天時”。

而無問芯穹之所以備受市場看好，除了上述的人和、天時，地利也不可或缺。

當下的形勢，外部算力入口變細，而國內(nèi)芯片仍處于成長期。

不完全統(tǒng)計，宣布擁有千卡規(guī)模的中國算力集群已不少于100個，絕大部分集群已經(jīng)或正在從同構(gòu)轉(zhuǎn)向異構(gòu)。

現(xiàn)在國內(nèi)的算力有種好像既供大于求，又供小于求。
算力中心不知道該賣給誰，同時很多人又需要使用已經(jīng)被產(chǎn)品化的“電”來做各種事情的。

骨感而特殊的本地需求，迫切呼喚有人能把不同廠商的異構(gòu)芯片資源整合起來，發(fā)揮出最高效率。

“唯一具備全棧技術(shù)能力的創(chuàng)業(yè)團隊”

于是此次宣布的A輪、四種資方入股的投資，也算是無問芯穹做這件事的底氣所在。

無問芯穹自己算了一筆賬，提出了一個AI模型算力公式：

芯片算力 × 優(yōu)化系數(shù)（軟硬協(xié)同）× 集群規(guī)模（多元異構(gòu)）= AI模型算力

這個公式有三個影響因子：

• 芯片算力：指單芯片的理論算力，可以用單位能量的乘法計算數(shù)量來衡量。
• 優(yōu)化系數(shù)：指在單芯片算力有限的情況下，無問芯穹通過軟硬件聯(lián)合優(yōu)化，提升芯片算力的利用效率，讓單芯片在任務(wù)上發(fā)揮出更大價值。
• 集群規(guī)模：指無問芯穹通過多元異構(gòu)算力適配技術(shù)，喚醒更多沉睡算力，擴大行業(yè)可用的整體算力規(guī)模。

這一公式最終結(jié)果，代表著國內(nèi)能夠支撐的AI的體量。具體的值的意義，遠不如其所提供的一種認知，即軟硬件協(xié)同設(shè)計與多元異構(gòu)適配，能夠在產(chǎn)業(yè)鏈中提供何等價值。

算力市場空間之廣闊有目共睹，理所當然的，背后的技術(shù)層棧要求也很高。

無問芯穹要實現(xiàn)模型與算力垂直打通，決心打造全棧技術(shù)能力。

為什么要做技術(shù)全棧？

首先，無問芯穹自問能做好。

從上層模型應(yīng)用到底層算力硬件，能拆出好幾個層次來，包括集群層面、模型任務(wù)優(yōu)化層面、框架層面、算子層面、硬件定制化和優(yōu)化層面。

夏立雪分享到，過去一年里，團隊已經(jīng)積累了100多位技術(shù)成員，“我們是國內(nèi)除大廠外，唯一具備全棧技術(shù)能力的團隊?！?/p>

其次，全棧技術(shù)有助于提供產(chǎn)品化服務(wù)。

具體案例是無問芯穹在今年發(fā)布的Infini-AI異構(gòu)云平臺。

它集成了全球首個支持單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓練平臺，具備萬卡擴展性，支持包括AMD、華為異騰、 天數(shù)智芯、沐曦、摩爾線程、NVIDIA這6種芯片在內(nèi)的大模型混訓，可一鍵發(fā)起700億參數(shù)大模型訓練。

向上直接對接各種集群，向下讓做模型和用模型的人簡簡單單就能用起來，打通中間層，這就是無問芯穹最主要的差異點。

這一思路還體現(xiàn)在無問芯穹的核心理念上。

自創(chuàng)業(yè)之初，“MxN”就是他們的核心理念。

什么是“MxN”？就是打破不同芯片不同模型的阻隔，通過軟硬件協(xié)同優(yōu)化的手段，實現(xiàn)M種模型和N種芯片的整合統(tǒng)一。

展開來說，是通過提供高效整合異構(gòu)算力資源的好用算力平臺，以及支持軟硬件聯(lián)合優(yōu)化與加速的中間件，來達到大幅提升主流硬件和異構(gòu)硬件利用率的目的。

打造一個AI原生的基礎(chǔ)設(shè)施，適應(yīng)多模型、多芯片格局，最終讓異構(gòu)芯片的算力表現(xiàn)媲美（甚至超過）英偉達。

值得注意的是，無問芯穹很早就喊出了自己的目標：

實現(xiàn)大模型落地成本10000倍下降。

據(jù)了解，無問芯穹基本已經(jīng)做到了1000倍下降。這1000倍是針對大模型，結(jié)合了在算法層、硬件層、軟件層多個層次的聯(lián)合優(yōu)化。

也正是因為做了跨層次聯(lián)合優(yōu)化，才能產(chǎn)生“化學效應(yīng)”，實現(xiàn)在模型層做壓縮，對應(yīng)的在硬件層真實實現(xiàn)這些壓縮的加速算子。

不過，千倍和萬倍看上去只有一個“0”的差異，但并非多走幾步就能達成。

夏立雪表示：“我們已經(jīng)實現(xiàn)了較深層次的軟硬協(xié)同，再往‘萬倍成本下降’會涉及到硬件，也就是說，若要實現(xiàn)模型與硬件的深度耦合，必須對硬件結(jié)構(gòu)進行相應(yīng)的調(diào)整?！?/p>

所以，真正邁向成本萬倍下降，需要與芯片廠商共同在終端應(yīng)用場景中探索并設(shè)計適應(yīng)新需求的芯片結(jié)構(gòu)。這不僅僅是一個理論上的構(gòu)想，還需要真正投入到新芯片的設(shè)計和流片過程中。

這無疑是一個巨大的項目。

對此，無問芯穹表示，A輪融資所得款項中，有一部分將專門用于探索端上模型與端芯片的融合落地項目。

One More Thing

在商業(yè)模式上，無問芯穹沒有走最常見的軟件付費模式。

而是選擇了成為一個“淘寶”。

做智算領(lǐng)域的運營商，把軟件直接嫁接在各種集群的硬件基礎(chǔ)之上，賣tokens。

國內(nèi)AI大模型領(lǐng)域頭部梯隊的許多熟面孔，譬如智譜AI、Kimi、生數(shù)等，都是它的客戶。

從這個角度講，無問芯穹已經(jīng)初步搞定了在技術(shù)能力、產(chǎn)品能力、業(yè)務(wù)能力和商業(yè)模式的驗證。

下一步，無問芯穹的選擇是進行規(guī)模擴展。