單張消費(fèi)級(jí)顯卡也能參與大模型訓(xùn)練！無(wú)問(wèn)芯穹用「三個(gè)盒子」打通十萬(wàn)卡到一張卡AI效能躍升路徑

衡宇 2025-07-29 13:26:29 來(lái)源：量子位

衡宇 發(fā)自 WAIC

量子位 | 公眾號(hào) QbitAI

智能時(shí)代的尺度，在計(jì)算資源與智能效率的雙重牽引下正在極速壓縮、迅速蔓延。

兩年前，我們驚艷于幾千卡集群訓(xùn)練而成的GPT3.5；但今天，一部手機(jī)也可以裝下與它同等性能的小型AI了。

2025年WAIC上，無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人、CEO夏立雪如此說(shuō)道。

他還代表無(wú)問(wèn)芯穹，帶來(lái)了AI落地這道難題的最新回答——

三個(gè)盒子，打通從十萬(wàn)卡到一張卡的AI效能躍升路徑。

是的，僅僅是三個(gè)盒子。

在無(wú)問(wèn)芯穹看來(lái)，這三個(gè)盒子背后，是一整套面向未來(lái)的智能基礎(chǔ)設(shè)施設(shè)計(jì)。

什么是三個(gè)盒子？

“三個(gè)盒子”其實(shí)是無(wú)問(wèn)芯穹全規(guī)模AI效能躍升方案的三大核心產(chǎn)品：

• 大盒子：無(wú)穹AI云
• 中盒子：無(wú)界智算平臺(tái)
• 小盒子：無(wú)垠終端智能

這是一整套軟硬件協(xié)同系統(tǒng)，專(zhuān)為未來(lái)智能基礎(chǔ)設(shè)施設(shè)計(jì)，能覆蓋從云到端的各種規(guī)模場(chǎng)景，支持多種異構(gòu)算力，同時(shí)打通模型調(diào)度、性能優(yōu)化到應(yīng)用部署的全流程。

我們一個(gè)一個(gè)來(lái)看——

大盒子：無(wú)穹AI云

大盒子，即無(wú)問(wèn)芯穹推出的無(wú)穹AI云，是面向萬(wàn)卡至十萬(wàn)卡級(jí)別的智算網(wǎng)絡(luò)，為超大規(guī)模算力集群的利用提供了一個(gè)系統(tǒng)性的解決方案。

無(wú)穹AI云的底層是一張深度覆蓋全國(guó)的廣域算力網(wǎng)，基于無(wú)問(wèn)芯穹“一網(wǎng)三異”調(diào)度架構(gòu)，目前已成功覆蓋“東數(shù)西算”國(guó)家戰(zhàn)略布局的關(guān)鍵節(jié)點(diǎn)，匯聚了來(lái)自 26個(gè)省市、53個(gè)核心數(shù)據(jù)中心的龐大算力資源，整合超15種主流芯片架構(gòu)的異構(gòu)算力池，總算力規(guī)模超25000P。

夏立雪表示：

無(wú)穹AI云不僅可以讓寶貴的算力資源實(shí)現(xiàn)最高效的流轉(zhuǎn)與利用，還能有效激活處于非理想狀態(tài)的算力資源，將其轉(zhuǎn)化為具備高穩(wěn)定性、高吞吐量與超低延遲的優(yōu)質(zhì)AI服務(wù)能力。

目前，無(wú)穹AI云提供高度標(biāo)準(zhǔn)化和開(kāi)放化的接口，支持獨(dú)特的“平臺(tái)+自營(yíng)”運(yùn)營(yíng)模式——不僅向獨(dú)立智算中心敞開(kāi)大門(mén)，實(shí)現(xiàn)無(wú)縫集成；也支持企業(yè)構(gòu)建自有運(yùn)營(yíng)平臺(tái)站點(diǎn)，并融入底層算力供給網(wǎng)絡(luò)。

過(guò)去半年里，無(wú)穹AI已經(jīng)在上海市、杭州市、北京市等地接連落地。

此外，無(wú)問(wèn)芯穹服務(wù)的全球最大人工智能孵化器上海模速空間，日均Token調(diào)用量已突破100億大關(guān)。

中盒子：無(wú)界智算平臺(tái)

中盒子，即無(wú)問(wèn)芯穹推出的無(wú)界智算平臺(tái)，專(zhuān)門(mén)面向百卡至千卡級(jí)的大型集群，解決高校、科研機(jī)構(gòu)、中小AIDC中心的模型訓(xùn)練與推理難題。

無(wú)界智算平臺(tái)的能力建立在無(wú)穹AI云的基礎(chǔ)之上。

夏立雪在現(xiàn)場(chǎng)透露，無(wú)界智算平臺(tái)已在超過(guò)100個(gè)大型研發(fā)場(chǎng)景中多次成功保障了大規(guī)模模型訓(xùn)練與推理任務(wù)的關(guān)鍵需求，并幫助國(guó)產(chǎn)計(jì)算集群實(shí)現(xiàn)了實(shí)實(shí)在在的正向收益。

從3000卡的沐曦GPU集群穩(wěn)定支撐百億模型600小時(shí)訓(xùn)練，到云南移動(dòng)依托2000張昇騰卡實(shí)現(xiàn)千億模型商用推理，無(wú)界平臺(tái)不僅能算優(yōu)算穩(wěn)，還能真正帶來(lái)正向收益。

更重要的是，面向未來(lái)，夏立雪還宣布了無(wú)問(wèn)芯穹在大盒子和中盒子協(xié)同的重要產(chǎn)品化進(jìn)展：

全球首個(gè)跨地域全分布式聯(lián)合強(qiáng)化學(xué)習(xí)服務(wù)。

這個(gè)服務(wù)支持將各地AIDC中零散的算力資源，與一個(gè)中等體量的算力集群結(jié)合起來(lái)，完成跨地域的聯(lián)合強(qiáng)化學(xué)習(xí)。

最小支持單張消費(fèi)級(jí)顯卡接入，哪怕只有一張消費(fèi)級(jí)GPU，也能參與大模型的聯(lián)合訓(xùn)練。

小盒子：無(wú)垠終端智能

小盒子，即無(wú)問(wèn)芯穹推出的無(wú)垠終端智能，專(zhuān)門(mén)面向智能終端。

在小盒子里，無(wú)垠終端智能致力于以軟硬協(xié)同核心技術(shù)優(yōu)勢(shì)，打造“端模型+端引擎+端硬件”智能終端一體化解決方案。

基于此，無(wú)問(wèn)芯穹與上海創(chuàng)智院共同打造了全球首款端側(cè)本征模型無(wú)穹天權(quán)Infini-Megrez2.0，在實(shí)現(xiàn)云級(jí)21B參數(shù)智能水平的同時(shí)，將內(nèi)存占用控制在7B規(guī)模、實(shí)際計(jì)算量控制在3B規(guī)模。

此外，Infini-Megrez2.0通過(guò)巧妙的工程設(shè)計(jì)，賦予了終端設(shè)備更強(qiáng)的能動(dòng)性，即使在用戶無(wú)感知的“休眠時(shí)段”里，也能持續(xù)運(yùn)行大模型。

換句話說(shuō)，哪怕AI PC在休眠狀態(tài)、完全離線的情況下，大模型依然能自主運(yùn)行，穩(wěn)定完成任務(wù)。

算下來(lái)，一臺(tái)設(shè)備在一年中，能多釋放出1000多個(gè)小時(shí)的有效工作時(shí)間。

為什么要做三個(gè)盒子？

為什么無(wú)問(wèn)芯穹要發(fā)布這三個(gè)盒子？

其實(shí)答案只有一個(gè)：智能時(shí)代的資源拐點(diǎn)已經(jīng)到了。

從傳統(tǒng)算法，到AI1.0、AI2.0階段，在Scaling Law的推動(dòng)下，計(jì)算資源持續(xù)驅(qū)動(dòng)著智能邊界的拓展，逼近AGI的臨界點(diǎn)。

然而，資源的有限性，成為了“人類(lèi)文明的終極邊界始終橫亙?cè)贏GI之路”上的天塹。

它橫臥在面前，成為人們真正觸碰到AGI之前可能會(huì)先觸碰到的紅線。

為了解決這個(gè)有限資源與無(wú)限需求之間的矛盾，無(wú)問(wèn)芯穹提出加速抵達(dá)AGI臨界點(diǎn)的兩條進(jìn)路：

一條是提高智能效率，另一條是擴(kuò)充計(jì)算資源。

一方面突破從計(jì)算資源到智能性的轉(zhuǎn)化效率，用更少的計(jì)算資源獲取更強(qiáng)的智能；另一方面，不段挖掘和喚醒更多的可用計(jì)算資源。

夏立雪表示，這兩條路徑的交匯之處，即是新的AGI臨界點(diǎn)所在。

他繪制了一個(gè)AI應(yīng)用落地的價(jià)值空間：

人工智能應(yīng)用落地價(jià)值空間=場(chǎng)景尺度×計(jì)算資源×智能效率。

這套邏輯底層其實(shí)指向的是效能躍升這四個(gè)字。

不是更大的模型，而是更高的效率；不是無(wú)限擴(kuò)張的卡數(shù)，而是有限資源下的最優(yōu)解法。

而三個(gè)盒子，正是這個(gè)效能躍升公式的具體化身。