超越OpenAI、拿下全球雙料第一，“AI吳彥祖”背后大模型SOTA了！

明敏 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

超越OpenAI！

國產(chǎn)大模型突襲，AI語音生成天花板被重新定義了。

MiniMax最新發(fā)布Speech-02，同時拿下Artificial Analysis Speech Arena和Hugging Face TTS Arena兩項全球權威語音基準測評第一！

而且還是榜單前十名中唯一的國產(chǎn)玩家。

要知道，這倆榜首長期被OpenAI、ElevenLabs占據(jù)，前者不用多介紹，公認的AI領域全球NO.1梯隊成員，后者也是專精AI語音合成賽道的領軍玩家。

具體效果如何？一手實測在此：

用專業(yè)播音腔讀一讀量子位的文章？So easy~

直接根據(jù)文章內(nèi)容配上相應的語氣和情緒，中英混雜輕松搞定，各種停頓和重音，完全就是頂級新聞播報員的感覺。

還能讓霉霉為我們讀論文。不僅是熟悉的美音，而且非常還原她個人特點。

如上效果，只需幾秒語音參考，即可讓大模型當場完成超逼真復刻。

并且在提供SOTA級性能同時，定價僅為ElevenLabs的一半甚至四分之一，性價比也稱得上“全球SOTA”了。

如此能力，不少人其實不知不覺體驗到了。

比如前段時間大火的吳彥祖陪你學英語中的“AI阿祖”，底層能力正是來自MiniMax。

還有個人開發(fā)者打造的出圈案例——故宮AI向導，正是基于MiniMax MCP Server，支持通過簡單文本輸入，完成圖像、語音、視頻生成以及聲音克隆等多項能力。其中語音生成與克隆的能力，就是靠MiniMax Speech模型完成。

果然，MiniMax還是一如既往悶聲搞大事啊。

那么借著這次語音模型重磅更新，來扒一扒MiniMax是如何發(fā)起突襲的。

全球首個實現(xiàn)多樣化、個性定義的語音模型

總結來看，Speech-02兼顧了三方面亮點：

• 超擬人
• 個性化
• 多樣性

首先，在最關鍵的“超擬人”方面，Speech-02的還原度不說是100%，也幾乎是天衣無縫了。

比如這段脫口秀，無論是中文咬字還是英文發(fā)音，都非常完美。同時還帶有自然的情緒起伏、停頓和重音，給人以更豐富的聽覺感受。

其次在個性化方面，Speech-02現(xiàn)在已經(jīng)提供了豐富音色可供選擇。

細分維度包括語言、口音、性別和年齡。目前已經(jīng)支持32種語言。中英文這樣常用的選項里，還包含不同的口音。

同時，它也支持對任意音色進行復刻。

由于不局限于只學習精品音色，它具備極強泛化能力，最少只需聽10秒?yún)⒖紭颖?，即可完成對一種說話人聲音的模仿。而且還支持對音色進行進一步細節(jié)調(diào)整。

以聲音參考這一功能為例（這一功能在國內(nèi)僅對B端用戶開放），只需提供10-300秒聲音參考樣本，Speech-02就可以開始完成復刻。上傳文件or直接錄音都可以。也就是說，對著模型說幾句話，它就已經(jīng)能學會你的音色了。

它支持自動剔除背景噪音，對上傳音頻的質量要求不高。

比如生成霉霉音色時，我們使用了她在紐約大學演講的片段，其中包含了掌聲、歡呼聲等噪音影響，但是對生成結果的影響很小。

此外還支持情緒等更細微的調(diào)整，能滿足專業(yè)領域人士的需求。

最后，在多樣性方面，Speech-02可以支持32種語言。

不僅支持不同語言之間無縫切換，而且在音色生成時就可以完成語種跨越。比如喂給它霉霉英文語音素材，讓它生成中文版音色。

生成的語音也支持多語言之間無縫切換，如下是英語、西班牙語之間切換。

由此幾方面優(yōu)勢結合，用Speech-02完成電影級配音，也不是問題了。

從數(shù)據(jù)維度看，Speech-02的表現(xiàn)也是全方位碾壓。

通過詞錯誤率（WER）和說話者相似度（SIM）兩個維度，在Seed-TTS Test數(shù)據(jù)集上，Speech-02在零樣本克隆中實現(xiàn)了更低詞錯誤率，one-shot下SIM得分與真實音頻（Ground Truth）相當，表明模型能夠有效提取和保留說話者音色特色。

在多語言評估上，Speech-02在包含24種語言的測試集上，它的WER表現(xiàn)與ElevenLabs Multilingual v2相當，在中文、粵語、泰語、越南語和日語等復雜語言中表現(xiàn)更好，甚至在英語上也完成了對ElevenLabs的全線超越。

在SIM方面，MiniMax-Speech在所有測試語言中均優(yōu)于ElevenLabs Multilingual v2，表明其說話者編碼器和合成流程在保留說話者身份方面更為有效。

A語音音頻直接克隆至B語言語音，MiniMax-Speech的zero-shot在所有測試語言中都實現(xiàn)了更低WER，發(fā)音準確度最高。

創(chuàng)新性提出Flow-VAE，更好把握克隆細節(jié)

所以，Speech-02為啥這么強？

還得看技術細節(jié)。目前Speech-02論文已全面公開，還被很多海外AI博主關注到了。

從技術維度，Speech-02實現(xiàn)了只需極少樣本、甚至在沒有訓練數(shù)據(jù)的情況下，僅通過參考音頻，就能生成與目標說話人極為相似的音色，并且可以轉換成多種語種。

具體而言，它使用了基于自回歸Transformer的架構。

大多數(shù)自回歸TTS在語音克隆中需要語音和對應文字轉錄作為提示。提示語音和目標語音在語義或語言上存在不匹配、解碼長度限制等問題，往往會造成生成質量欠佳。

為此，Speech-02引入了獨特的可學習說話者編碼器（Learnable Speaker Encoder），直接與TTS模型一起訓練。輸入僅為一段參考音頻，輸出為一個固定大小的“聲音特征向量”。

核心解決了三方面問題：

1、無需參考文本即可通過語音提示實現(xiàn)零樣本語音克隆；
2、跨語言語音生成，它只關注聲音的特征而不關心語音內(nèi)容，因此即使參考音頻是英文，但是也可以使用該音色直接生成其他語言的語音；
3、根據(jù)生成任務實際需求，提取出對音質和相似度更有用的特征。

模型另一個重要創(chuàng)新在于引入了基于Flow-VAE的流匹配模型，進一步提升了生成語音的音質和說話人相似性。

VAE（Variational Autoencoder）用來學習語音的潛在特征表示（比如音色、韻律、情感等），它通常假設潛在空間服從標準正態(tài)分布，這可能會限制模型對復雜數(shù)據(jù)分布的建模能力。

由此引入Flow模型，通過一系列可逆轉換，將潛在空間映射到更復雜的分布，從而更準確地捕捉數(shù)據(jù)中的復雜結構和分布特性。

此外，研究團隊還探索了模型的多種下游應用。比如通過LoRA實現(xiàn)對合成語音情感更精細控制、文本驅動音色生成以及專業(yè)語音克?。ㄍㄟ^微調(diào)參數(shù)為特定說話人生成更高保真度語音）。

為行業(yè)造AI語音引擎

不過，技術上領先還只是其一，在AI語音行業(yè)落地上，MiniMax也已悄悄領先。

落地案例多元、跨行業(yè)、全球化。與不同行業(yè)玩家共同開拓AI語音的應用前景。具體包括：

• 成熟場景：教育、有聲書等
• 新鮮場景：AI伴讀、智能硬件、汽車智能座艙、3A游戲實時交互等

比如在教育領域，MiniMax與高途共同探索出了24小時可定制化的AI語言陪練系統(tǒng)。

最近全網(wǎng)爆火的“吳彥祖教你學口語”中的“AI阿祖”，就是基于此實現(xiàn)，通過對吳彥祖音色精品復刻，在高途推出的吳彥祖英語課中，AI阿祖可以24小時隨時在線陪練。

在智能座艙方面，MiniMax多個大模型已入駐極狐汽車，為用戶提供即時問答服務。

值得一提的是，作為大模型技術廠商，MiniMax還一直與不同行業(yè)玩家共創(chuàng)，開拓AI應用邊界、激發(fā)場景創(chuàng)新。

在一些前沿落地場景里，總能看到MiniMax。

比如大模型趨勢下爆火的AI玩具領域，MiniMax為熱度top1的躍然創(chuàng)新haivivi提供底層語音合成和文本模型能力。支持BubblePal能夠隨時靈活回答小朋友們的“十萬個為什么”。

基于MiniMax語音能力的「AI語音掛件」（售價399-449元），上線2個月銷量突破2萬臺。

AI教育硬件方面，MiniMax為聽力熊團隊提供底層模型支持，專為青少年解決學習、生活中的各種問題，不局限于問題回答，還可以進行適當?shù)姆答伜颓楦斜磉_，兼顧教育與陪伴場景。聽力熊AI聽說學習機T6已接入。

更為新鮮的，MiniMax與香港電視臺嘗試了使用語音模型的粵語能力做天氣預報，進一步開拓落地場景。

在海外也與Hedra合作，打造了可以定制化的數(shù)字角色分身。

可以明顯感知到，MiniMax不僅在商業(yè)價值已得到初步驗證的領域積極落地，也重點關注了AI語音在更多新場景的應用，推動技術創(chuàng)新同時更為行業(yè)帶來新價值。

可以感知到，與MiniMax達成合作的行業(yè)玩家中，不乏領域內(nèi)領軍者，更有很多來自新興賽道。前者的落地價值已經(jīng)初步被驗證，后者則蘊藏著巨大潛力。

Always MiniMax，Why？

所以，為啥它們不約而同選擇MiniMax？

技術領先性是最首要的。MiniMax是AI領域頭部玩家，在大模型技術浪潮之前，已經(jīng)搶先布局自研多個模態(tài)的基礎模型，覆蓋文本、語音、視覺三大領域。

顯然在AI語音領域，MiniMax長線布局，而且一直走在行業(yè)前沿。

而且，MiniMax還有天然的技術試煉場——星野、Talkie等。這意味著，MiniMax更懂實際落地、更懂如何將實驗室中的前沿技術輸送到用戶面前。所以，MiniMax也是國內(nèi)最早用大模型架構提供語音服務的公司。

這或許也是為何MiniMax始終低調(diào)，但又一直被行業(yè)青睞。

而透過這次動作，MiniMax的布局戰(zhàn)略，也呈現(xiàn)出更清晰的全貌——

布局全模態(tài)，且紛紛拿下SOTA。

以最初的三大基礎模型為起點，MiniMax在短短2年時間內(nèi)已經(jīng)完成了對全模態(tài)能力的完整布局。

文本方面，MiniMax打破了傳統(tǒng)Transformer架構限制，首次大規(guī)模實現(xiàn)了線性注意力機制，這種架構創(chuàng)新極大地提升了模型的計算效率，降低了成本，尤其在處理超長文本場景中，展現(xiàn)出顯著的可擴展性。這也是對Agent時代進行搶先押注，從中也足見MiniMax領先于行業(yè)的技術。

就在年初，MiniMax還完成了MiniMax-01系列開源，包含兩個模型，基礎語言大模型 MiniMax-Text-01 和視覺多模態(tài)大模型 MiniMax-VL-01，為開源社區(qū)提供優(yōu)質選擇。

語音方面，隨著Speech-02發(fā)布，MiniMax在AI語音領域的領先地位更加不可動搖。

視頻方面，海螺AI已經(jīng)是全球最大的生成式AI視頻平臺，它為用戶提供了高度自由的創(chuàng)作控制能力，用戶可以通過簡單的輸入（如一張圖片或一段文字）生成視頻，并且能夠像專業(yè)導演一樣自由掌控鏡頭語言。

如今，大模型趨勢來到應用落地側，MiniMax依舊堅持原始性創(chuàng)新，不斷刷新領域內(nèi)新紀錄。

底層技術是AI廠商的源頭優(yōu)勢，是長期估值的壓艙石，也是唯一不可被快速復制的壁壘。

而在落地方面，MiniMax低調(diào)推進，與不同行業(yè)合作。一些AI落地爆款背后，總能看到MiniMax的身影。這既是技術領先的進一步驗證，也是其落地能力的直接證明。

可以看到，隨著大模型發(fā)展駛入“深水區(qū)”，更關鍵在于，誰能構建起“模型即產(chǎn)品”機制，不斷將AI技術從一線實驗室向千行百業(yè)輸送。

在這之中，布局全、壁壘深、落地廣的玩家，更值得被關注。

MiniMax已經(jīng)為行業(yè)打了個樣，不是嗎？