昆侖萬(wàn)維開源「天工」13B系列大模型，0門檻商用

量子位的朋友們 2023-10-30 14:57:21 來(lái)源：量子位

10月30日，昆侖萬(wàn)維宣布開源百億級(jí)大語(yǔ)言模型「天工」Skywork-13B系列，并罕見地配套開源了600GB、150B Tokens的超大高質(zhì)量開源中文數(shù)據(jù)集。

昆侖萬(wàn)維「天工」Skywork-13B系列目前包括130億參數(shù)的兩大模型：Skywork-13B-Base模型、Skywork-13B-Math模型，它們?cè)贑EVAL, GSM8K等多個(gè)權(quán)威評(píng)測(cè)與基準(zhǔn)測(cè)試上都展現(xiàn)了同等規(guī)模模型的最佳效果，其中文能力尤為出色，在中文科技、金融、政務(wù)等領(lǐng)域表現(xiàn)均高于其他開源模型。

Skywork-13B下載地址（Model Scope）： https://modelscope.cn/organization/skywork

Skywork-13B下載地址（Github）： https://github.com/SkyworkAI/Skywork

除模型開源外，Skywork-13B系列大模型還將開源600GB、150B Tokens的高質(zhì)量中文語(yǔ)料數(shù)據(jù)集Skypile/Chinese-Web-Text-150B，這是目前最大的開源中文數(shù)據(jù)集之一。

同時(shí)，昆侖萬(wàn)維「天工」Skywork-13B系列大模型即將全面開放商用——開發(fā)者無(wú)需申請(qǐng)，即可商用。

130億參數(shù)、兩大模型、最大中文數(shù)據(jù)集之一、全面開放商用。昆侖萬(wàn)維「天工」Skywork-13B系列大模型堪稱業(yè)內(nèi)開源最徹底的百億高質(zhì)量商用模型。

Skywork-13B系列大模型的開源將為大模型的場(chǎng)景應(yīng)用和開源社區(qū)發(fā)展提供最佳技術(shù)支持，降低大模型商業(yè)門檻，推動(dòng)人工智能技術(shù)落地千行百業(yè)，為人工智能生態(tài)建設(shè)添磚加瓦，攜手開源社區(qū)探索未知世界、創(chuàng)造美好未來(lái)。

兩大模型 領(lǐng)先行業(yè)

昆侖萬(wàn)維「天工」Skywork-13B系列包括兩大模型及150B高質(zhì)量中文數(shù)據(jù)集。

? Skywork-13B-Base模型是Skywork-13B的基礎(chǔ)模型，其經(jīng)由3.2萬(wàn)億個(gè)多語(yǔ)言高質(zhì)量數(shù)據(jù)訓(xùn)練，在CEVAL, CMMLU, MMLU, GSM8K等評(píng)測(cè)與基準(zhǔn)測(cè)試上都展現(xiàn)了同等規(guī)模模型的最佳效果。

? Skywork-13B-Math模型經(jīng)過專門的數(shù)學(xué)能力強(qiáng)化訓(xùn)練，在GSM8K等數(shù)據(jù)集上取得了同等規(guī)模模型的最佳效果。

? Skypile/Chinese-Web-Text-150B數(shù)據(jù)集。該數(shù)據(jù)集是根據(jù)我們經(jīng)過精心過濾的數(shù)據(jù)處理流程從中文網(wǎng)頁(yè)中篩選出的高質(zhì)量數(shù)據(jù)。本次開源的數(shù)據(jù)集大小約為600GB，總token數(shù)量約為（1500億），是目前最大得開源中文數(shù)據(jù)集之一。

除此之外，Skywork-13B系列還公開了模型中使用的評(píng)估方法、數(shù)據(jù)配比研究和訓(xùn)練基礎(chǔ)設(shè)施調(diào)優(yōu)方案等。希望這些開源內(nèi)容能夠進(jìn)一步啟發(fā)社區(qū)對(duì)于大型模型預(yù)訓(xùn)練的認(rèn)知，并推動(dòng)人工智能通用智能（AGI）的實(shí)現(xiàn)。

五大特點(diǎn) 全面超越

昆侖萬(wàn)維「天工」Skywork-13B系列大模型在CEVAL, GSM8K等多個(gè)權(quán)威評(píng)測(cè)與基準(zhǔn)測(cè)試上都展現(xiàn)了同等規(guī)模模型的最佳效果，其中文能力尤為出色，在中文科技、金融、政務(wù)等領(lǐng)域表現(xiàn)均高于其他開源模型。

Skywork-13B系列模型的五大特點(diǎn)：

1. 最強(qiáng)參數(shù)表現(xiàn)：全面超越同等規(guī)模大模型

本次開源的Skywork-13B系列模型在CEVAL, CMMLU, MMLU, GSM8K等幾大權(quán)威評(píng)估基準(zhǔn)中全面超越LLaMA2-13B等開源大模型，在同等規(guī)模大模型間取得最佳效果。（截止至10月25日數(shù)據(jù)）

2. 最多訓(xùn)練數(shù)據(jù)：3.2T高質(zhì)量的多語(yǔ)言訓(xùn)練數(shù)據(jù)

Skywork-13B系列大模型擁有130億參數(shù)、3.2萬(wàn)億高質(zhì)量多語(yǔ)言訓(xùn)練數(shù)據(jù)。模型的生成能力、創(chuàng)作能力和數(shù)學(xué)推理能力提升明顯。

3. 最強(qiáng)中文語(yǔ)言建模能力：中文語(yǔ)言建模困惑度評(píng)測(cè)，超越所有中文開源模型

Skywork-13B系列大模型在中文語(yǔ)言建模方面表現(xiàn)出色，具有優(yōu)秀的中文文創(chuàng)能力。在中文文本創(chuàng)作領(lǐng)域的評(píng)測(cè)中，Skywork-13B系列大模型展現(xiàn)出了卓越的能力，尤其在科技、金融、政務(wù)、企業(yè)服務(wù)、文創(chuàng)、游戲等領(lǐng)域均表現(xiàn)高于業(yè)內(nèi)其他開源模型。

上圖為不同領(lǐng)域數(shù)據(jù)下評(píng)估模型的困惑度，越低代表模型在該領(lǐng)域建模能力越強(qiáng)。結(jié)果顯示天工13B在技術(shù)文章，電影，政務(wù)報(bào)告，游戲，金融，通用領(lǐng)域均表現(xiàn)出色

4. 最大中文開源數(shù)據(jù)集之一：150B Tokens高質(zhì)量中文語(yǔ)料

Skywork-13B系列將配套開源600GB、150B Tokens的高質(zhì)量中文語(yǔ)料數(shù)據(jù)集Skypile/Chinese-Web-Text-150B，這是目前最大的開源中文數(shù)據(jù)集之一。開發(fā)者可以最大程度地借鑒技術(shù)報(bào)告中大模型預(yù)訓(xùn)練的過程和經(jīng)驗(yàn)，深度定制模型參數(shù)，有針對(duì)性的進(jìn)行訓(xùn)練與優(yōu)化。

5. 最有誠(chéng)意的開源商用：無(wú)需申請(qǐng)，即可實(shí)現(xiàn)商用

目前開源社區(qū)中的中文大模型多數(shù)并非是完全可商用，一般開源社區(qū)用戶通常需要進(jìn)行復(fù)雜的商用授權(quán)申請(qǐng)流程，在某些情況，甚至有對(duì)公司規(guī)模、所在行業(yè)、用戶數(shù)等維度有明確規(guī)定不給予商業(yè)授權(quán)。

昆侖萬(wàn)維對(duì)Skywork-13B系列開源的開放性和可商用性高度重視，將授權(quán)流程做到極簡(jiǎn)，取消對(duì)行業(yè)、公司規(guī)模、用戶等方面的限制，目的是幫助更多對(duì)中文大模型感興趣的用戶和企業(yè)在行業(yè)中不斷探索和進(jìn)步。

此次Skywork-13B系列大模型將全面開放商用許可，用戶在下載模型并同意并遵守《Skywork模型社區(qū)許可協(xié)議》后，無(wú)需再次申請(qǐng)授權(quán)即可將大模型進(jìn)行商業(yè)用途。希望用戶能夠更便捷地探索Skywork-13B系列大模型技術(shù)能力，探索在不同場(chǎng)景下的商業(yè)化應(yīng)用。

推動(dòng)開源生態(tài)繁榮，讓更多開發(fā)者們參與到AIGC的技術(shù)發(fā)展中，在共創(chuàng)和共享中推動(dòng)技術(shù)的提升。

面向AI的時(shí)代，蓬勃發(fā)展的開源生態(tài)建設(shè)是構(gòu)建AI和應(yīng)用融合的重要一環(huán)。降低模型的研發(fā)門檻，使用成本，最大化的共享技術(shù)能力和經(jīng)驗(yàn)，讓更多的企業(yè)和開發(fā)者們參與到此次AI引領(lǐng)的科技變革中去。昆侖萬(wàn)維董事長(zhǎng)兼CEO方漢是最早參與到開源生態(tài)建設(shè)的開源老兵，也是中文Linux開源最早的推動(dòng)者之一，開源的精神和AIGC技術(shù)的發(fā)展將會(huì)在昆侖萬(wàn)維戰(zhàn)略中完美融合。

All in AGI與AIGC

All in AGI與AIGC是昆侖萬(wàn)維的戰(zhàn)略。

4月17日，昆侖萬(wàn)維發(fā)布了中國(guó)第一個(gè)真正實(shí)現(xiàn)智能涌現(xiàn)的國(guó)產(chǎn)大語(yǔ)言模型——「天工3.5」，并啟動(dòng)邀請(qǐng)測(cè)試。

5月19日，北京市經(jīng)濟(jì)和信息化局公布第一批《北京市通用人工智能產(chǎn)業(yè)創(chuàng)新伙伴計(jì)劃成員名單》。昆侖萬(wàn)維憑借在AIGC領(lǐng)域的前沿探索和投資布局，成為第一批模型伙伴和投資伙伴。

8月23日，昆侖萬(wàn)維發(fā)布國(guó)內(nèi)第一款A(yù)I搜索產(chǎn)品——天工AI搜索。

9月1日，計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)領(lǐng)域的國(guó)際頂級(jí)專家顏水成教授正式加盟昆侖萬(wàn)維，與昆侖萬(wàn)維創(chuàng)始人周亞輝一起出任天工智能聯(lián)席CEO，并兼任昆侖萬(wàn)維2050全球研究院院長(zhǎng)，負(fù)責(zé)前沿技術(shù)的研究。

9月5日，昆侖萬(wàn)維天工大模型在騰訊優(yōu)圖實(shí)驗(yàn)室聯(lián)合廈門大學(xué)開展的多模態(tài)大語(yǔ)言模型測(cè)評(píng)中，綜合得分排名第一。

9月25日，昆侖萬(wàn)維正式控股艾捷科芯，布局AI芯片。

今天，天工Skywork-13B系列大模型的開源標(biāo)志著昆侖萬(wàn)維持續(xù)投資AGI生態(tài)的決心。

昆侖萬(wàn)維集團(tuán)介紹

昆侖萬(wàn)維于2008年成立，2015年深交所上市，從游戲起家到AII In AGI與AIGC， 全面構(gòu)建多元化的業(yè)務(wù)生態(tài)，至今十余年的發(fā)展，我們始終致力于為全球用戶提供領(lǐng)先的互聯(lián)網(wǎng)產(chǎn)品與服務(wù)。現(xiàn)今，昆侖萬(wàn)維還在不斷探索AI領(lǐng)域的無(wú)限可能。目前昆侖萬(wàn)維逐漸構(gòu)建了AGI與AIGC、海外信息分發(fā)與元宇宙、投資三大業(yè)務(wù)板塊，業(yè)務(wù)覆蓋全球一百多個(gè)國(guó)家和地區(qū)，全球平均月活躍用戶近4億。

憑借對(duì)科技發(fā)展趨勢(shì)的超前預(yù)判，昆侖萬(wàn)維早在2020年便已開始布局AIGC領(lǐng)域。至今，已積累近三年的相關(guān)工程研發(fā)經(jīng)驗(yàn)，并建立了行業(yè)領(lǐng)先的預(yù)訓(xùn)練數(shù)據(jù)深度處理能力，昆侖萬(wàn)維也在人工智能領(lǐng)域取得了重大突破，目前已形成AI大模型、AI搜索、AI游戲、AI音樂、AI動(dòng)漫、AI社交六大AI業(yè)務(wù)矩陣，是國(guó)內(nèi)模型技術(shù)與工程能力最強(qiáng)，布局最全面，同時(shí)全身心投入開源社區(qū)建設(shè)的企業(yè)之一。