白交 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
阿里大模型，再次開(kāi)源大放送——
發(fā)布Qwen1.5版本，直接放出六種尺寸。
最大的Qwen1.5-72B-Chat模型，在MT-Bench和Alpaca-Eval v2上，超越Claude-2.1、GPT-3.5-Turbo-0613。
甚至在部分任務(wù)中，得分已經(jīng)超過(guò)前幾個(gè)版本的GPT-4。
各地的開(kāi)發(fā)者前來(lái)祝賀，其中0.5B的迷你版讓不少人都迫不及待想試試。
并且還順便問(wèn)問(wèn)，那個(gè)多模態(tài)大模型Qwen-VL-Max有可能開(kāi)源嗎？
除此之外，還集成到了Hugging face transformers，以及同主流的十余個(gè)框架合作，從微調(diào)、部署、量化到本地推理一步到位。
Qwen1.5開(kāi)源
此次開(kāi)源發(fā)布，主要有四個(gè)方面值得關(guān)注。
首先，模型系列很多，直接開(kāi)源了6種尺寸（0.5B、1.8B、4B、7B、14B、72B）的基礎(chǔ)模型（base）、聊天模型（chat）以及量化模型（包括Int4 和 Int8 GPTQ 模型，以及 AWQ 和 GGUF 量化模型）。
其次，更多的生態(tài)融入。
目前，Qwen1.5的代碼合并到Hugging Face transformers，使其transformers>=4.37.0而無(wú)需trust_remote_code。
此外，還同主流的第三方框架，比如vLLM、用于部署的SGLang 、用于量化的AutoAWQ、AutoGPTQ 、用于微調(diào)的Axolotl、LLaMA-Factory以及用于本地 LLM 推理的llama.cpp等進(jìn)行了合作。
Qwen1.5系列可在Ollama、LMStudio等平臺(tái)上使用。此外，API 服務(wù)不僅在 DashScope 上提供，而且在Together.ai上也提供，具有全球可訪問(wèn)性。
再者，性能更強(qiáng)。
比如在基本能力的評(píng)估上，包括MMLU（5-shot）、C-Eval、Humaneval、GS8K、BBH等基準(zhǔn)測(cè)試中可以看到，Qwen1.5-72B一些分?jǐn)?shù)上已經(jīng)超過(guò)了GPT-4。
在長(zhǎng)上下文支持上，全系列模型的能力都有一定的拓展。尤其Chat模型，像Qwen1.5-7B-Chat這樣的小模型，在5個(gè)任務(wù)中有4個(gè)表現(xiàn)與GPT-3.5相當(dāng)。
而Qwen1.5-72B-Chat的性能，則明顯優(yōu)于 GPT3.5-turbo-16k，略微落后于 GPT4-32k。
在代碼執(zhí)行上，72B聊天模型在數(shù)學(xué)以及可視化方面離GPT-4還有一定的差距，但代碼可執(zhí)行率超過(guò)GPT-4。不過(guò)他們表示，會(huì)在在未來(lái)的版本中得到增強(qiáng)。
除此之外，此次功能也得到了升級(jí)和統(tǒng)一。
- 全系列均統(tǒng)一支持至少32k的最大長(zhǎng)度；
- 多語(yǔ)言能力全面提升并提供了更豐富的多語(yǔ)言評(píng)測(cè)；
- 全系列統(tǒng)一支持system prompt;
- 統(tǒng)一具備強(qiáng)鏈接外部系統(tǒng)能力（agent/RAG/Tool-use/Code-interpreter）
One More Thing
這兩天，與阿里大模型的進(jìn)展還不少。
比如前幾天，其多模態(tài)大模型Qwen-VL-Max登頂OpenCompass榜首。
以及在通義千問(wèn)APP上，上線了不少春節(jié)免費(fèi)新應(yīng)用，比如全家福、拜新年、萬(wàn)物成龍等圖像生成的功能。
此外，還有網(wǎng)友反饋說(shuō)，通義千問(wèn)2.0版本升級(jí)之后，能力提升得很明顯。
你有感受到嗎？
項(xiàng)目鏈接：
https://huggingface.co/collections/Qwen/qwen15-65c0a2f577b1ecb76d786524
https://qwenlm.github.io/zh/blog/qwen1.5/
參考鏈接：
[1]https://twitter.com/JustinLin610/status/1754538215959335100
[2]https://twitter.com/huybery/status/1754537742892232972
[3]https://twitter.com/_akhaliq/status/1754545091434139732
