挑戰(zhàn)GPT-4V！清華唐杰&智譜開源多模態(tài)14邊形戰(zhàn)士，在線可玩
從淺層對(duì)齊到深度融合
夢(mèng)晨 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
看看這張圖中有幾個(gè)房子？如果你回答3個(gè)，就和GPT-4V的答案一樣。
但是最新開源的國(guó)產(chǎn)多模態(tài)模型CogVLM-17B，就能看出另有玄機(jī)。
甚至能區(qū)分在圖中完整可見的有3個(gè)和部分可見的有1個(gè)。
CogVLM由清華和智譜AI合作開發(fā)，通訊作者為唐杰和丁銘，論文和開源代碼已上傳到GitHub。
除這個(gè)單獨(dú)案例之外，CogVLM-17B還在10項(xiàng)權(quán)威跨模態(tài)基準(zhǔn)上取得了SOTA性能。
另外在VQAv2, OKVQA, TextVQA, COCO captioning取得第二，超越或匹配谷歌的PaLI-X 55B。
與之前的開源多模態(tài)大模型相比，可以算是14邊形戰(zhàn)士。
雷達(dá)圖中包含13個(gè)基準(zhǔn)，最后一個(gè)TDIUC單獨(dú)展現(xiàn)。
CogVLM可以回答各種類型的視覺問題，比如從馬斯克的陰陽怪氣中推理出小扎假裝去旅行了，回避約架。
認(rèn)出照片中的C羅，并回答他在2018年世界杯中有多少進(jìn)球。
帶圖的編程題也能給出代碼了。
甚至能完成復(fù)雜的目標(biāo)檢測(cè)，并打上標(biāo)簽，自動(dòng)數(shù)據(jù)標(biāo)注成了。
從淺層對(duì)齊到深度融合
CogVLM模型包含4個(gè)基本組件
- ViT編碼器
- MLP適配器
- 大型預(yù)訓(xùn)練語言模型
- 視覺專家模塊
其中，每層中都添加了可訓(xùn)練的視覺專家模塊，以實(shí)現(xiàn)圖像特征和文本特征的深度對(duì)齊，而不會(huì)犧牲任何NLP任務(wù)的性能。
之前主流的淺層對(duì)齊方法，如BLIP-2，圖像特征和語言模型之間缺乏深度融合,導(dǎo)致性能不佳。
但微調(diào)語言模型的全部參數(shù)又會(huì)損害其NLP能力。
CogVLM的方法可以說是改變了視覺語言模型的訓(xùn)練范式，從淺層對(duì)齊轉(zhuǎn)向深度融合。
另外值得注意的是，CogVLM訓(xùn)練數(shù)據(jù)中沒有專門的OCR數(shù)據(jù)，但表現(xiàn)出了很強(qiáng)的文字識(shí)別能力。
CogVLM開源并給出了在線試玩。
不過目前僅支持英文，后續(xù)會(huì)提供中英雙語版本支持，可以持續(xù)關(guān)注。
試玩地址：
http://36.103.203.44:7861
開源及論文地址：
https://github.com/THUDM/CogVLM
— 完 —
量子位 QbitAI · 頭條號(hào)簽約
關(guān)注我們，第一時(shí)間獲知前沿科技動(dòng)態(tài)
- 字節(jié)突然開源Seed-OSS，512K上下文主流4倍長(zhǎng)度，推理能力刷紀(jì)錄2025-08-21
- “現(xiàn)在讀AI博士已經(jīng)太晚了”2025-08-19
- 谷歌AI攻克亞洲語言難題，2300種語言數(shù)字化計(jì)劃正在推進(jìn)2025-08-18
- AMD蘇姿豐公開懟扎克伯格！反對(duì)1億年薪挖人，使命感比鈔票更重要2025-08-18
相關(guān)閱讀
AI讀論文新神器：多欄密集文字、中英圖文混排文檔都能讀｜曠視
“一圖勝千言”—— one image token >> one text token。
多模態(tài)大咖齊刷刷翻開小紅書
4月20日19:00，由小紅書技術(shù)團(tuán)隊(duì)出品的直播節(jié)目，眾多技術(shù)大咖詳細(xì)講解多模態(tài)技術(shù)應(yīng)用，速來圍觀～
北大等發(fā)布多模態(tài)版o1！首個(gè)慢思考VLM將開源，視覺推理超閉源
代號(hào)LLaVA-o1，超越傳統(tǒng)思維鏈提示
