超火迷你GPT-4視覺能力暴漲，GitHub兩萬星，華人團(tuán)隊出品
只需一個簡單指令
白交 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
GPT-4V來做目標(biāo)檢測？網(wǎng)友實測：還沒有準(zhǔn)備好。
雖然檢測到的類別沒問題，但大多數(shù)邊界框都錯放了。
沒關(guān)系，有人會出手！
那個搶跑GPT-4看圖能力幾個月的迷你GPT-4升級啦——MiniGPT-v2。
而且只是一句簡單指令：[grounding] describe this image in detail就實現(xiàn)的結(jié)果。
不僅如此，還輕松處理各類視覺任務(wù)。
圈出一個物體，提示詞前面加個 [identify] 可讓模型直接識別出來物體的名字。
當(dāng)然也可以什么都不加，直接問~
MiniGPT-v2由來自MiniGPT-4的原班人馬（KAUST沙特阿卜杜拉國王科技大學(xué)）以及Meta的五位研究員共同開發(fā)。
上次MiniGPT-4剛出來就引發(fā)巨大關(guān)注，一時間服務(wù)器被擠爆，如今GItHub項目已超22000+星。
此番升級，已經(jīng)有網(wǎng)友開始用上了~
多視覺任務(wù)的通用界面
大模型作為各文本應(yīng)用的通用界面，大家已經(jīng)司空見慣了。受此靈感，研究團(tuán)隊想要建立一個可用于多種視覺任務(wù)的統(tǒng)一界面，比如圖像描述、視覺問題解答等。
「如何在單一模型的條件下，使用簡單多模態(tài)指令來高效完成各類任務(wù)？」成為團(tuán)隊需要解決的難題。
簡單來說，MiniGPT-v2由三個部分組成：視覺主干、線性層和大型語言模型。
該模型以ViT視覺主干為基礎(chǔ)，所有訓(xùn)練階段都保持不變。從ViT中歸納出四個相鄰的視覺輸出標(biāo)記，并通過線性層將它們投影到 LLaMA-2語言模型空間中。
團(tuán)隊建議在訓(xùn)練模型為不同任務(wù)使用獨特的標(biāo)識符，這樣一來大模型就能輕松分辨出每個任務(wù)指令，還能提高每個任務(wù)的學(xué)習(xí)效率。
訓(xùn)練主要分為三個階段：預(yù)訓(xùn)練——多任務(wù)訓(xùn)練——多模式指令調(diào)整。
最終，MiniGPT-v2 在許多視覺問題解答和視覺接地基準(zhǔn)測試中，成績都優(yōu)于其他視覺語言通用模型。
最終這個模型可以完成多種視覺任務(wù)，比如目標(biāo)對象描述、視覺定位、圖像說明、視覺問題解答以及從給定的輸入文本中直接解析圖片對象。
感興趣的朋友，可戳下方Demo鏈接體驗：
https://minigpt-v2.github.io/
https://huggingface.co/spaces/Vision-CAIR/MiniGPT-v2
論文鏈接：https://arxiv.o?rg/abs/2310.09478
GitHub鏈接：https://github.com/Vision-CAIR/MiniGPT-4
參考鏈接：https://twitter.com/leoyerrrr
- 英偉達(dá)最新芯片B30A曝光2025-08-20
- AI應(yīng)用如何落地政企？首先不要卷通用大模型2025-08-12
- 本科必學(xué)Dijkstra算法被超越！清華段然團(tuán)隊打破圖靈獎得主證明的普遍最優(yōu)性2025-08-09
- 智能體邁入L4 時代！納米AI多智能體蜂群，可創(chuàng)作最長10分鐘AI視頻2025-08-06
克10-EM-P-150x150.jpg)