OpenAI圖像檢測工具曝光，CTO：AI生成的99%都能認出
谷歌已搶先發(fā)布同類產(chǎn)品，但準確率未知
豐色 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
OpenAI要出手AI圖像識別了。
最新消息，他們公司正在開發(fā)一種檢測工具。
根據(jù)首席技術(shù)官Mira Murat透露：
該工具精度非常高，正確率可達99%。
目前已進入內(nèi)部測試流程中，很快將公開發(fā)布。
不得不說，這個準確率還是讓人有點期待的，畢竟之前OpenAI在AI文本檢測上的努力可是以“26%的正確率”慘敗告終。
AI內(nèi)容檢測，不簡單
OpenAI在AI內(nèi)容檢測領(lǐng)域早有布局。
今年1月，他們就發(fā)布過一款AI文本檢測器，用于區(qū)分AI和人類生成的內(nèi)容，防止AI文本被濫用。
然而7月份該工具就黯然退場：沒有任何公告，頁面直接404。
究其原因，還是正確率太低了，“和瞎猜差不多”。
根據(jù)OpenAI自己公布的數(shù)據(jù)：
它只能正確識別26%的AI生成文本，同時冤枉9%的人類編寫文本。
在此次匆忙收場之后，OpenAI表示會吸收用戶反饋努力改善，并研究更有效的文本來源技術(shù)。
同時，他們還宣布：判斷圖片、音視頻是否由AI生成的工具也要搞起來。
如今，隨著DALL-E 3的問世以及Midjourney等同類工具的不斷迭代，AI繪畫能力越來越強。
最大的擔憂就是用于偽造全球范圍內(nèi)的假新聞圖片。
比如reddit上就有一張AI偽造的“2001年卡斯卡迪亞9.1級地震及海嘯”的“現(xiàn)場”，超過1.2k網(wǎng)友點贊。
相比AI文本檢測工具，AI畫圖檢測工具的開發(fā)顯然更為緊迫（大概是因為“沒人在意演講稿是自己寫的還是秘書寫的”，但“有圖有真相”的內(nèi)容很難不讓一些人相信）。
不過，正如OpenAI的AI文本檢測工具下線時，有網(wǎng)友就指出：
同時開發(fā)生成和檢測工具本身就是矛盾的。
如果一邊做的好就意味著另一邊沒做好，同時還有可能存在利益沖突。
比較直接的思路是交給第三方。
但此前第三方在AI文本上的表現(xiàn)也并不好。
而就技術(shù)本身來說，另一個還算可行的辦法是在AI生成內(nèi)容之時就藏下水印。
谷歌就是這么做的。
日前（今年8月底），谷歌已經(jīng)在OpenAI之前推出了一款A(yù)I圖片檢測技術(shù)：
SynthID。
它目前與谷歌的文生圖模型Imagen合作，讓模型生成的每一張圖像都嵌入一個“這是AI生成的的元數(shù)據(jù)標識”——
即使圖像被進行了裁剪、添加濾鏡、更改顏色甚至有損壓縮等一系列修改，也不會影響識別。
在內(nèi)部測試中，SynthID準確識別出了大量經(jīng)過編輯的AI圖像，但具體的準確率并未透露。
不知道OpenAI即將發(fā)布的工具將采用何種技術(shù)，并且能否成為市面上精度最高的那一個。
奧特曼回應(yīng)“造芯計劃”
以上消息源自于OpenAI CTO與奧特曼本周在《華爾街日報》舉行的Tech Live會議上發(fā)表的講話。
會上，倆人還透露了OpenAI的更多消息。
比如下一代大模型可能就快推出了。
叫啥沒透露，但今年7月OpenAI確實就已經(jīng)申請了GPT-5商標。
有人關(guān)心“GPT-5”的準確性，問它是否能夠不會再產(chǎn)生錯誤或虛假內(nèi)容。
對此，CTO的態(tài)度比較謹慎，只是表示“maybe”。
她解釋道：
我們在GPT-4的幻覺問題上取得了很大進展，但這還沒有達到我們需要的目標。
奧特曼則談及了“造芯計劃”。
從他的原話來看，并沒有“實錘”，但也留下了無限遐想空間：
如果按照默認路徑我們肯定不會這么做，但我永遠不會排除這種可能性。
相比“造芯計劃”，奧特曼對于造手機傳言則回復(fù)得相當干脆。
今年9月，蘋果前首席設(shè)計官Jony Ive（在蘋果工作了27年）被曝與OpenAI接洽，有消息人士稱奧特曼要開發(fā)一種硬件設(shè)備，提供一種與AI交互更自然和直觀的方式，可稱為“AI屆的iPhone”。
現(xiàn)在，他告訴大伙：
我自己都還不確定要做什么呢，只是有一些模糊的想法。
以及：
任何AI設(shè)備都不會蓋過iPhone的受歡迎程度，我也沒有興趣與任何智能手機展開競爭。
參考鏈接：
[1]https://finance.yahoo.com/news/openai-claims-tool-detect-ai-051511179.html?guccounter=1
[2]https://gizmodo.com/openais-sam-altman-says-he-has-no-interest-in-competing-1850937333
- 北大開源最強aiXcoder-7B代碼大模型！聚焦真實開發(fā)場景，專為企業(yè)私有部署設(shè)計2024-04-09
- 剛剛，圖靈獎揭曉！史上首位數(shù)學和計算機最高獎“雙料王”出現(xiàn)了2024-04-10
- 8.3K Stars!《多模態(tài)大語言模型綜述》重大升級2024-04-10
- 谷歌最強大模型免費開放了！長音頻理解功能獨一份，100萬上下文敞開用2024-04-10
相關(guān)閱讀
