螞蟻數(shù)科向全球開源180萬深度偽造定位數(shù)據(jù)集，助力AI算法可解釋
IJCAI深度偽造檢測研討會召開，螞蟻數(shù)科、斯坦福大學(xué)開源AI偽造數(shù)據(jù)集
生成式AI引發(fā)的欺詐風(fēng)險席卷全球，研究與之對抗的鑒別技術(shù)，成為AI時代的長期命題。
近日，在加拿大蒙特利爾舉行的國際人工智能聯(lián)合會議（IJCAI）期間，螞蟻數(shù)科與新加坡科技研究局聯(lián)合主辦“深度偽造檢測、定位、可解釋性”研討會。會上，螞蟻數(shù)科與斯坦福大學(xué)分別開源兩大深度偽造數(shù)據(jù)集，涵蓋人類面部及動作偽造、聲音克隆等多種模態(tài)，為行業(yè)提供了關(guān)鍵的基礎(chǔ)數(shù)據(jù)資源，推動AI安全技術(shù)發(fā)展。
該研討會聚焦Deepfake（深度偽造）識別方向，來自中國、美國、澳大利亞、巴西、新加坡等多國知名機(jī)構(gòu)學(xué)者與行業(yè)專家分享前沿技術(shù)和應(yīng)用成果。
螞蟻數(shù)科將用于IJCAI“深度偽造檢測挑戰(zhàn)賽”的180萬訓(xùn)練數(shù)據(jù)集(DDL-Datasets)，正式向全球研究者開源。該數(shù)據(jù)集包含人臉偽造、視頻篡改、聲音克隆三大高危場景，涵蓋80余種偽造手法，清晰標(biāo)注了AI造假的畫面位置、時間節(jié)點(diǎn)，有助于提升算法可解釋性。研究者可在Modelscope（磨搭社區(qū)）下載獲取。
圖：螞蟻數(shù)科國際算法負(fù)責(zé)人李建樹分享深度偽造定位數(shù)據(jù)集由斯坦福大學(xué)、谷歌與加州大學(xué)伯克利分校聯(lián)合開源的視頻數(shù)據(jù)集 DeepAction，包含7款大模型生成的2,600段人類動作視頻以及相匹配的真實(shí)鏡頭，這些視頻展示了行走、奔跑、烹飪等日常行為，研究者可在Hugging Face（抱抱臉社區(qū)）下載獲取。此外，研究團(tuán)隊發(fā)表的論文《AI生成人體動作檢測》（Human Action CLIPs: Detecting AI-Generated Human Motion）獲得該主題workshop最佳論文。該論文提出了一種基于多模態(tài)語義嵌入的鑒別技術(shù)，可精準(zhǔn)區(qū)分真實(shí)人體動作與AI生成動作。該方法具有較強(qiáng)的魯棒性，可有效抵御數(shù)據(jù)篡改手段（如調(diào)整分辨率、壓縮視頻等）對檢測算法的干擾。
圖：新加坡科技研究局周天異教授為斯坦福大學(xué)Matyas Bohacek頒發(fā)最佳論文獎澳大利亞莫納什大學(xué)Abhinav Dhall教授分享了其研究團(tuán)隊通過腦電圖數(shù)據(jù)發(fā)現(xiàn)：不同文化背景人群對AI造假視頻存在感知差異，當(dāng)視頻語言為參與者熟悉的英語且演員來自相似種族背景時，其區(qū)分真實(shí)視頻與深度偽造視頻的表現(xiàn)更佳。該研究為全球化多元背景下的深度偽造分析領(lǐng)域鋪就了未來探索路徑。
公開信息顯示，螞蟻數(shù)科長期關(guān)注并持續(xù)投入AI安全及風(fēng)險防范，旗下安全科技品牌ZOLOZ自2017年起服務(wù)海外機(jī)構(gòu)的數(shù)智化升級，目前已覆蓋超25個國家和地區(qū)，“實(shí)人認(rèn)證”產(chǎn)品準(zhǔn)確率達(dá)99.9%。
- 清北浙領(lǐng)跑兩院新院士候選！最年輕被提名人39歲2025-08-22
- 凌晨戰(zhàn)神Qwen又搞事情！新模型讓圖像編輯“哪里不對改哪里”2025-08-19
- 向醫(yī)務(wù)工作者致敬！AQ上線PC專業(yè)版，為醫(yī)生減負(fù)2025-08-19
- 英偉達(dá)新研究：小模型才是智能體的未來2025-08-19
相關(guān)閱讀
