中國(guó)技術(shù)助力全球數(shù)字安全 螞蟻數(shù)科聯(lián)合國(guó)分享AI打假經(jīng)驗(yàn)
為全球AI安全治理提供可復(fù)用的“中國(guó)方案”
近日，聯(lián)合國(guó)在瑞士日內(nèi)瓦召開(kāi)全球AI for Good（人工智能向善）峰會(huì)。螞蟻集團(tuán)技術(shù)戰(zhàn)略與發(fā)展部副總經(jīng)理彭晉受邀分享中國(guó)在金融場(chǎng)景中對(duì)抗“深度偽造”的技術(shù)成果，同時(shí)披露螞蟻數(shù)科服務(wù)的東南亞銀行偽造人臉攻擊頻率已從高峰期的10%大幅擊退至4%，識(shí)別準(zhǔn)確率保持在99.9%，可為全球AI安全治理提供可復(fù)用的“中國(guó)方案””。
螞蟻集團(tuán)技術(shù)戰(zhàn)略與發(fā)展部副總經(jīng)理彭晉在AI for Good峰會(huì)分享中國(guó)技術(shù)成果
全球AI for Good人工智能向善峰會(huì)由聯(lián)合國(guó)下屬國(guó)際電信聯(lián)盟（ITU）與 40 多個(gè)聯(lián)合國(guó)姊妹機(jī)構(gòu)合作舉辦，并與瑞士政府共同承辦。大會(huì)旨在推動(dòng)人工智能促進(jìn)健康、氣候、性別、包容性繁榮、可持續(xù)基礎(chǔ)設(shè)施和其他全球發(fā)展優(yōu)先事項(xiàng)。
隨著生成式AI工具的普及應(yīng)用，全球范圍內(nèi)利用“AI換臉”進(jìn)行欺詐的惡性事件屢見(jiàn)不鮮，尤其在金融機(jī)構(gòu)的用戶注冊(cè)、交易等環(huán)節(jié)，身份偽造可能導(dǎo)致銀行、支付平臺(tái)錯(cuò)誤判斷，帶來(lái)直接經(jīng)濟(jì)損失。據(jù)彭晉介紹，2024年，東南亞銀行的Deepfake（深度偽造）攻擊率，在高峰時(shí)期達(dá)到了10%，即每100次人臉驗(yàn)證中有10次為虛假人臉。在螞蟻數(shù)科的產(chǎn)品技術(shù)支持下，其服務(wù)的東南亞銀行Deepfake攻擊率已擊退至4%。這些銀行用戶身份認(rèn)證的攔截率從原本50%降低至3%。業(yè)務(wù)提效的同時(shí)，識(shí)別準(zhǔn)確率保持在99.9%。同時(shí)，彭晉表示，人臉識(shí)別算法攻防是一個(gè)與黑產(chǎn)對(duì)抗博弈的過(guò)程，算法依然需要以“天”為單位不斷更新，來(lái)對(duì)抗及預(yù)判新型的偽造手法。
據(jù)介紹，目前金融機(jī)構(gòu)面臨的主流“換臉欺詐”方式包括兩大類，一類是呈現(xiàn)式攻擊，即在相機(jī)前呈現(xiàn)虛假圖像以繞過(guò)活體檢測(cè)。另一類是注入式攻擊，即從系統(tǒng)層面破解相機(jī)，注入預(yù)錄圖像/視頻以替換相機(jī)捕獲的面部畫(huà)面。螞蟻數(shù)科旗下ZOLOZ可提供金融級(jí)的身份安全認(rèn)證服務(wù)，在設(shè)備端實(shí)施環(huán)境安全檢測(cè)，在應(yīng)用端利用動(dòng)態(tài)深度學(xué)習(xí)模型精準(zhǔn)識(shí)別活體特征，并建立了完善的業(yè)務(wù)風(fēng)控策略，有效抵御各類攻擊。目前，ZOLOZ的相關(guān)技術(shù)產(chǎn)品已經(jīng)服務(wù)全球超25個(gè)國(guó)家和地區(qū)，助力海外數(shù)字化發(fā)展。
此前，螞蟻數(shù)科在全球人工智能頂會(huì)IJCAI 2025開(kāi)放超過(guò)180萬(wàn)多模態(tài)深度偽造數(shù)據(jù)集，共涵蓋88種偽造技術(shù)，推動(dòng)行業(yè)開(kāi)展可驗(yàn)證、可追溯的AI安全研究。
*本文系量子位獲授權(quán)刊載，觀點(diǎn)僅為作者所有
相關(guān)閱讀
碳足跡“安卓”系統(tǒng)TIDAS發(fā)布 螞蟻數(shù)科提供自主可控技術(shù)支持
我國(guó)首次在LCA和碳足跡數(shù)據(jù)體系全球性挑戰(zhàn)中提出“中國(guó)方案”
螞蟻數(shù)科聯(lián)合浙大實(shí)驗(yàn)室，獲NeurIPS 2024大模型隱私挑戰(zhàn)賽賽道冠軍
保護(hù)大模型數(shù)據(jù)隱私安全
螞蟻數(shù)科余濱：以AI全面升級(jí)云產(chǎn)品，加速邁向AI原生時(shí)代
螞蟻數(shù)科今日舉辦戰(zhàn)略升級(jí)發(fā)布會(huì)
