Sora問(wèn)世，如何用大模型反詐？

十三 2024-04-18 21:44:45 來(lái)源：量子位

允中 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

龍年伊始，Sora橫空出世。

2月15日（美國(guó)當(dāng)?shù)貢r(shí)間），人工智能研究公司OpenAI正式對(duì)外發(fā)布人工智能文生視頻大模型：Sora。一年多前該公司發(fā)布的革命性產(chǎn)品ChatGPT影響還在持續(xù)，而Sora一經(jīng)發(fā)布便立即轟動(dòng)全球AI領(lǐng)域，再次成為輿論焦點(diǎn)。

根據(jù)OpenAI的技術(shù)報(bào)告顯示，Sora這類(lèi)視頻生成模型是世界的模擬器，能夠理解和模擬現(xiàn)實(shí)世界模型的基礎(chǔ)、了解物體在物理世界中的存在方式，可以根據(jù)使用者的文本提示創(chuàng)建最長(zhǎng)達(dá)60秒的視頻，視頻內(nèi)容能夠深度模擬真實(shí)物理世界，能生成具有多個(gè)角色、包含特定運(yùn)動(dòng)的復(fù)雜場(chǎng)景。

文生視頻大模型并非OpenAI獨(dú)創(chuàng)，Runway、Pika、Stable Video Diffusion等大量AI創(chuàng)業(yè)公司在這條賽道上百家爭(zhēng)鳴，但Sora發(fā)布后造成如此大轟動(dòng)與熱議的原因，在于它突破性的進(jìn)展，滿足了AI領(lǐng)域新一代生產(chǎn)力工具愿景，從“生成視頻的長(zhǎng)度”、“鏡頭切換與畫(huà)面流暢度”、“使用的基礎(chǔ)模型架構(gòu)”三個(gè)方面均遠(yuǎn)超現(xiàn)有同類(lèi)產(chǎn)品水平。

目前OpenAI官網(wǎng)已更新了數(shù)十個(gè)視頻DEMO，在這些范例視頻中，Sora不僅精準(zhǔn)呈現(xiàn)了細(xì)節(jié)，還能理解物體在物理世界中的存在，并生成了具有豐富情感的角色。

△視頻來(lái)源：OpenAI官網(wǎng)

△視頻來(lái)源：OpenAI官網(wǎng)

Sora的出現(xiàn)，可以預(yù)見(jiàn)未來(lái)將對(duì)影視、游戲、廣告等內(nèi)容行業(yè)產(chǎn)生巨大影響，同時(shí)還將推動(dòng)AI服務(wù)器、AI芯片與光通信等上游行業(yè)的發(fā)展，但在暢享正面影響的同時(shí)，存在的隱患我們也需要警惕。

在Sora問(wèn)世前已有多起利用AI偽造視頻進(jìn)行詐騙的案例，昭示了AI生成視頻可能被濫用于非法目的的風(fēng)險(xiǎn)。而今后Sora的普及將會(huì)進(jìn)一步降低偽造視頻的門(mén)檻，由深度偽造進(jìn)行的欺詐行為可能會(huì)更加泛濫。

AI技術(shù)再升級(jí)，欺詐檢測(cè)三重難關(guān)：識(shí)別、檢測(cè)、追溯

Sora的出現(xiàn)意味著今后利用AI升級(jí)技術(shù)實(shí)施欺詐行為門(mén)檻將變低，反欺詐產(chǎn)品服務(wù)類(lèi)科技公司在面對(duì)更強(qiáng)大的欺詐攻擊時(shí)，將面臨更加嚴(yán)峻的挑戰(zhàn)。其中，可預(yù)見(jiàn)最大的變化會(huì)來(lái)自“深度偽造”?！吧疃葌卧臁钡奈ｋU(xiǎn)不僅在于生成虛假視頻和圖片，還在于其所促成的整個(gè)詐騙生態(tài)系統(tǒng)：一個(gè)由機(jī)器人、虛假賬戶和匿名服務(wù)組成的錯(cuò)綜復(fù)雜的網(wǎng)絡(luò)運(yùn)作，所有這些都旨在制作、放大和分發(fā)捏造的信息和內(nèi)容，具有識(shí)別難、檢測(cè)難和追溯難的問(wèn)題。

除“深度偽造”外，AI生成視頻包含違法或倫理道德風(fēng)險(xiǎn)內(nèi)容、合成身份、虛假信息傳播以及版權(quán)隱私侵犯等，也都是Sora將來(lái)可能帶來(lái)的棘手問(wèn)題。要想防御與打擊這些問(wèn)題造成的欺詐行為，一方面需要識(shí)別檢測(cè)偽造的視頻、圖片和信息（有效甄別出虛假偽造的內(nèi)容）；另一方面需要實(shí)行諸如“深度偽造”欺詐行為的渠道和平臺(tái)網(wǎng)絡(luò)進(jìn)行識(shí)別與檢測(cè)（多方面提升數(shù)字賬號(hào)的安全性）、同時(shí)還要防范由類(lèi)似AI生成工具引發(fā)的假證濫用情況。

針對(duì)Sora問(wèn)世后公眾產(chǎn)生的造假焦慮，OpenAI稱(chēng)在真正面向公眾推出產(chǎn)品時(shí)，將確保生成視頻包含來(lái)源元數(shù)據(jù)，并推出檢測(cè)視頻真?zhèn)蔚墓ぞ?。OpenAI還承諾，在產(chǎn)品中使用Sora前將采取安全措施，包括由“錯(cuò)誤信息、仇恨內(nèi)容和偏見(jiàn)等領(lǐng)域的專(zhuān)家”對(duì)模型進(jìn)行對(duì)抗性測(cè)試來(lái)評(píng)估危害或風(fēng)險(xiǎn)；核查并拒絕包含極端暴力、性?xún)?nèi)容、仇恨圖像、他人IP等文本輸入提示等。即便如此，OpenAI也承認(rèn)，盡管進(jìn)行了廣泛的研究和測(cè)試，“我們?nèi)詿o(wú)法預(yù)測(cè)人們將使用我們技術(shù)的所有有益方式和濫用我們技術(shù)的所有方式”。

隨著技術(shù)水平的提升，AI生成視頻的反欺詐審核迎來(lái)了新的挑戰(zhàn)，ADVANCE.AI作為全球領(lǐng)先的人工智能科技企業(yè)，致力于為全球金融機(jī)構(gòu)和互聯(lián)網(wǎng)企業(yè)提供中立、可靠、合規(guī)的數(shù)字身份驗(yàn)證和風(fēng)險(xiǎn)管理解決方案。一直以來(lái)，ADVANCE.AI都在密切關(guān)注“深度偽造”與“合成身份”欺詐領(lǐng)域技術(shù)的進(jìn)展，并不斷提升產(chǎn)品實(shí)力。由ADVANCE.AI推出的“星鑒”數(shù)字身份驗(yàn)證與風(fēng)險(xiǎn)管理解決方案，產(chǎn)品中包含了全新升級(jí)的“3D活體檢測(cè)功能”，通過(guò)引導(dǎo)用戶移開(kāi)/靠近相機(jī)，進(jìn)行活躍度檢測(cè)，捕捉用戶近景和遠(yuǎn)景圖像，確保用戶圖像采集的實(shí)時(shí)性，提高對(duì)重拍和深度偽造欺詐的檢測(cè)準(zhǔn)確性，高效防范Al換臉、人臉合成等“深度偽造”身份欺詐攻擊。而同樣防范身份偽造的“假證檢測(cè)”產(chǎn)品，則通過(guò)全自動(dòng)化的工作流程、智能的機(jī)器學(xué)習(xí)模型，確保能夠準(zhǔn)確、快速地識(shí)別出6大證件偽造類(lèi)型，確保用戶提供的身份證件的真實(shí)性，預(yù)防欺詐行為，保護(hù)企業(yè)和機(jī)構(gòu)免受身份證件偽造風(fēng)險(xiǎn)的影響。

Sora發(fā)布以來(lái)，ADVANCE.AI一直給予高度關(guān)注，面對(duì)未來(lái)由此帶來(lái)的欺詐升級(jí)，相應(yīng)的反欺詐解決方案產(chǎn)品已加入升級(jí)計(jì)劃，有能力與信心應(yīng)對(duì)欺詐領(lǐng)域日新月異的變化，持續(xù)為企業(yè)全球化發(fā)展保駕護(hù)航。針對(duì)此次Sora的發(fā)布，我們采訪了ADVANCE.AI技術(shù)負(fù)責(zé)人范懷宇與ADVANCE.AI人工智能產(chǎn)品負(fù)責(zé)人余江波，二人分享了Sora在AI生成欺詐領(lǐng)域的影響判斷與防范應(yīng)對(duì)的看法。

對(duì)抗“深度偽造”的黑暗升級(jí)，從算法與數(shù)據(jù)訓(xùn)練上提升反欺詐技術(shù)

“在‘AI視頻生成’這件事上，Sora的發(fā)布有點(diǎn)劃時(shí)代的意思，多年后我們甚至可以用‘Sora前時(shí)代’和‘Sora后時(shí)代’來(lái)進(jìn)行描述，等Sora正式面向公眾發(fā)布且大面積鋪開(kāi)使用后，影視、游戲、廣告等行業(yè)肯定會(huì)有不小的變革，而在AI生成視頻欺詐領(lǐng)域也會(huì)有影響，欺詐者的犯罪成本和門(mén)檻進(jìn)一步降低了?！盇DVANCE.AI技術(shù)負(fù)責(zé)人范懷宇說(shuō)到，“而該技術(shù)對(duì)‘深度偽造’這一欺詐行為的加持將是最明顯的，以往我們應(yīng)對(duì)“深度偽造”監(jiān)測(cè)識(shí)別的常見(jiàn)方法有利用圖像的特征，尋找特定篡改證據(jù)的[圖像特征檢測(cè)]，以及[圖像構(gòu)成真實(shí)性比對(duì)]的方法，利用人工智能技術(shù)深度偽造的圖像或視頻，在圖像細(xì)節(jié)上，還是會(huì)出現(xiàn)一些與基于實(shí)物正常拍攝的圖像之間的明顯偏差，比對(duì)其中的差異后進(jìn)行反欺詐應(yīng)對(duì)?！?/p>

范懷宇還表示“在動(dòng)態(tài)視頻的深度偽造監(jiān)測(cè)上，以往我們會(huì)通過(guò)檢測(cè)、觀察動(dòng)態(tài)人像在一些指定角度扭動(dòng)時(shí)圖像特征或構(gòu)成的異常變化，可以發(fā)現(xiàn)是否存在偽造。有了Sora的加持后，這類(lèi)偽造視頻細(xì)節(jié)上的真實(shí)程度會(huì)大幅提升、漏洞與破綻可能會(huì)變得難以察覺(jué)，這就要求我們要提升ADVANCE.AI現(xiàn)有的‘活體檢測(cè)功能’產(chǎn)品的欺詐行為識(shí)別能力，從算法與數(shù)據(jù)訓(xùn)練上下功夫。”

Sora加持后的潛在欺詐行為并非完美無(wú)缺，深挖不同點(diǎn)賦能產(chǎn)品是關(guān)鍵

在Sora震撼發(fā)布后的極短時(shí)間內(nèi)，ADVANCE.AI內(nèi)部團(tuán)隊(duì)便敏銳的感知到Sora未來(lái)可能為反欺詐領(lǐng)域造成的影響。雖說(shuō)成熟產(chǎn)品還未面向大眾，但一旦正式投入市場(chǎng)，Sora作為利器很快便會(huì)被欺詐者瞄上作為潛在的犯罪工具，因此反欺詐戰(zhàn)線需要提前做出防范。

“這次OpenAI發(fā)布Sora能在各領(lǐng)域產(chǎn)生如此大的轟動(dòng)，用‘遙遙領(lǐng)先’一詞可以比較準(zhǔn)確的定義”，ADVANCE.AI人工智能產(chǎn)品負(fù)責(zé)人余江波表示，“在其他AI生成視頻公司的普遍水平還在4秒左右時(shí)，Sora直接支持最大生成60秒長(zhǎng)度視頻，直接跨越式升級(jí)15倍。從官方發(fā)布的DEMO視頻看，Sora能夠在保持主體一致性的前提下實(shí)現(xiàn)多角度鏡頭無(wú)縫切換，整個(gè)畫(huà)面干凈流暢，實(shí)現(xiàn)了真正的視頻大片效果。而在基礎(chǔ)模型架構(gòu)的使用上，此前的AI生成視頻大部分都是基于‘大模型+大數(shù)據(jù)’架構(gòu)，因此在AI幻覺(jué)這個(gè)問(wèn)題上難以突破，但Sora則已經(jīng)具有了世界模型的雛形，因此內(nèi)容更加符合、邏輯也更加令人信服?！?/p>

余江波還表示,“從技術(shù)上講，Sora的技術(shù)基礎(chǔ)包括Transformer、圖片字幕、擴(kuò)散模型、視頻patches和Dit等，這些技術(shù)都是之前已經(jīng)存在的，但OpenAI結(jié)合了更強(qiáng)大的算力和豐富的訓(xùn)練數(shù)據(jù)，這些因素共同推動(dòng)了Sora在AI生成視頻領(lǐng)域的創(chuàng)新。更強(qiáng)的矛勢(shì)必催生更強(qiáng)的盾，Sora被應(yīng)用在金融欺詐領(lǐng)域不可避免，但結(jié)合Sora背后的這些技術(shù)特點(diǎn)，我們可以模擬可能發(fā)生的欺詐行為，例如畫(huà)面更逼真、漏洞更少的深度偽造的AI視頻發(fā)起的欺詐行為，找出與以往既有深度偽造、合成身份欺詐行為的不同之處，進(jìn)而提升我們ADVANCE.AI反欺詐解決方案產(chǎn)品的防御能力，讓客戶用著安心。除了畫(huà)面識(shí)別之外，通過(guò)更多維度的信息能更好的檢測(cè)潛在欺詐行為。這些信息網(wǎng)可以幫助我們搭建更加安全的反欺詐體系，包括用戶行為特征和網(wǎng)絡(luò)關(guān)系?！?/strong>

ADVANCE.AI 數(shù)字身份驗(yàn)證與風(fēng)險(xiǎn)管理解決方案領(lǐng)航者

作為全球領(lǐng)先的人工智能技術(shù)企業(yè)，ADVANCE.AI“星鑒”數(shù)字身份驗(yàn)證與風(fēng)險(xiǎn)管理解決方案可以幫助互聯(lián)網(wǎng)金融、數(shù)字銀行、社交直播平臺(tái)等容易面臨高欺詐風(fēng)險(xiǎn)的企業(yè)輕松實(shí)現(xiàn)數(shù)字化管理，管理用戶注冊(cè)風(fēng)險(xiǎn)、交易風(fēng)險(xiǎn)等。ADVANCE.AI在東南亞、拉丁美洲、非洲等新興國(guó)家市場(chǎng)積累了豐富的本土化服務(wù)經(jīng)驗(yàn)，自2016年成立以來(lái)，ADVANCE.AI的技術(shù)服務(wù)已得到全球超過(guò)500家金融機(jī)構(gòu)和企業(yè)客戶的認(rèn)可，服務(wù)客戶遍布印尼、菲律賓、墨西哥、哥倫比亞、尼日利亞、新加坡、馬來(lái)西亞等國(guó)家，身份驗(yàn)證產(chǎn)品的API調(diào)用量達(dá)到400萬(wàn)次，年調(diào)用量已接近20億次，OCR準(zhǔn)確率高達(dá)99.4%、能夠精準(zhǔn)識(shí)別3000+證件類(lèi)型，產(chǎn)品數(shù)據(jù)安全符合多項(xiàng)ISO權(quán)威認(rèn)證。

△ADVANCE.AI一站式數(shù)字身份驗(yàn)證與合規(guī)反欺詐解決方案

其中，“星鑒”數(shù)字身份驗(yàn)證與風(fēng)險(xiǎn)管理解決方案包含以下功能：

3D活體檢測(cè)功能，可以通過(guò)引導(dǎo)用戶移開(kāi)/靠近相機(jī)，進(jìn)行活躍度檢測(cè)，在過(guò)程中實(shí)時(shí)反饋和指導(dǎo)正確姿勢(shì)，捕捉近景和遠(yuǎn)景圖像，高效識(shí)別身份欺詐，提高對(duì)重拍和深度偽造欺詐的檢測(cè)準(zhǔn)確性。同時(shí)，該功能增強(qiáng)了前端交互和后端模型性能，支持客戶根據(jù)自身品牌調(diào)性自定義配置背景顏色、UI樣式、指示位置等等。

此外，身份證件作為用戶個(gè)人最重要的身份證明信息，ADVANCE.AI 的證件識(shí)別功能針對(duì)各個(gè)證件定制化開(kāi)發(fā)，可實(shí)時(shí)、準(zhǔn)確地從身份證件的圖像中提取結(jié)構(gòu)化的身份信息，顯著提升數(shù)據(jù)記錄、遠(yuǎn)程注冊(cè)、實(shí)名認(rèn)證、身份識(shí)別等方面的準(zhǔn)確性和工作效率。

同時(shí)，假證識(shí)別功能可以有效識(shí)別偽造身份證圖片，如屏幕翻拍，黑白復(fù)印，人臉貼圖，身份證號(hào)碼篡改等，多重保障用戶身份證件的真實(shí)性。

“星鑒”解決方案中涵蓋的生物識(shí)別、人臉比對(duì)功能的識(shí)別精準(zhǔn)率超過(guò)99%，領(lǐng)先市場(chǎng)同類(lèi)產(chǎn)品，并特別針對(duì)東南亞、拉丁美洲、非洲等地區(qū)的用戶使用習(xí)慣進(jìn)行了優(yōu)化，識(shí)別不受當(dāng)?shù)赜脩舻团涫謾C(jī)攝像頭或驗(yàn)證環(huán)境光照條件的影響，且控制識(shí)別響應(yīng)時(shí)速在1秒以?xún)?nèi)。同時(shí)，ADVANCE.AI的生物識(shí)別技術(shù)還對(duì)用戶戴著帽子、眼鏡、妝效等進(jìn)行人臉識(shí)別時(shí)的驗(yàn)證效果進(jìn)行了優(yōu)化。

為了便利企業(yè)或金融機(jī)構(gòu)可以根據(jù)展業(yè)的不同目的地市場(chǎng)，自身不同的成本規(guī)劃，落地更因地制宜的技術(shù)部署選擇，ADVANCE.AI支持云端SaaS、本地化、可視化平臺(tái)等多元部署方式。

除了數(shù)字身份（KYC）產(chǎn)品，ADVANCE.AI還與海外當(dāng)?shù)毓俜綌?shù)據(jù)庫(kù)、運(yùn)營(yíng)商、征信機(jī)構(gòu)合作，確保數(shù)據(jù)服務(wù)中立、可靠、合規(guī)。企業(yè)和金融機(jī)構(gòu)可以結(jié)合社交媒體/手機(jī)號(hào)碼/電話號(hào)碼狀態(tài)檢測(cè)工具、IP風(fēng)險(xiǎn)檢測(cè)工具、郵箱檢測(cè)工具、身份信用評(píng)分、企業(yè)信息篩查（KYB）等多種工具一起使用。同時(shí)，支持自動(dòng)化數(shù)字身份驗(yàn)證流程（KYC）與反洗錢(qián)制裁和風(fēng)險(xiǎn)名單篩查一體化部署，高效助力企業(yè)及時(shí)識(shí)別與發(fā)現(xiàn)合規(guī)與風(fēng)險(xiǎn)管理流程本身衍生出的漏洞或風(fēng)險(xiǎn)問(wèn)題，同時(shí)更好地釋放AI技術(shù)的效率價(jià)值。

如果您對(duì)ADVANCE.AI“星鑒”數(shù)字身份驗(yàn)證與風(fēng)險(xiǎn)管理解決方案感興趣，可以點(diǎn)擊下方鏈接申請(qǐng)免費(fèi)試用。

https://share.hsforms.com/1EaMCAmKzTTSo7EddiKQcow3hyt9

版權(quán)所有，未經(jīng)授權(quán)不得以任何形式轉(zhuǎn)載及使用，違者必究。