太火了！我在外灘大會(huì)玩Deepfake，想騙過(guò)機(jī)器人結(jié)果……

白小交 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

我在外灘大會(huì)上生成Deepfake，結(jié)果沒騙過(guò)機(jī)器人……

反倒啪的一下，秒秒鐘就被找出？！

而機(jī)器人手中的神兵利器，僅僅只是我們?nèi)粘６荚谑褂玫氖謾C(jī)攝像頭。

實(shí)在是太火了！

Deepfake攻防，成為整個(gè)外灘大會(huì)現(xiàn)場(chǎng)最受關(guān)注的展區(qū)之一；相關(guān)討論也成為整個(gè)外灘大會(huì)最火熱的論壇，現(xiàn)場(chǎng)可以說(shuō)是人山人海人擠人。

之所以如此受關(guān)注，也有大眾已知的原因。

這不最近DeepFake可以說(shuō)是來(lái)勢(shì)洶洶，用這項(xiàng)AI技術(shù)犯罪的嚴(yán)重程度被網(wǎng)友直呼是「韓國(guó)N號(hào)房再現(xiàn)」。

剛提到的這場(chǎng)“全球Deepfake攻防挑戰(zhàn)賽”，吸引了全球26個(gè)國(guó)家和地區(qū)，2200+技術(shù)研究者對(duì)抗Deepfake威脅。在這期間，大賽隊(duì)伍中科院自動(dòng)化所表示，將開源AI模型供大家免費(fèi)使用，一時(shí)間引發(fā)全網(wǎng)朋友共鳴。

如今在外灘大會(huì)，終于有機(jī)會(huì)親自體驗(yàn)這個(gè)Deepfake從生成到對(duì)抗的流程是什么樣，看AI如何幫助普通人識(shí)別偽造風(fēng)險(xiǎn)。

這背后究竟還有哪些細(xì)節(jié)？除此之外還有哪些亮點(diǎn)，我們一起來(lái)看看。

探展螞蟻數(shù)科

那么首先就來(lái)看螞蟻數(shù)科里這個(gè)超火的展區(qū)：Deepfake攻防。

整個(gè)過(guò)程你唯一需要做的，就是站在一個(gè)定點(diǎn)，由iPad拍攝人臉。

然后，就由現(xiàn)有AI模型來(lái)生成的換臉圖or視頻。

Deepfake就由機(jī)械臂來(lái)從三組圖+一個(gè)視頻中找出真照片?？梢钥吹揭曨l還是很逼真的，這下誰(shuí)能證明“我不是我”。

由于是現(xiàn)場(chǎng)實(shí)時(shí)物理采集，機(jī)械臂手持智能手機(jī)打開相機(jī)拍照來(lái)收集數(shù)據(jù)，然后再進(jìn)行一個(gè)識(shí)別的操作。

短短幾秒鐘的時(shí)間，bingo~機(jī)器人就識(shí)別出來(lái)了正確答案。

據(jù)現(xiàn)場(chǎng)工作人員介紹，在他們?nèi)粘９ぷ髦校羁烊刖涂梢宰R(shí)別出來(lái)。

這背后是由天璣實(shí)驗(yàn)室以及安全品牌ZOLOZ提供技術(shù)支持。

前者主要專注在可信數(shù)字身份這塊，自研了一套自動(dòng)化生物識(shí)別測(cè)評(píng)體系。當(dāng)前市面上70%的安卓手機(jī)，都要來(lái)到天璣實(shí)驗(yàn)室經(jīng)歷一番“毒打”。它也是谷歌全球唯一官方合作”安卓生物識(shí)別安全”檢測(cè)實(shí)驗(yàn)室。

而后者，則是螞蟻數(shù)科旗下安全科技品牌ZOLOZ，現(xiàn)在在為中國(guó)、印尼、馬來(lái)西亞、菲律賓等14個(gè)國(guó)家和地區(qū)的70余家合作伙伴提供技術(shù)服務(wù)，包括像端到端身份驗(yàn)證、在線欺詐檢測(cè)以及持續(xù)風(fēng)險(xiǎn)監(jiān)控服務(wù)等。

今年4月，他們推出了反Deepfake產(chǎn)品ZOLOZ Deeper。外灘大會(huì)展示的，正好是他們?nèi)粘５恼鎸?shí)業(yè)務(wù)場(chǎng)景——

幾十萬(wàn)測(cè)試樣本，每月超20000次的攻防測(cè)評(píng)，模擬上百種偽造攻擊情況·····

同樣以直觀可感的方式展示出來(lái)的，還有他們的AI標(biāo)注場(chǎng)景。

AI大模型生產(chǎn)流程通常包括三個(gè)步驟：采集-標(biāo)注-合成。

首先是采集過(guò)程。

現(xiàn)場(chǎng)準(zhǔn)備了一個(gè)模擬真實(shí)環(huán)境的沙盤，我們通過(guò)控制機(jī)械臂來(lái)對(duì)沙盤中任意位置or場(chǎng)景，進(jìn)行實(shí)時(shí)拍照。

這時(shí)候圖像數(shù)據(jù)也就被傳輸?shù)较到y(tǒng)當(dāng)中去，這也就完成了數(shù)據(jù)生產(chǎn)的起點(diǎn)。

隨后就是標(biāo)注這一步驟，不再是傳統(tǒng)依靠純?nèi)斯さ姆绞?，而是依靠自研的多模態(tài)大模型來(lái)AIGD（AI生成數(shù)據(jù)）。

模型會(huì)自動(dòng)完成目標(biāo)檢測(cè)并標(biāo)注、語(yǔ)義分割、文本描述、深度檢測(cè)、3D建模等任務(wù)。

人類主打一個(gè)協(xié)助審核的作用，比如在文本描述階段，需要靠人工來(lái)審核識(shí)別目標(biāo)的細(xì)節(jié)，比如物體的顏色、形狀等等。

最后就來(lái)到數(shù)據(jù)合成。核心特點(diǎn)就是可控。既可以對(duì)單個(gè)物體編輯，也可以對(duì)整體場(chǎng)景把關(guān)。

這樣一來(lái)無(wú)需采集，打破原有真實(shí)條件限制，可持續(xù)地生產(chǎn)全新的數(shù)據(jù)。

而除了實(shí)景標(biāo)注，旁邊還有個(gè)視頻標(biāo)注的模塊，只需對(duì)任意視頻中的任意一幀進(jìn)行采集，同樣也可以完成接下來(lái)的標(biāo)注和合成操作。

這樣一套全鏈路生產(chǎn)體系，實(shí)測(cè)顯示，在同類結(jié)構(gòu)和同類規(guī)模數(shù)據(jù)量的情況下，會(huì)讓標(biāo)注效率提升40%以上。

除了智能化標(biāo)注產(chǎn)品，螞蟻數(shù)科還配備了萬(wàn)人的人工標(biāo)注團(tuán)隊(duì)，垂直專業(yè)領(lǐng)域同高階標(biāo)注人才超過(guò)90%。

提到數(shù)據(jù)標(biāo)注，當(dāng)前市面上最具代表的莫過(guò)于Scale AI，科技圈當(dāng)紅獨(dú)角獸，他最新完成近 10 億美元融資，估值升至 138 億美元。

不過(guò)同Scale AI不同的是，此次可以看到螞蟻數(shù)科還提供數(shù)據(jù)加工、合成服務(wù)。

比如在一些企業(yè)私域或者垂直領(lǐng)域，大量數(shù)據(jù)尚未公開沒有被充分挖掘。

結(jié)合螞蟻數(shù)科多年來(lái)場(chǎng)景和技術(shù)優(yōu)勢(shì)，這時(shí)候除了幫助企業(yè)實(shí)現(xiàn)數(shù)據(jù)服務(wù)的“就地取材”，還可以針對(duì)性地?cái)?shù)據(jù)泛化，比如像交通、政務(wù)、金融等垂直場(chǎng)景，合成更多高質(zhì)量數(shù)據(jù)。

好了，以上Deepfake攻防與智能標(biāo)注是此次螞蟻數(shù)科最具代表性的展區(qū)內(nèi)容。

值得注意的是，這正好是當(dāng)前業(yè)界正在熱議也是最受關(guān)注的兩個(gè)問(wèn)題：

當(dāng)AI應(yīng)用泛濫，如何應(yīng)對(duì)造假問(wèn)題；大模型加速落地，高質(zhì)量數(shù)據(jù)缺失又應(yīng)該如何解決？

如今大模型時(shí)代來(lái)到應(yīng)用時(shí)期，更多風(fēng)險(xiǎn)和問(wèn)題由此暴露出來(lái)，給企業(yè)帶來(lái)了不少挑戰(zhàn)。

對(duì)于本身在產(chǎn)業(yè)深耕多年的螞蟻數(shù)科，其實(shí)這次也帶來(lái)了他們的解決方案。

這藏在外灘大會(huì)上，藏在這兩個(gè)最受關(guān)注的產(chǎn)品之中。

他們整個(gè)業(yè)務(wù)布局，可以這樣總結(jié)：從AI For Data到Data for AI。

從AI For Data到Data for AI

什么是從AI For Data到Data for AI？要回答這個(gè)問(wèn)題，需要從整個(gè)產(chǎn)業(yè)現(xiàn)狀開始看。

AI發(fā)展到現(xiàn)在，從模型驅(qū)動(dòng)來(lái)到了數(shù)據(jù)驅(qū)動(dòng)，而隨著數(shù)字化轉(zhuǎn)型的深入，企業(yè)生產(chǎn)經(jīng)營(yíng)實(shí)際上是數(shù)據(jù)的流通。技術(shù)與場(chǎng)景，AI與Data，從未像今天這樣如此契合。業(yè)務(wù)場(chǎng)景需要AI來(lái)提效，而高質(zhì)量數(shù)據(jù)需要充分利用為給AI。

一邊是AI for data，利用AI來(lái)充分挖掘數(shù)據(jù)的價(jià)值，進(jìn)行數(shù)據(jù)分析、判別等。

以風(fēng)控場(chǎng)景為例，這是每個(gè)企業(yè)經(jīng)營(yíng)生產(chǎn)時(shí)都會(huì)面對(duì)的場(chǎng)景。

螞蟻數(shù)科搭建了一套決策式AI驅(qū)動(dòng)的風(fēng)控算法模型。引入像工商司法數(shù)據(jù)、財(cái)報(bào)數(shù)據(jù)、產(chǎn)業(yè)鏈數(shù)據(jù)、發(fā)票稅務(wù)數(shù)據(jù)、輿情數(shù)據(jù)等，來(lái)幫助企業(yè)做出高效準(zhǔn)確的決策。

以往需要大量人力進(jìn)行人肉風(fēng)控，對(duì)于他們來(lái)說(shuō)，理解管理訴求和快速?zèng)Q策布控非常具有挑戰(zhàn)性。而現(xiàn)在只需要AI這個(gè)決策輔助在手，運(yùn)營(yíng)新手面對(duì)再?gòu)?fù)雜的場(chǎng)景也能hold住了。

比如螞蟻數(shù)科與中鐵建的合作中，他們共建了一套“產(chǎn)業(yè)數(shù)據(jù)+AI模型”的產(chǎn)業(yè)風(fēng)控平臺(tái)，讓產(chǎn)業(yè)鏈的客商準(zhǔn)入效率提升了至少50%。

一邊data for AI，高質(zhì)量數(shù)據(jù)是訓(xùn)練AI模型的基礎(chǔ)。AI驅(qū)動(dòng)的數(shù)據(jù)服務(wù)-數(shù)據(jù)加工-數(shù)據(jù)標(biāo)注于一體的方案，加速企業(yè)大量原始非結(jié)構(gòu)化數(shù)據(jù)朝著高質(zhì)量結(jié)構(gòu)化數(shù)據(jù)的轉(zhuǎn)化。

除此之外，還有像蟻天鑒這樣的大模型安全產(chǎn)品，來(lái)保障大模型在訓(xùn)練生產(chǎn)和使用過(guò)程中的安全可控可靠。

我們注意到，螞蟻數(shù)科已經(jīng)形成ABC三大業(yè)務(wù)板塊：

首先是云服務(wù)（Cloud+），幫助企業(yè)邁入數(shù)字化「上云」階段，打造更強(qiáng)大的科技引擎；

第二塊是AI服務(wù)（AI+），以AI技術(shù)重構(gòu)升級(jí)風(fēng)控、營(yíng)銷等場(chǎng)景效率，助力企業(yè)在大模型時(shí)代建立競(jìng)爭(zhēng)優(yōu)勢(shì)。

第三塊是區(qū)塊鏈服務(wù)（Blockchain+），通過(guò)科技構(gòu)建產(chǎn)業(yè)信任，提升數(shù)字化協(xié)作效率，加速數(shù)據(jù)資產(chǎn)流通。

對(duì)于螞蟻數(shù)科來(lái)說(shuō)，ABC中的“A”很重要，很明顯的指向是，此次螞蟻數(shù)科呈現(xiàn)出來(lái)的業(yè)務(wù)布局“從AI For Data到Data for AI”，有三個(gè)特點(diǎn)：

產(chǎn)業(yè)、產(chǎn)業(yè)還是產(chǎn)業(yè)。用AI真實(shí)創(chuàng)造產(chǎn)業(yè)價(jià)值，解決實(shí)際問(wèn)題。這同樣也是大模型應(yīng)用最緊要的命題。

產(chǎn)業(yè)需要什么樣的AI？

大模型發(fā)展到現(xiàn)在，人們對(duì)大模型的看法已經(jīng)變了。

比如就從最近諸多行業(yè)問(wèn)題與思考開始，圖像視頻生成模型頻頻開卷，人們的目光不再聚焦于效果多么驚艷，而是因?yàn)樾Ч^(guò)于逼真，開始擔(dān)心背后的潛在隱憂；被「緩解高質(zhì)量數(shù)據(jù)荒」的數(shù)據(jù)合成，結(jié)果Nature封面一個(gè)：Garbage in Garbage out，數(shù)據(jù)合成越多會(huì)導(dǎo)致語(yǔ)言模型崩潰，給這個(gè)新興行業(yè)趨勢(shì)澆了冷水……

以及關(guān)于ScallingLaws的討論，在行業(yè)應(yīng)用的大模型，參數(shù)量到底在多少合適？真的是越來(lái)愈多，模型性能就會(huì)好嗎？

種種問(wèn)題，甚至還導(dǎo)向了另一種傾向：大模型，是不是真的存在泡沫？

之所以能引起這樣的思考，其實(shí)也不難理解。

隨著大模型技術(shù)的發(fā)展和應(yīng)用的深入，一方面人們逐漸意識(shí)到了大模型能力的邊界。模型的參數(shù)量不再作為模型能力的核心指標(biāo)，高質(zhì)量的數(shù)據(jù)流入才能保證模型高性能。

另一方面，大模型進(jìn)入應(yīng)用深水區(qū)。產(chǎn)業(yè)界對(duì)AI的需求，已經(jīng)不僅僅是單純的技術(shù)追求，解決實(shí)際問(wèn)題才是衡量大模型的唯一標(biāo)準(zhǔn)。

隨之而來(lái)的，就是場(chǎng)景中的諸多挑戰(zhàn)。

以數(shù)據(jù)問(wèn)題為例，當(dāng)前市面上通用大模型都是基于互聯(lián)網(wǎng)公開的數(shù)據(jù)集。他們雖然數(shù)量眾多、類別廣泛，但是無(wú)法保質(zhì)保量，甚至大部分都是“臟”數(shù)據(jù)。

對(duì)于專業(yè)嚴(yán)肅的應(yīng)用場(chǎng)景來(lái)說(shuō)，一來(lái)更多高質(zhì)量的行業(yè)數(shù)據(jù)是非公開的，又或者是企業(yè)內(nèi)部自身的，這需要系統(tǒng)來(lái)統(tǒng)一調(diào)度和管理，還有一些非結(jié)構(gòu)數(shù)據(jù)需要轉(zhuǎn)化；二來(lái)，對(duì)于大量公開的數(shù)據(jù)需要工程級(jí)別的清洗、標(biāo)注，才能達(dá)到能使用訓(xùn)練的水平。

因此看大模型落地千行百業(yè)，不能簡(jiǎn)單看大模型的性能展示，而是說(shuō)怎么同產(chǎn)業(yè)的深度融合。

而本身就在產(chǎn)業(yè)有著長(zhǎng)期投入的企業(yè)，他們有著天然的場(chǎng)景優(yōu)勢(shì)，也最有可能將AI能力和影響力才能滲透進(jìn)行業(yè)之中。

螞蟻數(shù)科，就是一個(gè)。

— 完 —