打擊線下刷單，AI已經(jīng)動(dòng)手了 | WWW2021最佳論文獎(jiǎng)

量子位的朋友們 2021-02-08 19:03:29 來源：量子位

允中?發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號 QbitAI

WWW 2021物聯(lián)網(wǎng)深度學(xué)習(xí)研討會(huì)最佳論文近日新鮮出爐。

拔得頭籌的是一個(gè)名為FRODO的反作弊算法系統(tǒng)：

基于大規(guī)模圖神經(jīng)網(wǎng)絡(luò)，線上能實(shí)時(shí)識(shí)別電商虛假交易，線下能主動(dòng)聚類挖掘風(fēng)險(xiǎn)社群，并形成聯(lián)動(dòng)公檢法系統(tǒng)的自動(dòng)化情報(bào)網(wǎng)絡(luò)，實(shí)時(shí)高效地傳遞電商風(fēng)險(xiǎn)信號的那一種。

簡單說，就是能域內(nèi)+域外、線上+線下、離散行為+聚集團(tuán)伙、提前預(yù)警+主動(dòng)防控，全方位打擊網(wǎng)絡(luò)虛假交易。

這篇名為“What Happens Behind the Scene? Towards Fraud Community Detection in E-Commerce from Online to Offline”的論文由阿里巴巴淘系技術(shù)主導(dǎo)，并與之江實(shí)驗(yàn)室、澳大利亞南昆士蘭大學(xué)、中南大學(xué)合作完成。

該論文在評審環(huán)節(jié)獲得了評委們的一致好評，并以六票全票通過，獲得了WWW2021物聯(lián)網(wǎng)研討會(huì)的最佳論文獎(jiǎng)。

論文評審委員會(huì)的意見反饋中提到：

FRODO開創(chuàng)了用AI線下打擊刷單網(wǎng)絡(luò)的先河。

WWW會(huì)議（萬維網(wǎng)國際會(huì)議）每年召開一次，是探討互聯(lián)網(wǎng)當(dāng)前發(fā)展和未來趨勢的國際頂尖交流平臺(tái)，并被中國計(jì)算機(jī)學(xué)會(huì)評定為頂級會(huì)議。

而WWW 2021的論文接收率僅為19.2%，總體中選難度較大。

為什么治理網(wǎng)絡(luò)虛假交易變得尤為重要？

移動(dòng)互聯(lián)時(shí)代，注意力成為稀缺資源。電商刷單風(fēng)險(xiǎn)的背后，隱藏著規(guī)模龐大的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)鏈，其危害不容小視。

縱觀阿里電商行為風(fēng)控，尤其是刷單行為反作弊的歷史演進(jìn)，可以說與風(fēng)險(xiǎn)主體、作弊團(tuán)伙、以及外部黑灰產(chǎn)平臺(tái)的不斷攻擊迭代和技術(shù)對抗密不可分。尤其是近年來隨著阿里業(yè)務(wù)不斷發(fā)展，各種新興導(dǎo)購場景創(chuàng)新發(fā)展，更多的電商業(yè)務(wù)也面臨著越來越多的風(fēng)險(xiǎn)模式和變化，這為電商行為風(fēng)控帶來了前所未有的挑戰(zhàn)。

正如淘系產(chǎn)品技術(shù)&平臺(tái)生態(tài)業(yè)務(wù)負(fù)責(zé)人湯興（花名：平疇）所說：

淘寶作為中國互聯(lián)網(wǎng)電子商務(wù)第一平臺(tái)，既聯(lián)系著數(shù)億消費(fèi)者的日常所需，又是千萬商家的運(yùn)營陣地，如何用最前沿的算法技術(shù)，維護(hù)平臺(tái)交易安全和電商生態(tài)純凈是淘寶技術(shù)的重要使命。

而這也正是FRODO誕生的原因所在。

反作弊系統(tǒng)FRODO如何煉成

FRODO的名字是O2O電商風(fēng)險(xiǎn)社群識(shí)別系統(tǒng)的英文縮寫，但同時(shí)也有另一層含義，即取源于電影《指環(huán)王》的主人公Frodo Baggins。

影片中Frodo經(jīng)過千辛萬苦，最終成功摧毀魔戒，實(shí)現(xiàn)魔戒圣戰(zhàn)的勝利。

而淘系技術(shù)對抗智能團(tuán)隊(duì)的日常，恰恰與主人公的經(jīng)歷非常相似：需要實(shí)時(shí)與灰黑產(chǎn)進(jìn)行博弈和動(dòng)態(tài)攻防，也無時(shí)無刻不在上演著一場又一場的終極對決。

面對無孔不入的互聯(lián)網(wǎng)黑產(chǎn)，淘系技術(shù)對抗智能團(tuán)隊(duì)面臨的核心挑戰(zhàn)主要集中在3個(gè)維度：

• 業(yè)務(wù)維度，對于一系列線上-線下聯(lián)動(dòng)的新型行為風(fēng)險(xiǎn)，如何通過升級傳統(tǒng)電商風(fēng)控系統(tǒng)，實(shí)現(xiàn)online-to-offline一體化線上風(fēng)險(xiǎn)感知和實(shí)時(shí)線下風(fēng)控立體布防；
• 技術(shù)維度，對于刷手社區(qū)、作弊賣家店群、黑灰產(chǎn)平臺(tái)等風(fēng)險(xiǎn)網(wǎng)絡(luò)，如何結(jié)合多種圖算法優(yōu)勢，實(shí)現(xiàn)針對高度復(fù)雜的風(fēng)險(xiǎn)圖譜認(rèn)知技術(shù)應(yīng)用；
• 電商風(fēng)控體系維度，各種作弊模式層出不窮，如何以不變應(yīng)萬變，通過構(gòu)建體系化通用型的風(fēng)控流程框架，實(shí)現(xiàn)對于各種刷單風(fēng)險(xiǎn)的統(tǒng)一認(rèn)知和診斷治理。

本次技術(shù)成果即是面向以上問題挑戰(zhàn)，針對性設(shè)計(jì)的一套通用化風(fēng)控系統(tǒng)框架。

另外，F(xiàn)RODO同時(shí)還輔以阿里自研的MvHGNN多視圖異構(gòu)圖神經(jīng)網(wǎng)絡(luò)算法，用來解決典型”地推刷單”等一系列電商交易O2O風(fēng)險(xiǎn)。

“地推刷單”模式的興起與互聯(lián)網(wǎng)電子商務(wù)的快速發(fā)展、以及電商平臺(tái)與黑灰產(chǎn)業(yè)的長期拉鋸戰(zhàn)的大背景密不可分。隨著淘寶平臺(tái)對于虛假交易、刷單炒信打擊的逐步深入，外部黑產(chǎn)早已擺脫了傳統(tǒng)單打獨(dú)斗、鏈路單一的行為作弊方式。

為了規(guī)避線上反作弊系統(tǒng)的識(shí)別和人工巡場稽查，部分黑產(chǎn)平臺(tái)已經(jīng)開始向手法更為隱蔽、賬號風(fēng)險(xiǎn)更低、導(dǎo)購鏈路更仿真的“地推刷單”模式演進(jìn)。

顧名思義，“地推刷單”是指黑產(chǎn)人員將刷手招募環(huán)節(jié)從線上遷移到線下，以地推的形式獲取真實(shí)用戶，采取面對面指導(dǎo)完成一系列刷單操作，并通常以小禮物贈(zèng)送的方式即時(shí)獎(jiǎng)勵(lì)兼職刷手，作為刷單酬勞。

該新型風(fēng)險(xiǎn)交易模式具有用戶歷史相對純凈、線上行為鏈路極為逼真、刷手群體關(guān)聯(lián)關(guān)系弱等特點(diǎn)，因此對傳統(tǒng)風(fēng)控系統(tǒng)帶來了巨大挑戰(zhàn)。

據(jù)了解，這類風(fēng)險(xiǎn)已經(jīng)逐步滲透到普通消費(fèi)者的日常生活中，我們在地鐵站、學(xué)校周邊、商場入口隨處可見的一些禮品兌換處即是線下地推據(jù)點(diǎn)。

同時(shí)，在一些偏遠(yuǎn)鄉(xiāng)村、低線城鎮(zhèn)，也有專門黑產(chǎn)推廣人員蠱惑中老年人，通過不法手段獲取身份信息、個(gè)人資料等隱私數(shù)據(jù)，完成地推刷單全流程。

面對這樣高成本的黑產(chǎn)強(qiáng)對抗，淘系技術(shù)展示了真正的技術(shù)實(shí)力：FRODO風(fēng)控系統(tǒng)通過作弊種子傳播擴(kuò)展召回、復(fù)雜異構(gòu)GNN網(wǎng)絡(luò)風(fēng)險(xiǎn)提純、LBS時(shí)空信息引入進(jìn)行GIS風(fēng)險(xiǎn)社群挖掘等全流程操作，實(shí)現(xiàn)了對于該類別風(fēng)險(xiǎn)的有效識(shí)別防范。

在2021財(cái)年，F(xiàn)RODO風(fēng)控系統(tǒng)在阿里電商業(yè)務(wù)中全面上線應(yīng)用。對抗智能團(tuán)隊(duì)通過該技術(shù)創(chuàng)新，實(shí)現(xiàn)了對于虛假交易風(fēng)險(xiǎn)的秒級精準(zhǔn)識(shí)別，準(zhǔn)確率和召回率均有顯著提升。

同時(shí)，針對前述“地推刷單”風(fēng)險(xiǎn)，實(shí)現(xiàn)了線上風(fēng)險(xiǎn)行為識(shí)別與線下黑產(chǎn)社群打擊的深度聯(lián)動(dòng)。線下黑產(chǎn)社群一經(jīng)形成，F(xiàn)RODO風(fēng)控系統(tǒng)即可快速感知行為風(fēng)險(xiǎn)，并通過引入刷手社群LBS信息和線下POI作弊網(wǎng)點(diǎn)信息，快速定位作弊時(shí)空社群。

△從線上識(shí)別到LBS定位，到實(shí)地勘驗(yàn)

據(jù)悉，以上一系列的識(shí)別流程可以實(shí)現(xiàn)小時(shí)級線上預(yù)警監(jiān)測，并聯(lián)動(dòng)阿里安全CRO、阿里客戶體驗(yàn)CCO等部門實(shí)現(xiàn)天級別屬地現(xiàn)場確認(rèn)取證。如上圖所示，F(xiàn)RODO已實(shí)現(xiàn)了從線上社群檢測到線下LBS定位，再到實(shí)地勘驗(yàn)取證的全鏈路風(fēng)控流程打通。

△FRODO整體框架圖

具體而言，F(xiàn)RODO反作弊系統(tǒng)構(gòu)建了從線上到線下的一體化檢測框架。該框架結(jié)合了線上多視圖數(shù)據(jù)和線下時(shí)空數(shù)據(jù)，針對性解決作弊交易識(shí)別和欺詐社區(qū)檢測的多任務(wù)目標(biāo)。

如上圖所示，F(xiàn)RODO框架由三個(gè)部分組成：

• 側(cè)重風(fēng)險(xiǎn)寬召回的標(biāo)簽傳播LPA算法
• 用于高風(fēng)險(xiǎn)欺詐用戶識(shí)別的多視圖異構(gòu)圖神經(jīng)網(wǎng)絡(luò)Multi-view HGNN算法
• 用于離線欺詐社區(qū)檢測的時(shí)空網(wǎng)絡(luò)重構(gòu)k-core和biclique社區(qū)挖掘等算法

FRODO框架一大特點(diǎn)是通過少量黑種子（即少量標(biāo)記的欺詐用戶），就能找到異常的圖譜模式和線下風(fēng)險(xiǎn)社群，并達(dá)到了接近100%的準(zhǔn)確度。對比于業(yè)界眾多領(lǐng)先baseline算法，F(xiàn)RODO均取得了最好結(jié)果。

用好先進(jìn)技術(shù)持續(xù)打造綠色平臺(tái)

這樣的反作弊系統(tǒng)，能在人們的日常生活中發(fā)揮怎樣的價(jià)值？

2月3日，人民日報(bào)時(shí)評文章《依法治理網(wǎng)絡(luò)虛假流量》，重點(diǎn)指出：

從網(wǎng)上無孔不入的“刷單兼職”小廣告，到直播間營造虛假熱鬧場面，再到炮制網(wǎng)絡(luò)“爆文”，網(wǎng)絡(luò)黑灰產(chǎn)業(yè)鏈深入許多領(lǐng)域。

而FRODO等智能反作弊系統(tǒng)，正站在打擊黑灰產(chǎn)的第一線，旨在不斷治理電商生態(tài)，為平臺(tái)商家提供公平、公正的線上營商環(huán)境。

近年來，阿里依托于以FRODO為代表的領(lǐng)先人工智能技術(shù)和先進(jìn)的AutoRisk風(fēng)控系統(tǒng)，協(xié)同配合網(wǎng)安行政、地方公檢法等各職能部門聯(lián)合治理電商生態(tài)，已成功打擊數(shù)個(gè)中大型作弊公司和刷單網(wǎng)絡(luò)平臺(tái)，涉及虛假交易金額達(dá)數(shù)億元。

參考鏈接：
http://paper.people.com.cn/rmrb/html/2021-02/03/nw.D110000renmrb_20210203_6-07.htm

—?完?—