想走出這個實驗室，一臺手機要被機器人“敲打”20萬次

楊凈 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

北京一個150平米的廠房里，一群裝有攝像頭和AI算法、可自主行動的機器人正在7*24小時不間斷地運作。

他們只有一個目的：“攻擊”人類的智能手機。

事實上，這并非AGI意識覺醒，也不是最新破獲的機器人大規(guī)模攻擊事件。

而是量子位最新探訪到的一家高自動化的生物識別安全實驗室——螞蟻安全天璣實驗室。

在這里，日夜勞作的007機器人們 ，正在給數(shù)不清手機用戶的身份信息安全保駕護航。

如果不是走進天璣實驗室，我們永遠(yuǎn)不知道一臺手機上市前要經(jīng)受多么嚴(yán)苛的“考驗”流程。

剛剛落幕的“2022吳文俊人工智能科學(xué)技術(shù)獎”頒獎典禮上，這家實驗室還與清華大學(xué)等科研團隊攜手問鼎“自然科學(xué)獎一等獎”。

吳文俊人工智能科學(xué)技術(shù)獎由中國人工智能學(xué)會2011年設(shè)立，是中國歷史上第一次以“人工智能”命名的獎項，被譽為“中國智能科學(xué)技術(shù)最高獎”、“人工智能領(lǐng)域皇冠上的明珠”。自然科學(xué)獎一等獎也只頒給實現(xiàn)前瞻性基礎(chǔ)研究、引領(lǐng)性原創(chuàng)成果重大突破的成果完成人。

接下來跟隨量子位的視角，帶你一文看盡。

實驗室里的科技與狠活

首先，天璣這個名字就已經(jīng)暗藏玄機——

一方面代表著天上最亮的那顆星星；另一方面，在古代還有精密儀器的意思。

這就與實驗室日常工作場景有關(guān)。

簡單來說，這些日以繼夜干活的機器人，做的就是一件事情：生物安全測試。

既可以日常到與我們所熟知手機上的指紋識別、人臉識別功能有關(guān)，也可以科幻到與電影中那種「無處不在」泛在感知息息相關(guān)。

而要實現(xiàn)這種簡單無感、普惠方便的操作，所有終端產(chǎn)品在上市前都會經(jīng)歷一番檢測“折磨”，即能否達到相應(yīng)的技術(shù)安全標(biāo)準(zhǔn)。

據(jù)螞蟻安全天璣實驗室主任李哲透露，目前機器人的生物安全檢測成果考核主要依據(jù)兩套標(biāo)準(zhǔn)：

一套是由IIFAA（互聯(lián)網(wǎng)金融身份認(rèn)證聯(lián)盟）發(fā)起的IIFAA生物安全檢測要求；另一套則是由谷歌發(fā)布的安卓生物安全測試協(xié)議。

以往這些工作都是靠人工一個個來測試，而作為國內(nèi)率先啟動全自動化測試流程的天璣實驗室到底又是如何實現(xiàn)？

首先來到的是日常熟悉的指紋識別測試區(qū)域。

在這樣一間“辦公室”內(nèi)，每個機械臂都有自己的名字和工位。在他們面前，擺了一堆二維碼和小方框。

機器人就負(fù)責(zé)按壓小方框，同時檢查這個小方框是否對齊。每按壓一次，就代表著一次攻擊。

即便如此簡單的操作，背后可是由諸多黑科技組成。

比如機械臂。這套機械臂技術(shù)結(jié)合3D深度視覺環(huán)境感知、基于強化學(xué)習(xí)的路徑規(guī)劃、目標(biāo)檢測和分割，實現(xiàn)毫米級精度的控制。

還有像二維碼，可以幫助機械臂識別人造指紋樣本的屬性，實現(xiàn)全自動化的任務(wù)管理、數(shù)據(jù)分析和控制。

再像人造指紋，它是實驗人員應(yīng)用專利技術(shù)，利用生活中常見的合同紅色印油指紋印記，通過高精掃描、算法預(yù)處理、圖像增強、銅板浮雕制作、多種彈性導(dǎo)體材料脫模，最終制作成以假亂真、達到極高逼真度的人造指紋樣本。

當(dāng)然最讓人意想不到的，還要屬機械臂上不易被人注意到的仿生手指。

為了精確還原真實的手指皮膚觸碰效果，光設(shè)計就花了工程師們一年多的時間、迭代三次才實現(xiàn)最終理想效果。

表面上看，它是由一塊布裹著海綿組成。但實際上，這塊布在紡織時加入了銀絲可以導(dǎo)電，觸感與人體皮膚一樣柔軟。而且為了更好模擬人體的導(dǎo)電特性，他們甚至還搬來了一桶與人類體重差不多的4%生理鹽水，由一堆導(dǎo)線將兩者進行連接，模擬人體電阻特性，實現(xiàn)人類手指的“完美復(fù)刻”。

之所以能這么用生理鹽水和仿生手指，還得與指紋識別背后技術(shù)原理有關(guān)。

最常見的三大指紋識別技術(shù)之一電容識別，本質(zhì)上是電容屏上電場電子的遷移。

工程師們這樣形象地解釋：

如果將電容屏理解為一池水，這個池子四個角有流量計。然后用手去按壓，就相當(dāng)于拿個抽水機去水池中表面去抽。

四個角的流量計就知道你在哪個地方抽水，每個角的流速不一樣。比如靠近右上角，右上角流速就會快一點，左下角的流速就會慢一點。

再來揭秘我們?nèi)粘Ｒ姷降牡诙髨鼍啊四樧R別。

如果說，指紋識別還屬于機器人干好自身份內(nèi)之事即可，那人臉識別則有點協(xié)同辦公內(nèi)味了，甚至上升到了相互攻擊。

實驗室投入大量的科研力量，自主研究生成了當(dāng)下黑產(chǎn)攻擊人臉安全的“道具”，定義了上百種不同級別的攻擊方法和假體制作工藝。

比如生成活化視頻（基于一張平面照片，自動化生成張嘴眨眼的動態(tài)視頻），融合臉（將目標(biāo)特征遷移到另一個人身上，讓算法識別但是人類誤判），老化臉（特征不變但人類可以察覺的變化）等樣本。

在檢測過程中，機械臂被分成紅藍(lán)兩軍，一邊是攻擊方，手里拿著各式各樣的攻擊材料，比如紙質(zhì)版、屏幕類、面具等立體材料。

另一邊是被攻擊方，則是通過智能路徑規(guī)劃算法和深度視覺算法定位目標(biāo)手機，抓取后通過軟機器人對手機進行自動化控制，利用強化學(xué)習(xí)算法尋找和定位攻擊材料位置，實時調(diào)整相對角度。兩者相互“對視”即進行一場解鎖測試。

除此之外，還有環(huán)境光照的處理。正午戶外太陽下的強頂光、深夜無光源條件下手持手機的人臉弱光、背靠燈光條件下的逆光……

多樣化的光照條件對生物識別防偽性能十分關(guān)鍵，過亮或過暗，不同的光線角度都會導(dǎo)致識別性能的變化；實驗室搭載了AI照明系統(tǒng)，能自動調(diào)節(jié)光源的照度、色溫、光線角度。

最終，這些機械臂會捕捉到所有可能攻破的點，對一臺手機的測試次數(shù)能達到20萬次的量級。

這些經(jīng)過精密訓(xùn)練而永遠(yuǎn)不知疲倦的機械臂，是對天璣實驗室自動化這塊招牌的實際證明。

目前，天璣實驗室已經(jīng)連續(xù)三年成為Google全球唯一直接授權(quán)的Android生物識別檢測實驗室，市面上超過70%的安卓生態(tài)手機都會到他們的實驗室進行測試。

天璣實驗室曾在CelebA Spoof Challenge等多個國際頂級賽事中奪冠。

實驗室核身技術(shù)構(gòu)建的關(guān)聯(lián)行業(yè)金融支付解決方案，憑借著識別準(zhǔn)確率與破解反欺詐等相關(guān)技術(shù)指標(biāo)，獲得國際公認(rèn)最嚴(yán)格的技術(shù)安全性認(rèn)證之一ISO30107-3Level2認(rèn)證等行業(yè)頂級認(rèn)可。

就在今天，2022年度吳文俊人工智能科學(xué)技術(shù)獎頒獎典禮在北京召開。由清華大學(xué)興軍亮研究員，螞蟻集團李建樹、趙聞飆等五人共同完成的“無約束人像目標(biāo)智能感知與理解”成果還獲得“2022吳文俊人工智能自然科學(xué)獎一等獎”。

這項成果構(gòu)建了一套面向“人臉-人體-人群”分析的基礎(chǔ)理論方法和核心算法技術(shù)研究體系，真正實現(xiàn)了AI高精度人像感知和理解。相關(guān)技術(shù)成果得到了十余位馬爾獎/傅京孫獎得主、百余位國內(nèi)外院士等知名學(xué)者認(rèn)可，并在歐姆龍公司、華為、螞蟻集團等企業(yè)核心產(chǎn)品中得到應(yīng)用。

然而他們的野心并不止于此。

未來，端安全無處不在

從決定致力于生物識別安全研究方向開始，李哲所在的團隊就考慮機器人全自動化。

李哲主要提及了三個方面的原因。

第一個是可量化。對于一臺這樣的手機或被測對象來說，要經(jīng)過幾十萬次這樣的檢測。只有通過自動化的方式才能在短期內(nèi)進行大規(guī)?？闪炕瘻y試。

第二是相較于人工測試而言更客觀和科學(xué)。比如指紋測試中，可保證每次按壓力度、方向、角度都是可控的。人臉測試中，可以對無數(shù)影響識別的因素進行可控遍歷和搜索。

第三則是整個機械臂運作所帶來的效率的提升。

而隨著智能機器與AI的深度融合，圍繞這幾個目標(biāo)，更多前沿項目在這里誕生。

在實驗室，這些工程師們給我們展現(xiàn)了兩個前沿項目。

比如強化學(xué)習(xí)機械臂組成的人臉識別試驗臺。

類似于AlphaGo下圍棋自己跟自己對壘，兩個機械臂玩起角色扮演游戲，一方是經(jīng)驗豐富的攻擊者，一方是純小白的防御者。

對于經(jīng)驗豐富的攻擊者，這次進攻成功，那么就知道這個方法是有效的，而防御者也能從中學(xué)習(xí)到經(jīng)驗，不斷提升。然后雙方在對戰(zhàn)中不斷學(xué)習(xí)和強化。

以往工作臺上，其實是通過一個網(wǎng)格化搜索。如果劃分的網(wǎng)格比較密，那么它的攻擊點位會非常單一，采集點可能達到上萬次。這種攻擊方式會達到一到兩天的周期。

同樣的野心還體現(xiàn)在無人駕駛車的細(xì)節(jié)上。除了像機械臂這樣的主力軍，還有來往運送終端設(shè)備的無人車。

一般而言，想要實現(xiàn)日常的搬運任務(wù)只需在底盤部署2D地圖感知即可。但在此基礎(chǔ)上，螞蟻工程師部署了激光雷達和傳感器，通過數(shù)據(jù)融合，建立一個三維地圖。

而且這個地圖還跟市面上大部分地圖不一樣，它具有三維感知能力，可以實現(xiàn)實時避障和規(guī)劃，在實驗室可以精準(zhǔn)到達每個位置。

有了無人車全年無休地加入，只要實驗室不斷電，檢測流水線就會7*24小時無間斷工作，且不需要工作人員介入。評估測試效率也是原來速度的5倍左右。

智能設(shè)備的生物識別安全檢測、數(shù)實交互前沿安全技術(shù)等構(gòu)成了螞蟻安全天璣實驗室的主要工作內(nèi)容。

隨著工作的日常推進，對于生物識別的未來，在他們眼中也有了雛形。

應(yīng)該是百花齊放的。

因為背后終端是百花齊放的，比如手表、汽車，甚至未來的腦機端，包括各種物聯(lián)網(wǎng)設(shè)備怎樣去識別。

李哲認(rèn)為，某種程度上生物識別連接了數(shù)字世界和物理世界。端安全作為背后的技術(shù)實現(xiàn)，未來將有如科幻電影那般「無處不在」。

圓桌QA

為了更好理解標(biāo)準(zhǔn)如何制定，以及生物識別技術(shù)發(fā)展，量子位邀請到了螞蟻安全天璣實驗室主任李哲、公安部第一研究所研究員田青進行了探討。

在不改變原意的基礎(chǔ)上，量子位做了如下整理：

1、量子位：生物識別這項研究工作具體如何展開？

李哲：從12、13年那時候開始，實驗室就在做前沿的，比如掌紋人臉指紋等這些場景的大規(guī)模應(yīng)用。

14-15年隨著深度學(xué)習(xí)算法的發(fā)展，人臉識別走進了大家的身邊，天璣實驗室也正是那時開始朝著人臉識別方向去發(fā)力。

這個過程中我們意識到，人臉識別的安全性是很重要的。從此便開始生物識別背后安全性的一些相關(guān)工作，比如檢測、標(biāo)準(zhǔn)等。

2、量子位：現(xiàn)在整個行業(yè)狀態(tài)和標(biāo)準(zhǔn)是怎樣的？

田青：我想補充一下。02年我們就在從事人臉、指紋、虹膜、步態(tài)等方面識別技術(shù)研究，但當(dāng)時還是個實驗室狀態(tài)，離實際應(yīng)用還有些距離。

現(xiàn)在就是技術(shù)走出實驗室到社會上應(yīng)用的狀態(tài)，很多場景都已經(jīng)離不開生物特征識別了。國內(nèi)幾家廠商也在近幾年中走到了全球生物特征識別技術(shù)的前面。

3、量子位：安全標(biāo)準(zhǔn)需要達到什么程度就可以用？

田青：安全與便民兩者之間其實是矛盾的，使用方便的時候，可能安全限制就會降低。

現(xiàn)在看生物識別的兩個趨勢：一個是場景化，另一個是專業(yè)化。

對于普通的應(yīng)用而言，安全水平只需達到了一個基線即可；但對于一些專業(yè)應(yīng)用，就需要綜合多種因素，安全等級也會隨之提升。

安全與便民本身需要一個平衡，這個平衡是在不同場景和應(yīng)用中來區(qū)分和體現(xiàn)的。

4、量子位：安全與便民之間的矛盾如何解？

李哲：有點像雙管齊下，從矛與盾之間分別發(fā)力。

一方面，是解決應(yīng)用側(cè)這端的問題。投入更多AI算法，提升整個生物識別技術(shù)的安全性、準(zhǔn)確性。

另一方面，站在攻擊方的角度，去思考不同場景下會如何去攻擊識別系統(tǒng)。

5、量子位：這種檢測所有產(chǎn)品都會做嗎？

田青：是的。公安部各個行業(yè)都有這樣的檢測標(biāo)準(zhǔn)。并非只有生物特征識別才有安全檢測。

檢測標(biāo)準(zhǔn)主要分為兩類：

第一個是功能性標(biāo)準(zhǔn)，即它的性能是否達到一個使用的標(biāo)準(zhǔn)，比如人臉識別是否能替代鎖屏每次開關(guān)的能力，另一類是安全性標(biāo)準(zhǔn)，真正應(yīng)用時有沒有可能被仿冒。

現(xiàn)在我們所有的產(chǎn)品都應(yīng)該通過這兩類標(biāo)準(zhǔn)才能在實際生活中使用。

6、量子位：如果往后看，生物識別還有怎樣的可能性？

田青：百花齊放。以前可能是指紋一枝獨秀，現(xiàn)在很多行業(yè)，它的應(yīng)用潛力都是非常大的。每個生物特征識別都能找到它的應(yīng)用落地。當(dāng)時看的很多科幻電影，現(xiàn)在都走到了現(xiàn)實。

李哲：我也認(rèn)為百花齊放，背后可能是因為不同交互終端變得百花齊放了。比如汽車、元宇宙、智能手表、腦機設(shè)備等。我覺得終極狀態(tài)，就是生物識別這個概念不存在了，它變得無處不在。