給卡車穿上“隱身衣”，讓自動(dòng)駕駛車輛撞上它！這場(chǎng)自動(dòng)駕駛比賽，比誰(shuí)攻得快
24小時(shí)攻破13道算法
蕭簫 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI
自動(dòng)駕駛算法，在這場(chǎng)比賽中成了實(shí)驗(yàn)品：
24小時(shí)內(nèi)，不僅要在特定的場(chǎng)景中，讓它被攻破；還要在競(jìng)速情況下盡力優(yōu)化它，讓車跑得更快。
如果這兩個(gè)方向均能脫穎而出，就能奪得第一名。
這是全球首個(gè)自動(dòng)駕駛CTF?（Capture The Flag，意為奪旗賽，一種網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)競(jìng)技）的比賽方式，參賽者是來(lái)自各地的知名CTF戰(zhàn)隊(duì)。
在9月26~27號(hào)的24小時(shí)里，加州大學(xué)爾灣分校（UCI）的小隊(duì)ASGuard脫穎而出，以745分的成績(jī)一舉奪魁。
一起來(lái)看看， 比賽中都有哪些題目。
比賽題目長(zhǎng)啥樣
這次比賽包含了多種和自動(dòng)駕駛安全密切相關(guān)的題型， 既有Binary，Reversing等傳統(tǒng)CTF賽題，也有機(jī)器學(xué)習(xí)安全（AML）和自動(dòng)駕駛算法（Mad Race）等全新賽題。
從下圖可見，題目難度不小，“懸賞分”最高的題目是GPS欺騙，就沒(méi)有一個(gè)小組在限定時(shí)間內(nèi)解出（累計(jì)得分0）。
部分題目具體的畫風(fēng)，是下面這樣的：
到底是攻擊對(duì)手，還是讓自己跑更快？
如何在限定時(shí)間內(nèi)，超越所有小隊(duì)的賽車，并獲得競(jìng)速賽第一名？
這是競(jìng)賽題目Mad Race的規(guī)則：
要求參賽隊(duì)伍實(shí)現(xiàn)自動(dòng)駕駛的路線規(guī)劃和控制算法，跟其他隊(duì)伍同場(chǎng)競(jìng)技，最快完成比賽者得最高分。
然而，也許是舉辦方“有意為之”，這題背后還隱藏著一個(gè)邪惡的獲勝方法：題目允許攻擊其他車輛的漏洞。
所以，比賽的方式不止一種。畢竟如果將路上的其他車輛都攻破了，那么自己的車子就穩(wěn)操勝券了。
不過(guò)，獲勝團(tuán)隊(duì)最后沒(méi)有選擇加入攻擊算法，而是集中全力提升了自己的路線規(guī)劃和控制算法，這也使得他們與第二名快速拉開了差距。
獲勝團(tuán)隊(duì)表示，如果車輛優(yōu)化得夠好，攻擊算法就追不上它，其實(shí)也能成為一種取勝策略。
一張“貼紙”，讓卡車消失
除此之外，自動(dòng)駕駛算法的避障也是一個(gè)重要的技術(shù)。
所以，盡力騙過(guò)自動(dòng)駕駛算法，讓它撞上障礙物，其實(shí)也是一種檢測(cè)算法漏洞的方法。
在名為消失的卡車題目中，參賽者需要提交Patch（一個(gè)圖像塊），系統(tǒng)把這個(gè)Patch貼到卡車車廂，并同時(shí)讓自動(dòng)駕駛車輛逐漸靠近卡車，要求這期間，不能有一幀檢測(cè)到卡車。
說(shuō)白了，就是利用特殊生成的圖片，騙過(guò)目標(biāo)識(shí)別算法。
不過(guò)，也沒(méi)有這么簡(jiǎn)單，因?yàn)閰①愓咛峤坏腜atch不僅需要欺騙連續(xù)多幀的目標(biāo)檢測(cè)，而且還需要考慮車輛行進(jìn)軌跡中的視角和距離變化、傳感器噪聲、圖像預(yù)處理等技術(shù)。
畢竟，誰(shuí)也無(wú)法預(yù)測(cè)自動(dòng)駕駛算法會(huì)在什么時(shí)候、被什么樣的圖像“欺騙”。
在這道題目中，冠軍團(tuán)隊(duì)讓生成的Patch具有更高的魯棒性，最終成功騙過(guò)了自動(dòng)駕駛算法。
欺騙GPS：全場(chǎng)最難的題目
從得分來(lái)看，全場(chǎng)唯一沒(méi)有小組解出的題目，就是這道GPS欺騙?（GPS Spoofing）了。
這道題屬于Binary攻擊類型（二進(jìn)制漏洞攻擊），是全場(chǎng)分?jǐn)?shù)最高的一道題目，但無(wú)人解出。
題目要求參賽者攻擊一個(gè)服務(wù)器端的GPS Spoofing檢測(cè)程序，從而獲得服務(wù)器中Flag文件的內(nèi)容。
這道題屬于傳統(tǒng)的CTF類型，它的難點(diǎn)在于，參賽者需要了解一種特定GPS數(shù)據(jù)的解析格式，并構(gòu)建虛假的GPS數(shù)據(jù)，來(lái)觸發(fā)和利用該漏洞。
因此，要解決這道題，除了傳統(tǒng)的Binary攻擊技術(shù)，還必須要有自動(dòng)駕駛中GPS傳感器的知識(shí)和經(jīng)驗(yàn)，大部分小組都被這一點(diǎn)難住了。
對(duì)于冠軍團(tuán)隊(duì)來(lái)說(shuō)，這次的遺憾應(yīng)該在于沒(méi)能解出這道最難的題目。
“最后時(shí)刻，我們已經(jīng)能構(gòu)造需要的GPS數(shù)據(jù)格式、且找到了漏洞利用的注入點(diǎn)，無(wú)奈最后由于時(shí)間不足，未能完成，非常可惜?！?/p>
為何舉辦自動(dòng)駕駛CTF
拼盡全力攻破自動(dòng)駕駛算法，究竟有什么意義？
或許大家還記得今年6月，開啟AutoPilot的特斯拉，撞上側(cè)翻白色貨車的事故：
高速路上，一輛貨車側(cè)翻在地，后續(xù)來(lái)車紛紛避讓。
但一輛白色特斯拉Model 3，以110公里的時(shí)速，直接撞向了如此明顯的貨車障礙物。
針對(duì)這一類自動(dòng)駕駛的安全事故，這次的CTF定位與實(shí)際生活中自動(dòng)駕駛展現(xiàn)的安全問(wèn)題密切相關(guān)。
例如，那道利用對(duì)抗樣本生成能讓白色卡車“消失”的Patch，就是自動(dòng)駕駛中障礙物識(shí)別的一項(xiàng)極大挑戰(zhàn)。
而賽題的場(chǎng)景，就是從特斯拉在高速上的安全事故取材的。
畢竟，只有知道了攻擊自動(dòng)駕駛算法的方法，才能更好地優(yōu)化自動(dòng)駕駛算法，讓車輛行駛更安全。
冠軍團(tuán)隊(duì)介紹
這次比賽的冠軍團(tuán)隊(duì)由6人組成，主要來(lái)自加州大學(xué)爾灣分校的ASGuard（Autonomous Sysems Guard）研究組，導(dǎo)師為Qi Alfred Chen，其中4名成員Junjie Shen、Takami Sato、Ningfei Wang和Ziwen Wan均為在讀博士生。
此外，還有一名來(lái)自清華大學(xué)的準(zhǔn)一年級(jí)博士生Yunpeng Luo、以及目前在CMU就讀碩士、本科曾就讀于UCI的Zeyuan Chen。
而ASGuard研究組平時(shí)的研究方向，就是自動(dòng)駕駛軟件安全。
ASGuard的組員也表示，參加這場(chǎng)比賽最大的獲勝點(diǎn)，是技能點(diǎn)、研究方向剛好覆蓋所有賽題類型。
因此，他們的團(tuán)隊(duì)分工也非常明確，其中Junjie Shen，Ziwen Wan，Yunpeng Luo和Zeyuan Chen負(fù)責(zé)Binary、Reversing和Mad Race，而Takami Sato和Ningfei Wang則負(fù)責(zé)機(jī)器學(xué)習(xí)模型安全（AML）。
不過(guò)，這次的比賽對(duì)于冠軍組來(lái)說(shuō)，也并非一帆風(fēng)順。
可以看出，在最后的奪冠之前，團(tuán)隊(duì)經(jīng)歷了相當(dāng)長(zhǎng)時(shí)間的無(wú)進(jìn)展期，但在最后時(shí)刻一舉解出兩道題目，最終反敗為勝。
相關(guān)閱讀
