「我要出軌了」！伯克利的這個(gè)AI，可以預(yù)測(cè)機(jī)器人何時(shí)將脫離
一種「以毒攻毒」的方法
金磊 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI
「脫離」?（disengagement），在自動(dòng)駕駛系統(tǒng)中是一個(gè)重要的指標(biāo)。
是指當(dāng)自動(dòng)駕駛汽車遇到故障，脫離自動(dòng)駕駛模式，改為人類駕駛員接管車輛的情況。
很多人認(rèn)為「脫離」次數(shù)越少，就能說明一個(gè)自動(dòng)駕駛系統(tǒng)能力越強(qiáng)。因此，以往的研究都會(huì)把「脫離」當(dāng)作是故障來排除掉。
但最近，UC伯克利的研究人員卻「以毒攻毒」，直接用這樣的數(shù)據(jù)來訓(xùn)練機(jī)器人，預(yù)測(cè)未來何時(shí)將發(fā)生脫離事件。
研究人員稱它為LaND——從「脫離」中學(xué)會(huì)導(dǎo)航。
研究人員表示，通過這樣的方法得到的結(jié)果，要比傳統(tǒng)的強(qiáng)化學(xué)習(xí)、模仿學(xué)習(xí)都要強(qiáng)。
「開」著小車取數(shù)據(jù)
老規(guī)矩，先來看下訓(xùn)練數(shù)據(jù)。
既然伯克利的這項(xiàng)研究是想「以毒攻毒」，那么就必須收集出現(xiàn)故障時(shí)的那些數(shù)據(jù)。
于是，研究人員用一輛Clearpath Jackal機(jī)器人做測(cè)試。
先讓這個(gè)機(jī)器人自己在路上「跑」，若是遇到如下三種情況則視為出故障，即開到人行道的兩側(cè)或撞到草叢等物體。
當(dāng)出現(xiàn)故障的情況后，機(jī)器人就會(huì)進(jìn)入「脫離」?fàn)顟B(tài)，人類研究員便用遙控器，把它重新置于有效位置，以便讓它再次自主行進(jìn)。
然后研究人員把在這些過程中，從機(jī)器人攝像頭等傳感器獲取的圖像等數(shù)據(jù)收集起來，作為訓(xùn)練數(shù)據(jù)。
投喂到神經(jīng)網(wǎng)絡(luò)做預(yù)測(cè)
拿到數(shù)據(jù)，就要開始訓(xùn)練了。
目的就是用這些數(shù)據(jù)，來預(yù)測(cè)機(jī)器人在未來是否會(huì)脫離。
具體的神經(jīng)網(wǎng)絡(luò)長這樣。
神經(jīng)網(wǎng)絡(luò)先使用MobileNetV2，對(duì)輸入的圖像觀測(cè)值進(jìn)行處理，緊接著是一系列的全連接層。
這些圖像層的輸出，將作為遞歸神經(jīng)網(wǎng)絡(luò)LSTM的初始隱含狀態(tài)（hidden state），依次處理機(jī)器人未來的每一個(gè)動(dòng)作，并輸出相應(yīng)的預(yù)測(cè)脫離概率。
預(yù)測(cè)可視化的結(jié)果如下：
在眾多可選路徑中，顏色越深（紅），則表明脫離的概率越高。
性能優(yōu)于傳統(tǒng)方法
最后，研究人員拿這種「以毒攻毒」的方法，與其它兩種傳統(tǒng)方法做對(duì)比，分別是模仿學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。
在對(duì)比實(shí)驗(yàn)中，三種方法所采用的數(shù)據(jù)都是一致的，實(shí)驗(yàn)結(jié)果如表所示。
非常明顯，當(dāng)機(jī)器人在2.3公里長、從未走過的人行道中行進(jìn)時(shí)，強(qiáng)化學(xué)習(xí)方法平均每2米就會(huì)脫離一次，模仿學(xué)習(xí)則是平均每13.4米就會(huì)脫離一次。
而伯克利提出的「以毒攻毒」方法，效果非常顯著——平均每87.5米才會(huì)脫離一次。
作者介紹
這項(xiàng)研究的作者均來自UC伯克利。
△Gregory Kahn
論文一作叫Gregory Kahn，是UC伯克利EECS的一名博士生。主要研究目標(biāo)是開發(fā)算法，使機(jī)器人能夠在現(xiàn)實(shí)世界中操作。
△Pieter Abbeel
Pieter Abbeel是這項(xiàng)研究的另一位作者，目前在UC伯克利擔(dān)任BAIR實(shí)驗(yàn)室的聯(lián)合主任。
他的研究致力于建立更加智能的系統(tǒng)，其實(shí)驗(yàn)室推動(dòng)了深度強(qiáng)化學(xué)習(xí)、深度模仿學(xué)習(xí)、深度非監(jiān)督式學(xué)習(xí)、遷移學(xué)習(xí)、元學(xué)習(xí)、學(xué)會(huì)學(xué)習(xí)，以及研究人工智能對(duì)社會(huì)的影響。
參考鏈接：
https://venturebeat.com/2020/10/15/researchers-detail-land-ai-that-learns-from-autonomous-vehicle-disengagements/
論文地址：
https://arxiv.org/abs/2010.04689
- 商湯林達(dá)華萬字長文回答AGI：4層破壁，3大挑戰(zhàn)2025-08-12
- 商湯多模態(tài)大模型賦能鐵路勘察設(shè)計(jì)，讓70年經(jīng)驗(yàn)“活”起來2025-08-13
- 以“具身智能基座”為核，睿爾曼攜全產(chǎn)品矩陣及新品亮相2025 WRC2025-08-11
- 哇塞，今天北京被機(jī)器人人人人人塞滿了！2025-08-08
相關(guān)閱讀
真·機(jī)械朋克！物理學(xué)家用揚(yáng)聲器搭建神經(jīng)網(wǎng)絡(luò)，登上今日Nature
用喇叭進(jìn)行圖像分類，正確率近90%
「灌籃高手」模擬人形機(jī)器人，一比一照搬人類籃球招式，看一遍就能學(xué)會(huì)，無需特定任務(wù)的獎(jiǎng)勵(lì)
投籃運(yùn)球手指轉(zhuǎn)球，人類會(huì)的它都會(huì)
