意念操縱機(jī)器人成真！李飛飛團(tuán)隊(duì)打造，做家務(wù)玩游戲樣樣能行

西風(fēng) 2023-11-10 14:55:40 來源：量子位

西風(fēng) 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

斯坦福李飛飛、吳佳俊帶隊(duì)讓《阿凡達(dá)》意念操控照進(jìn)了現(xiàn)實(shí)！

現(xiàn)在，只需要?jiǎng)觿?dòng)腦子就能操縱機(jī)器人。

想吃壽喜鍋不用自己動(dòng)手，切菜備菜、倒入食材，機(jī)器人一氣呵成：

做飯、烹茶樣樣都行：

忙完還能順便把桌面清理了：

你以為這就完了？這個(gè)機(jī)器人玩起游戲來也是一把好手：

甚至還能幫你熨衣服：

關(guān)鍵是，旁邊的操縱者只需要坐在那里“冥想”即可，無需手搖搖桿。

能做到這些，都要得益于研究團(tuán)隊(duì)最新開發(fā)腦機(jī)接口系統(tǒng)——NOIR。

這是一個(gè)通用的智能系統(tǒng)，使用者無需佩戴侵入性設(shè)備，機(jī)器人可以從腦電信號(hào)中解碼人類意圖。

并且它還配有一個(gè)“技能庫”，可以隨意組合各種技能完成人類指令，輕松應(yīng)對(duì)高達(dá)20項(xiàng)日常任務(wù)。

要知道，常規(guī)腦機(jī)接口系統(tǒng)一般只專注于一項(xiàng)或幾項(xiàng)任務(wù)。

目前這項(xiàng)研究已收錄于機(jī)器人頂會(huì)CoRL 2023：

圍觀網(wǎng)友一口一個(gè)哦買噶：

哦買噶，游戲規(guī)則改變者！

清華叉院助理教授許華哲也來評(píng)論區(qū)捧場(chǎng)：

哦買噶，賽博朋克！

這個(gè)NOIR系統(tǒng)究竟是什么？機(jī)器人為何能完成這么多任務(wù)？

20項(xiàng)任務(wù)輕松拿下

正如上文所說，這個(gè)機(jī)器人能干的事兒多著呢。

干酪撒粉這種任務(wù)也能輕松完成：

拆包裹、整理桌面這種活就更不在話下：

而其背后的這個(gè)NOIR系統(tǒng)，簡(jiǎn)單來說可以分為兩部分：模塊化解碼管線、有原始技能庫的機(jī)器人系統(tǒng)。

主打一個(gè)讓機(jī)器人自動(dòng)學(xué)習(xí)預(yù)測(cè)人類意圖。

具體來說，模塊化管線將解碼人類意圖過程分為三個(gè)模塊：

1）選擇什么對(duì)象？

方法是在屏幕上顯示任務(wù)場(chǎng)景，利用對(duì)象的閃爍刺激產(chǎn)生SSVEP信號(hào)；每個(gè)對(duì)象以不同頻率閃爍，人類注視某對(duì)象時(shí)，腦電信號(hào)中該頻率成分增強(qiáng)。

然后用Canonical Correlation Analysis(CCA)方法，分析不同頻率的相關(guān)性，確定人類注視的對(duì)象。

2）如何交互？

這部分是通過提示人類想象執(zhí)行某些技能(左手、右手等)產(chǎn)生運(yùn)動(dòng)意象信號(hào)，然后使用濾波和Common Spatial Pattern (CSP)算法預(yù)處理信號(hào)。

最后利用Quadratic Discriminant Analysis (QDA)進(jìn)行4類識(shí)別，確定技能選擇。

3）在哪交互？

人類想象控制光標(biāo)的左右運(yùn)動(dòng)來選擇技能執(zhí)行的具體參數(shù)。同樣通過CSP和QDA處理并解碼腦電信號(hào)，判斷人類是左還是右。

研究人員還設(shè)置了安全機(jī)制，采用肌肉緊張信號(hào)來確認(rèn)或拒絕腦電信號(hào)解碼結(jié)果，避免解碼錯(cuò)誤導(dǎo)致的風(fēng)險(xiǎn)。

之后，機(jī)器人配備了一系列參數(shù)化的基本技能，例如Pick（x，y，z）、Place（x，y，z）、Push（x，y，z，d）。

可以組合使用這些技能來完成人類指定的各種任務(wù)。

在這個(gè)過程中，解碼人類意圖既費(fèi)時(shí)又費(fèi)錢。所以研究團(tuán)隊(duì)選擇讓機(jī)器人用基于檢索的少樣本學(xué)習(xí)，來學(xué)習(xí)人類的對(duì)象、技能和參數(shù)選擇。

這樣一來，在給定一個(gè)新的任務(wù)時(shí)，機(jī)器人會(huì)在記憶中找到最相關(guān)的經(jīng)驗(yàn)，并選擇相應(yīng)的技能和對(duì)象。

舉個(gè)例子，假設(shè)人類在執(zhí)行抓取杯子的任務(wù)，選擇了在杯子的某個(gè)特定位置抓取（比如杯子的把手）。機(jī)器人會(huì)記錄下當(dāng)時(shí)的圖像，以及人類選擇的抓取點(diǎn)。

在之后的任務(wù)中，當(dāng)機(jī)器人看到新的杯子圖像時(shí)，它會(huì)首先根據(jù)預(yù)訓(xùn)練模型來分析這個(gè)新圖像，提取圖像的語義特征。

然后計(jì)算新圖像的特征和之前記錄的訓(xùn)練圖像特征之間的相似度，找出最相似的一個(gè)點(diǎn)，作為它預(yù)測(cè)的抓取位置。

通過這種匹配圖像特征的方式，機(jī)器人只需要人類示范一次參數(shù)選擇，就可以在未來自己預(yù)測(cè)參數(shù)，而不需要人類每次都完全重新選擇一遍。

使用NOIR系統(tǒng)，3名人類參與者完成了上面我們所介紹的20項(xiàng)日?；顒?dòng)任務(wù)，其中包括16個(gè)桌面操作任務(wù)和4個(gè)移動(dòng)操作任務(wù)。

在測(cè)試中，每個(gè)任務(wù)平均需要嘗試1.8次就能成功，平均完成時(shí)間為20.3分鐘，這其中主要是人類決策和解碼耗時(shí)，占總耗時(shí)的80%。

實(shí)驗(yàn)各階段的解碼準(zhǔn)確率和其它腦機(jī)接口研究差不多，但使用這種方法可以將對(duì)象和技能選擇時(shí)間降低60%，從45.7秒縮減到18.1秒。

作者簡(jiǎn)介

除了李飛飛教授、吳佳俊教授帶隊(duì)，論文共同一作有四位，分別是：

Ruohan Zhang

Ruohan Zhang是斯坦福視覺與學(xué)習(xí)實(shí)驗(yàn)室（SVL）博士后研究員，同時(shí)也是Wu Tsai Human Performance Alliance研究員。

主要研究方向?yàn)闄C(jī)器人技術(shù)、人機(jī)交互、腦機(jī)接口、認(rèn)知科學(xué)和神經(jīng)科學(xué)。

Sharon Lee

Sharon Lee是斯坦福大學(xué)視覺與學(xué)習(xí)實(shí)驗(yàn)室（SVL）研究生研究員。

Minjune Hwang

Minjune Hwang是斯坦福大學(xué)計(jì)算機(jī)科學(xué)研究生，于加州大學(xué)伯克利分校獲得計(jì)算機(jī)科學(xué)和統(tǒng)計(jì)學(xué)本科學(xué)位，曾在亞馬遜、微軟和蘋果進(jìn)行研究。

Ayano Hiranaka

斯坦福大學(xué)研究生，本科畢業(yè)于伊利諾伊大學(xué)香檳分校。

論文鏈接：https://arxiv.org/abs/2311.0145

參考鏈接：
[1]https://twitter.com/drjimfan/status/1722674119794434187
[2]https://twitter.com/ruohanzhang76/status/1720525179028406492