為了刁難AI，科學(xué)家們制造了這1200個(gè)問(wèn)題，超強(qiáng)AI被“打回原形”

魚(yú)羊 2019-08-09 13:32:36 來(lái)源：量子位

魚(yú)羊 發(fā)自 凹非寺

量子位 報(bào)道 | 公眾號(hào) QbitAI

自從 IBM 的 Watson 在 “Jeopardy！” 智力問(wèn)答競(jìng)賽中戰(zhàn)勝人類(lèi)冠軍，人工智能真正理解人類(lèi)語(yǔ)言這件事似乎變得觸手可及。

但只要和Siri多聊幾次天，你就會(huì)明白計(jì)算機(jī)還有會(huì)表現(xiàn)出“人工智障”的一面。

想要更好地理解人類(lèi)語(yǔ)言，計(jì)算機(jī)系統(tǒng)必須接受更高難度的訓(xùn)練挑戰(zhàn)。

于是，馬里蘭大學(xué)的研究團(tuán)隊(duì)通過(guò)人機(jī)協(xié)作開(kāi)發(fā)出了一個(gè)包含1200多個(gè)問(wèn)題的數(shù)據(jù)集，來(lái)與計(jì)算機(jī)對(duì)抗。

Trick me if you can

馬里蘭大學(xué)副教授Jordan Boyd-Graber的團(tuán)隊(duì)提出了一個(gè)新的概念，human-in-loop對(duì)抗生成。

雖然 Watson 的戰(zhàn)績(jī)?cè)?jīng)驚倒眾人，讓人覺(jué)得AI幾乎可以理解語(yǔ)言的含義，但過(guò)去三四年來(lái)，研究者們已經(jīng)意識(shí)到計(jì)算機(jī)問(wèn)答系統(tǒng)其實(shí)非常脆弱。

在智力問(wèn)答中，許多問(wèn)題稍作改動(dòng)，人類(lèi)高手仍能輕松作答，而AI則會(huì)被徹底愚弄。

舉個(gè)例子，對(duì)于“哪一位作曲家的海頓主題變奏曲是受到了卡爾·費(fèi)迪南德·波爾的啟發(fā)？”這個(gè)問(wèn)題，博學(xué)的AI能夠輕松給出正確答案：約翰內(nèi)斯·勃拉姆斯。

但是如果不提卡爾·費(fèi)迪南德·波爾，而只是描述他的職業(yè)——維也納金色大廳的檔案管理員，那么AI就會(huì)傻眼。

所以，研究人員們都在努力創(chuàng)造更高難度的問(wèn)題，即對(duì)抗樣本，來(lái)迫使AI用人類(lèi)的方式思考問(wèn)題。

通常的做法是人類(lèi)自己寫(xiě)問(wèn)題，或者是讓計(jì)算機(jī)自己生成問(wèn)題。但問(wèn)題非常明顯：人在寫(xiě)問(wèn)題的時(shí)候，并不確定問(wèn)題里的哪些要素會(huì)混淆計(jì)算機(jī)。而AI生成器生成的問(wèn)題，則容易陷入公式化，有時(shí)還會(huì)產(chǎn)生空白的，錯(cuò)誤的，沒(méi)有意義的問(wèn)題。

那么，能不能讓機(jī)器來(lái)幫助人類(lèi)寫(xiě)出足以混淆計(jì)算機(jī)模型的問(wèn)題呢？

團(tuán)隊(duì)于是搞出了一個(gè)交互式用戶(hù)界面。

在這個(gè)界面中，人在輸入問(wèn)題的同時(shí)，計(jì)算機(jī)會(huì)把它的猜測(cè)按順序顯示在屏幕上，而那些計(jì)算機(jī)用來(lái)參考以生成回答的單詞也會(huì)被高亮標(biāo)注出來(lái)。

還用剛才那個(gè)例子來(lái)說(shuō)明，AI在得出約翰內(nèi)斯·勃拉姆斯這個(gè)答案的同時(shí)，會(huì)把卡爾·費(fèi)迪南德·波爾在屏幕上標(biāo)記出來(lái)，說(shuō)明它是根據(jù)這個(gè)名字推斷出了答案。

如此一來(lái)，輸入問(wèn)題的人只要在不改變問(wèn)題原義的基礎(chǔ)上，把卡爾·費(fèi)迪南德·波爾這個(gè)詞替換掉，就能生成一個(gè)成功的對(duì)抗性問(wèn)題。

也就是說(shuō)，人機(jī)協(xié)作就是human-in-loop對(duì)抗生成的核心。

Jordan Boyd-Graber教授是這樣介紹他們的工作的：

大多數(shù)的問(wèn)答計(jì)算機(jī)系統(tǒng)都沒(méi)有解釋他們是怎樣做出回答的，而我們的工作能幫我們看清計(jì)算機(jī)實(shí)際理解的內(nèi)容。

團(tuán)隊(duì)將這個(gè)框架應(yīng)用在了一個(gè)叫Quizbowl的問(wèn)答任務(wù)中，與Jeopardy不同的是，Quizbowl的問(wèn)答模式是這樣的：?jiǎn)栴}被同時(shí)讀給兩個(gè)競(jìng)爭(zhēng)團(tuán)隊(duì)，誰(shuí)先猜到答案就打斷問(wèn)題并回答。

益智問(wèn)答愛(ài)好者和計(jì)算機(jī)攜手，創(chuàng)造了1213個(gè)對(duì)抗性問(wèn)題。

他們將這些問(wèn)題整合成了開(kāi)源數(shù)據(jù)集Qanta Adversarial?，這個(gè)數(shù)據(jù)集涉及到了不同主題的6541個(gè)句子。

這樣的數(shù)據(jù)集將揭示計(jì)算機(jī)語(yǔ)言系統(tǒng)是否真的能像人類(lèi)那樣閱讀理解。

實(shí)驗(yàn)測(cè)試

為了測(cè)試新的QA系統(tǒng)的效果，研究團(tuán)隊(duì)用上了三個(gè)模型：IR模型，循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）以及深度平均網(wǎng)絡(luò)（DAN）。

第一輪攻擊

第一輪對(duì)抗性問(wèn)題是針對(duì)IR模型生成的。RNN和DAN同樣接受了測(cè)試。

問(wèn)題難度升級(jí)之后，三種模型都備受打擊，DAN的準(zhǔn)確率就從54.1%下降到了32.4%。

第二輪攻擊

第二輪攻擊中，作者又攻擊了一個(gè)RNN模型。參與第二輪測(cè)試的所有模型都在更大的數(shù)據(jù)集上進(jìn)行了訓(xùn)練。

從這個(gè)結(jié)果來(lái)看，針對(duì)IR系統(tǒng)的問(wèn)題降低了所有模型的性能。不過(guò)，IR模型對(duì)于針對(duì)RNN的問(wèn)題是魯棒的。

人機(jī)競(jìng)賽

最后的重頭戲，是人機(jī)大戰(zhàn)。

現(xiàn)場(chǎng)，有兩只人類(lèi)隊(duì)伍來(lái)與計(jì)算機(jī)PK。人類(lèi)這邊，是國(guó)家級(jí)Quizbowl玩家；而計(jì)算機(jī)這邊，是最先進(jìn)的Quizbowl系統(tǒng)Studio Ousis模型。

在2017年的NIPS共享任務(wù)當(dāng)中，Studio Ousis曾經(jīng)以475：200的比分戰(zhàn)勝了人類(lèi)高手。

第一場(chǎng)比賽，使用了IR對(duì)抗性問(wèn)題。形勢(shì)完全逆轉(zhuǎn)，人類(lèi)以?300：30的比分獲勝了。

第二場(chǎng)比賽規(guī)模進(jìn)一步擴(kuò)大，有七支人類(lèi)團(tuán)隊(duì)參與其中，而比賽中的400多個(gè)問(wèn)題是針對(duì)RNN模型生成的對(duì)抗性問(wèn)題。

這次，人類(lèi)隊(duì)伍這邊有高中Quizbowl選手，也有Jeopardy！冠軍隊(duì)伍。

然而，連最弱的人類(lèi)團(tuán)隊(duì)也擊敗了最強(qiáng)級(jí)別的AI。

1200問(wèn)直擊弱點(diǎn)，AI果然還有很長(zhǎng)的路要走啊。

傳送門(mén)

QANTA項(xiàng)目：

https://sites.google.com/view/qanta/projects/adversarial

論文地址：

https://arxiv.org/abs/1809.02701

GitHub地址：

https://github.com/Eric-Wallace/trickme-interface/

— 完 —