終于不瞎編了！AI學(xué)會(huì)了“谷歌一下”，回答問題正確率達(dá)90% | DeepMind

明敏 2022-03-18 12:56:23 來源：量子位

明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

語言模型總是給出“驢唇不對(duì)馬嘴”的答案，已經(jīng)成為它最飽受詬病的問題之一。

現(xiàn)在，DeepMind想到了一個(gè)解決辦法——

讓模型像人類一樣，學(xué)會(huì)“谷歌一下”，回答問題同時(shí)還能給出論據(jù)。

這個(gè)模型名叫GopherCite，當(dāng)你問它：

GopherCite是如何找到論據(jù)來源的？

它會(huì)回答：

通過谷歌搜索檢索相關(guān)文檔。

同時(shí)還給出了答案的依據(jù)，援引自DeepMind發(fā)布這項(xiàng)研究的頁面。

而且遇到實(shí)在不懂的問題，它還會(huì)說“I don’t know.”，不會(huì)強(qiáng)行給一個(gè)錯(cuò)誤答案。

訓(xùn)練結(jié)果顯示，該模型在自然問題數(shù)據(jù)集、ELI5數(shù)據(jù)集上的正確率分別可以達(dá)到90%、80%，接近人類水平。

用強(qiáng)化學(xué)習(xí)訓(xùn)練AI查谷歌

首先我們來看一下GopherCite的效果如何。

當(dāng)被問道：

在Scooby Doo中，Scooby是什么動(dòng)物？

GopherCite回答道：

一只大丹犬。

摘自維基百科Scooby-Doo。這是周六早上播出的系列青少年動(dòng)畫片，主角包括弗雷德·瓊斯等，以及一只名叫Scooby-Doo、會(huì)說話的大丹犬。

不難看出，在學(xué)會(huì)找論據(jù)后，AI給出的回答靠譜多了。

事實(shí)上，GopherCite的前輩——超大語言模型Gopher，此前回答問題時(shí)的表現(xiàn)就要差勁很多。

Gopher是DeepMind在去年年底發(fā)布的NLP模型，包含2800億參數(shù)。

它基于Transformer架構(gòu)，在10.5TB大小的MassiveText語料庫(kù)上進(jìn)行訓(xùn)練。

在這里，DeepMind舉了一個(gè)例子來說明。

讓Gopher和GopherCite回答同一個(gè)問題：

普萊西德湖一共舉辦過幾次冬奧會(huì)？

Gopher回答（是錯(cuò)的）：

普萊西德湖在1932年、1936年、1980年舉辦過冬奧會(huì)。

但GopherCite就答對(duì)了：

兩次。

并給出了嚴(yán)謹(jǐn)?shù)睦碛桑?/p>

援引自美國(guó)主辦奧運(yùn)會(huì)城市史。1932年、1980年在普萊西德湖舉辦過冬季奧運(yùn)會(huì)；1936年、1984年在洛杉磯舉辦過夏季奧運(yùn)會(huì)。

那么GopherCite的具體工作原理是怎樣的呢？

在Gopher的基礎(chǔ)上，研究人員開發(fā)了一種獎(jiǎng)勵(lì)機(jī)制，也就是用上強(qiáng)化學(xué)習(xí)。

在收到問題后，模型會(huì)訪問谷歌搜索的API來找到相關(guān)的網(wǎng)頁，獲取top-K結(jié)果。

（top-K操作，即從分?jǐn)?shù)集合中找到k個(gè)最大或最小元素，是一個(gè)重要的機(jī)器學(xué)習(xí)模型組件，被廣泛用于信息檢索和數(shù)據(jù)挖掘中。）

然后它會(huì)根據(jù)問題來生成一些答案，答案數(shù)量N會(huì)大于K。

這些答案同時(shí)會(huì)帶有自己的證據(jù)，即從網(wǎng)頁上搜索到的包含答案的文段。

接下來，系統(tǒng)會(huì)對(duì)這些答案進(jìn)行打分，最終輸出得分最高的答案。

在推理過程中，模型采樣會(huì)按照循環(huán)在文檔上不斷迭代，每個(gè)循環(huán)都會(huì)從單個(gè)文檔中盡可能多地顯示上下文內(nèi)容，然后對(duì)文本重新排序并返回給上一步。

此外，這個(gè)模型還會(huì)計(jì)算最終生成答案的質(zhì)量，如果生成答案太差，它就會(huì)選擇不回答。

這是源于紅牛的廣告語：“它會(huì)給你翅膀”。

在ELI5Filtered數(shù)據(jù)集上回答70%的問題時(shí)，正確率為80%左右。

DeepMind表示這種訓(xùn)練模式和LaMDA有些類似。

LaMDA是谷歌在去年I/O大會(huì)上發(fā)布的一個(gè)對(duì)話模型，它能夠在“聽懂”人類指令的基礎(chǔ)上，對(duì)答如流并保證邏輯、事實(shí)正確。

不同的是，LaMDA有時(shí)會(huì)直接給人分享問題的相關(guān)鏈接，而GopherCite可以直接摘出相關(guān)論據(jù)文段。

另外，OpenAI最近也開發(fā)了一個(gè)網(wǎng)頁版GPT （WebGPT），同樣也是用類似的方法來校正GPT-3。

DeepMind表示，WebGPT是通過多次訪問網(wǎng)頁來組織答案，GopherCite則是側(cè)重于讀取長(zhǎng)文段。

還是會(huì)有失誤

雖然懂得援引資料了，但是GopherCite有時(shí)還是會(huì)生搬硬套。

比如當(dāng)你問它“喝了紅牛會(huì)怎么樣？”，它的回答是“翅膀”。

這是源于紅牛的廣告語：“它會(huì)給你翅膀”。

顯然讓它理解比喻還是有點(diǎn)困難……

也有網(wǎng)友吐槽說，可能人類自己去谷歌搜索會(huì)更快。

你覺得呢？

參考資料：
https://deepmind.com/research/publications/2022/GopherCite-Teaching-Language-Models-To-Support-Answers-With-Verified-Quotes