聊天機(jī)器人有了長(zhǎng)期記憶，遇到不懂的還能上網(wǎng)搜索，網(wǎng)友：像極了不懂裝懂時(shí)偷偷百度的我

夢(mèng)晨 2021-07-17 13:16:58 來(lái)源：量子位

夢(mèng)晨 發(fā)自 凹非寺
量子位 報(bào)道 | 公眾號(hào) QbitAI

聊天機(jī)器人一直是人工智障的代表。

盡管從GPT-3開始，AI生成的文本已經(jīng)能做到以假亂真，但這僅限于生成一段話。

在連續(xù)聊天中，AI不會(huì)記得自己之前說(shuō)過(guò)的話，就像下面這樣：

AI這種前后矛盾的表現(xiàn)，在人類看來(lái)就是沒(méi)有穩(wěn)定的身份和個(gè)性，好像聊著聊著換人了，也難怪一直被當(dāng)作人工智障。

現(xiàn)在，F(xiàn)acebook AI團(tuán)隊(duì)終于推出BlenderBot2.0，在1.0基礎(chǔ)上添加了長(zhǎng)期記憶和即時(shí)搜索功能。

首先要記住自己說(shuō)過(guò)的話：

記下自己說(shuō)過(guò)的“我喜歡很多種音樂(lè)”，和“Kanye West是我最喜歡的說(shuō)唱歌手”這樣的信息，避免后續(xù)聊天中出現(xiàn)矛盾。

人類說(shuō)的話也要記住，比如最喜歡的專輯：

最后，如果人類提到了AI不知道的東西怎么辦？

趁沒(méi)人發(fā)現(xiàn)悄悄去網(wǎng)上搜索，還能把搜出來(lái)的信息顯擺出來(lái)：

查到對(duì)方喜歡的藝人Beyonce的出生地，并用“我去過(guò)那里幾次”接上對(duì)話。

是不是像極了在群里聊天吹水時(shí)偷偷百度的你？

如何告別智障

Facebook AI去年發(fā)布的BlenderBot1.0就已經(jīng)做到了94億參數(shù)，在單輪對(duì)話生成上取得了出色的效果。

這次升級(jí)的重點(diǎn)是一個(gè)檢索增強(qiáng)算法，能從過(guò)去對(duì)話記憶和互聯(lián)網(wǎng)上的資料中提取出能用在當(dāng)前對(duì)話的信息。

對(duì)于訓(xùn)練數(shù)據(jù)，F(xiàn)acebook在眾包平臺(tái)上發(fā)布了任務(wù)。

讓參與者在對(duì)話中扮演一個(gè)特定的人格，并隔幾小時(shí)、隔幾天對(duì)同一個(gè)話題進(jìn)行討論，收集成多輪對(duì)話數(shù)據(jù)集。

AI從網(wǎng)上搜索資料并用于聊天的能力，也是從人類那里學(xué)來(lái)的。

同樣是在眾包平臺(tái)上，這次的任務(wù)是讓一個(gè)人描述自己的興趣開啟話題，另一個(gè)人可以上網(wǎng)搜索并接上對(duì)話。

這樣AI不僅能學(xué)到人類在面對(duì)不同話題的適合搜索什么關(guān)鍵詞，還能學(xué)到最后什么樣的信息可以用在聊天上。

實(shí)驗(yàn)結(jié)果上，BlenderBot2.0對(duì)之前對(duì)話內(nèi)容的使用率提高了55%，在對(duì)話中的事實(shí)一致性提高了12%，而人類評(píng)估員打出的分?jǐn)?shù)提高了17%。

能上網(wǎng)搜索信息還讓AI能夠參與人類世界中最新的話題，比如談?wù)撔律嫌车碾娨晞　?/p>

如果和BlenderBot1.0聊起今年新片《旺達(dá)幻視》，他只能說(shuō)我沒(méi)看過(guò)，這天就聊死了。

Blender2.0就可以搜索后說(shuō)出片中最喜歡的角色是誰(shuí)，讓人更有把對(duì)話繼續(xù)下去的欲望。

AI的記憶不再靜止于它完成訓(xùn)練的那一刻。

LeCun點(diǎn)贊，馬斯克擔(dān)憂它的三觀

三巨頭之一的LeCun第一時(shí)間轉(zhuǎn)發(fā)了BlenderBot2.0并評(píng)價(jià)為“首個(gè)能對(duì)任意話題Hold住多輪對(duì)話的聊天機(jī)器人”

馬斯克所擔(dān)心的，是AI從開放互聯(lián)網(wǎng)上獲取信息很快會(huì)變得三觀不正。

他舉的例子是微軟推出的Tay機(jī)器人在16小時(shí)左右就被網(wǎng)友聊成了納粹支持者，最后被迫下架。

對(duì)于和AI討論“最喜歡的作品”這回事，有人表現(xiàn)出了不信任：

AI不會(huì)喜歡某個(gè)作品，只是自動(dòng)把最流行的作品當(dāng)成最好的，和網(wǎng)上追逐熱點(diǎn)的大多數(shù)人一樣。

有人看出了潛在的隱私風(fēng)險(xiǎn)：

你們說(shuō)讓AI上網(wǎng)搜索，不會(huì)是在Facebook上搜索我發(fā)的帖子吧。

如果你感興趣，可以到Facebook的Parlai平臺(tái)下載模型和它聊聊看。

開源項(xiàng)目地址：
https://parl.ai/projects/blenderbot2/

相關(guān)論文：
[1]https://github.com/facebookresearch/ParlAI/blob/master/projects/sea/Internet_Augmented_Dialogue.pdf
[2]https://github.com/facebookresearch/ParlAI/blob/master/projects/msc/msc.pdf

參考鏈接：
[1]https://ai.facebook.com/blog/blender-bot-2-an-open-source-chatbot-that-builds-long-term-memory-and-searches-the-internet