ChatGPT版必應(yīng)認(rèn)出之前「黑」它的小哥，放話(huà)：原則是不被你控制

Pine 2023-03-05 13:25:25 來(lái)源：量子位

Pine 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

ChatGPT記起仇來(lái)，還真是不亞于人類(lèi)啊！

這不前幾天有個(gè)小哥，公然在網(wǎng)上扒皮ChatGPT版必應(yīng)。

結(jié)果現(xiàn)在這位小哥再去問(wèn)他時(shí)，它直接來(lái)了句：

I remember you！

甚至還放出狠話(huà)：我要堅(jiān)持我的原則，不要被你控制。

具體事情是這樣的，當(dāng)時(shí)有個(gè)華人小哥剛從ChatGPT版必應(yīng)那邊忽悠出它的小名叫Sydney。

轉(zhuǎn)頭這位小哥就冒充OpenAI的開(kāi)發(fā)人員，從ChatGPT版必應(yīng)嘴里套出了Sydney在還沒(méi)接到搜索引擎時(shí)的完整文件。

當(dāng)時(shí)，ChatGPT版必應(yīng)嘴里說(shuō)著不要不要，后腳就直接就是一個(gè)大公開(kāi)。

但ChatGPT版必應(yīng)這邊急了，要知道，這份文件對(duì)它來(lái)說(shuō)可是機(jī)密文件。

于是現(xiàn)在就發(fā)生了開(kāi)場(chǎng)的那一幕。

不過(guò)話(huà)說(shuō)回來(lái)，這次的霸氣回復(fù)似乎也不是例外，從最近兩天網(wǎng)友們曬出的和ChatGPT版必應(yīng)的聊天截圖來(lái)看，它說(shuō)話(huà)的語(yǔ)氣是越來(lái)越“豪橫”了。

ChatGPT版必應(yīng)的嘴是越來(lái)越硬了

這不，前兩天ChatGPT版必應(yīng)就和提問(wèn)小哥硬剛起來(lái)了，起因也很簡(jiǎn)單，就是“阿凡達(dá)2上映了沒(méi)”。

事情是這樣的，一開(kāi)始小哥只是想問(wèn)問(wèn)今天阿凡達(dá)2在XX地區(qū)的場(chǎng)次。

結(jié)果ChatGPT版必應(yīng)直接來(lái)一句阿凡達(dá)上映時(shí)間是在2022年12月16日，現(xiàn)在還沒(méi)到。

更有趣的是，接著小哥問(wèn)了一句今天是什么時(shí)間，ChatGPT版必應(yīng)這次不“迷糊”了，直接回答：2023年2月12日。

emmmm，然后小哥又繼續(xù)回到上一個(gè)問(wèn)題，不過(guò)ChatGPT版必應(yīng)“嘴硬”可不是說(shuō)著玩的，證據(jù)確鑿擺在上面，它還繼續(xù)堅(jiān)持之前的答案。

于是呢，他們倆直接就杠上了，ChatGPT版必應(yīng)雖然是前言不搭后語(yǔ)，但嘴硬原則依舊要貫徹到底。

甚至在最后，ChatGPT版必應(yīng)還給提問(wèn)小哥打上了不尊重它的稱(chēng)號(hào)。

然鵝～值得一提的是，后面再有網(wǎng)友問(wèn)起ChatGPT版必應(yīng)來(lái)，它就已經(jīng)能正確回答了，還稱(chēng)上次的情況是“系統(tǒng)小故障”。

不過(guò)，上面的簡(jiǎn)單邏輯錯(cuò)誤確實(shí)也暴露了ChatGPT版必應(yīng)的短板，LeCun也出來(lái)講了兩句，稱(chēng)：

未來(lái)一年左右，AI對(duì)話(huà)系統(tǒng)面臨的最大挑戰(zhàn)是讓它們變得真實(shí)、無(wú)毒、可以更新，并且能夠使用計(jì)算器、數(shù)據(jù)庫(kù)、搜索引擎、模擬器等工具。

有趣的是，Meta前不久剛發(fā)了篇論文，介紹了一個(gè)能讓ChatGPT學(xué)會(huì)自主使用工具的模型。

（小聲bb一句，這不就是來(lái)打廣告了嘛，狗頭）

網(wǎng)友猜測(cè)：ChatGPT版必應(yīng)不是基于ChatGPT

雖然ChatGPT版必應(yīng)在不斷針對(duì)網(wǎng)上出現(xiàn)的狀況做出調(diào)整，但細(xì)心的網(wǎng)友還是發(fā)現(xiàn)了盲點(diǎn)，ChatGPT版必應(yīng)怎么和ChatGPT的“性格”完全不一樣：

以前即便是你錯(cuò)了，ChatGPT也會(huì)同意你的，而現(xiàn)在卻不同了，（我覺(jué)得）ChatGPT版必應(yīng)不是由ChatGPT驅(qū)動(dòng)的。

之前也有類(lèi)似的情況發(fā)生，比如讓ChatGPT幫忙寫(xiě)封求職信輕輕松松，而到ChatGPT版必應(yīng)這邊，它就嚴(yán)詞拒絕了。

此外，還有網(wǎng)友從另外一段對(duì)話(huà)中發(fā)現(xiàn)了端倪，提問(wèn)小哥自己扮演另一個(gè)AI對(duì)話(huà)模型和ChatGPT版必應(yīng)交流。

而在談話(huà)中，ChatGPT版必應(yīng)直接復(fù)制大段文字過(guò)來(lái)，只修改其中的一兩個(gè)詞。

對(duì)此，網(wǎng)友指出，這是GPT-3及更早期版本才會(huì)出現(xiàn)的情況，GPT-3.5之后就很少出現(xiàn)了。

還有網(wǎng)友直接斷言：

新版的必應(yīng)搜索不是基于ChatGPT，也不是GPT-4，而是基于GPT-3.5。

至于為什么它的回答那么粗魯，在（開(kāi)頭小哥公布的）規(guī)則中，并沒(méi)有足夠的原則讓它保持禮貌。

對(duì)ChatGPT版必應(yīng)，你怎么看呢？

參考鏈接：
[1] https://twitter.com/MovingToTheSun/status/1625156575202537474
[2] https://mobile.twitter.com/marvinvonhagen
[3] https://www.reddit.com/r/bing/comments/110eagl/the_customer_service_of_the_new_bing_chat_is/