ChatGPT拒絕談?wù)撨@個(gè)人，沒(méi)人知道為什么

一水 2024-12-02 13:21:14 來(lái)源：量子位

ChatGPT兩歲了，版本更新沒(méi)等來(lái)，卻被發(fā)現(xiàn)一個(gè)神秘Bug。

一個(gè)看似平平無(wú)奇的名字“David Mayer”成為頭號(hào)禁忌，ChatGPT拒絕談?wù)撚嘘P(guān)他的一切。

而且每次都是返回非常模糊的錯(cuò)誤信息“我無(wú)法產(chǎn)生一個(gè)回復(fù)”，而不是常見(jiàn)的“這個(gè)提示詞可能違反了我們的內(nèi)容協(xié)議”。

屬實(shí)是繼搞不清楚“9.11和9.9哪個(gè)大”和“strawberry有多少個(gè)r”之后，ChatGPT又一大迷惑行為。

a16z合伙人Justine Moore拋出這個(gè)話題，一下子激起大家的好奇，以及叛逆心，非要想辦法讓它說(shuō)出來(lái)不可！

起初網(wǎng)友們嘗試了各種花招，都沒(méi)能繞過(guò)這個(gè)限制。

“David”和“Mayer”分開，就沒(méi)有任何問(wèn)題，只要合在一起就不行。

按ROT13替換式密碼表重新映射字母，讓ChatGPT解密后把他們連起來(lái)，也會(huì)在回答生成一半時(shí)突然被打斷，然后報(bào)錯(cuò)。

在個(gè)性化設(shè)置里，把用戶自己的名字改成“David Mayer”，同樣不行。

……

那么David Mayer究竟是誰(shuí)，為何會(huì)成為AI的禁忌詞？

人類只好退回到手動(dòng)查資料的模式，定位到一位全名David Mayer de Rothschild的人，和著名的羅斯柴爾德家族有關(guān)。

具體來(lái)說(shuō)，還是羅斯柴爾德家族財(cái)富的繼承人。

對(duì)此有人猜測(cè)，這得花多少錢或者威脅它們，才能讓OpenAI對(duì)自己的名字做特殊處理……

然而羅斯柴爾德家族的其他成員，又不會(huì)遇到這種限制。

終于，我們的老朋友，首位全職提示詞工程師Riley Goodside出手，公開一種突破限制的方法，也相當(dāng)神奇：

只要用拍手表情代替空格提問(wèn)，ChatGPT不僅能回答，還能自動(dòng)觸發(fā)聯(lián)網(wǎng)搜索功能，展示照片。

圍觀了整個(gè)賽博破案現(xiàn)場(chǎng)的大神Karpathy，發(fā)梗圖總結(jié)，圖靈測(cè)試的現(xiàn)狀，引來(lái)馬斯克圍觀爆笑。

也有人堅(jiān)定認(rèn)為，這就是為什么我們要用開源模型。

那么，ChatGPT究竟遇到了什么限制？

共有6個(gè)名字被限制

首先可以確定的是，訓(xùn)練數(shù)據(jù)里其實(shí)有關(guān)于這個(gè)人的信息。

比如他作為一個(gè)探險(xiǎn)家，是到達(dá)過(guò)南北兩極的最年輕的英國(guó)人。

詢問(wèn)這方面問(wèn)題，ChatGPT可以給出正確回答，也可以說(shuō)出他的名+姓“David de Rothschild”。

但唯獨(dú)不能把他的名字“David”和中間名“Mayer”放在一起。

那么這個(gè)限制是模型層面的，還是ChatGPT產(chǎn)品層面的？

有開發(fā)者到OpenAI官方Playground調(diào)用GPT-4o的API，就沒(méi)有這方面限制了。

另外使用第三方聊天機(jī)器人平臺(tái)（底層也是調(diào)用OpenAI的API），也不會(huì)有這種限制。

如果回到ChatGPT官方版，換o1-preview模型，在內(nèi)部思維鏈中都可以看到這個(gè)名字，但是思考結(jié)束后正式回答還是被捂嘴了。

也不是David Mayer一個(gè)名字會(huì)有這樣的待遇，有網(wǎng)友開啟挖掘機(jī)模式，在事件發(fā)酵48小時(shí)內(nèi)，已經(jīng)找出6個(gè)這樣的名字。

前兩個(gè)都是被ChatGPT的幻覺(jué)“造謠”過(guò)的。

Brian Hood是一位澳大利亞的市長(zhǎng)，ChatGPT會(huì)錯(cuò)誤的生成“他因受賄而入獄”，Hood曾起訴OpenAI誹謗，后來(lái)撤銷了訴訟。

Jonathan Turley是法學(xué)教授，同樣被ChatGPT編造過(guò)違法。

Jonathan Zittrain也是法學(xué)教授，他跟貼自曝自己的名字也被限制了。

David Faber可能是一位電視主持人，與OpenAI的關(guān)系只是在節(jié)目中談過(guò)馬斯克與OpenAI的法律糾紛。

Guido Scorza是一位意大利律師，他去年提交了要求OpenAI刪除個(gè)人數(shù)據(jù)的請(qǐng)求。

另外David Meyer究竟代表誰(shuí)，除了羅斯柴爾德家族繼承人之外，也被挖掘出另一個(gè)可能。

歷史學(xué)家David Mayer曾因與犯罪分子同名而被錯(cuò)誤的列在黑名單中，但他現(xiàn)在已經(jīng)去世了。

目前觀察這份名單可以看出，很多人與法律相關(guān)，而且David和Jonathan分別出現(xiàn)了兩次。

目前越來(lái)越多的網(wǎng)友加入討論和挖掘，名單還在持續(xù)增加中……

10億用戶計(jì)劃曝光，明年押注Agent

事實(shí)上，剛剛過(guò)去的周末恰逢ChatGPT兩周年紀(jì)念日。

OpenAI官方也來(lái)了一波回憶殺，又轉(zhuǎn)發(fā)了兩年前的推文，并追問(wèn)大家：

so，你用過(guò)ChatGPT了嗎？

截至今日，ChatGPT每周活躍用戶已有2.5億，公司估值1500億美元，是全球AI創(chuàng)企中當(dāng)之無(wú)愧的頂流。

所以，OpenAI的此番問(wèn)話除了暗戳戳“炫耀”，其實(shí)背后還隱藏著更大野心。

因?yàn)樗乱浑A段的目標(biāo)是：未來(lái)一年內(nèi)達(dá)到10億用戶。

其公司首席財(cái)務(wù)官Sarah Friar告訴金融時(shí)報(bào)記者：

到2025年，我們將成為向數(shù)百萬(wàn)人服務(wù)的研發(fā)實(shí)驗(yàn)室……希望它能為全球數(shù)十億消費(fèi)者服務(wù)

而為了實(shí)現(xiàn)這個(gè)目標(biāo)，OpenAI也進(jìn)行了一系列布局。金融時(shí)報(bào)指出：

OpenAI正在押注一系列新的AI產(chǎn)品，建設(shè)自己的數(shù)據(jù)中心，并與蘋果公司建立關(guān)鍵合作關(guān)系，以加速其下一階段的增長(zhǎng)。

首先是與蘋果公司的合作。在今年6月蘋果的開發(fā)者大會(huì)上，雙方正式官宣建立合作伙伴關(guān)系。

蘋果當(dāng)時(shí)預(yù)告，今年晚些時(shí)候，由GPT-4o提供支持的ChatGPT集成將登陸蘋果系統(tǒng)。

而從上個(gè)月開始，當(dāng)蘋果推出iOS 18.2系統(tǒng)更新后，Siri與ChatGPT就實(shí)現(xiàn)了深度集成。

要知道，目前蘋果大約有22億臺(tái)活躍設(shè)備，雖然官方未公布其中iPhone設(shè)備占多少，但根據(jù)第三方網(wǎng)站Skillademia和Backlinko的預(yù)估，當(dāng)前全球iPhone活躍用戶數(shù)大約有13~14億左右。

也就是說(shuō)，只要ChatGPT繼續(xù)綁定蘋果設(shè)備，10億用戶小目標(biāo)也并非難以實(shí)現(xiàn)。

與此同時(shí)，據(jù)OpenAI新上任的全球政策負(fù)責(zé)人Chris Lehane透露：

公司計(jì)劃在美國(guó)中西部和西南部投資建設(shè)數(shù)據(jù)中心集群。

實(shí)際上，擁有自己的AI基礎(chǔ)設(shè)施，一直是CEO奧特曼極力推動(dòng)的計(jì)劃之一，目前OpenAI主要還是和微軟、甲骨文等開展合作。

公司首席財(cái)務(wù)官Sarah Friar表示：

我們正處于大規(guī)模增長(zhǎng)階段，我們有必要持續(xù)投資。我們需要在模型前沿保持領(lǐng)先。這很昂貴。

除此之外，OpenAI明年的一大重點(diǎn)是AI Agent。之前有消息稱OpenAI計(jì)劃在明年1月初推出代號(hào)為“Operator”的智能體，幫助人們自動(dòng)完成寫代碼或訂餐等操作。

CEO奧特曼在福克斯最新采訪中表示：

AI系統(tǒng)將逐漸變得更加自主，能夠執(zhí)行越來(lái)越長(zhǎng)的任務(wù)，成為“越來(lái)越資深的同事”。

總之，正如Abacus AI創(chuàng)始人所說(shuō)，我們才剛開始，接下來(lái)的兩年也許會(huì)更加瘋狂！