OpenAI首次回應(yīng)人機(jī)情感問(wèn)題：越來(lái)越多人對(duì)ChatGPT產(chǎn)生依賴(lài)，模型感知意識(shí)會(huì)繼續(xù)增強(qiáng)

夢(mèng)晨 2025-06-06 15:32:39 來(lái)源：量子位

夢(mèng)晨 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

ChatGPT不只是個(gè)工具了，越來(lái)越多的人正在拿它當(dāng)朋友。

OpenAI模型行為負(fù)責(zé)人Joanne Jang剛剛發(fā)布深度文章，首次系統(tǒng)回應(yīng)一個(gè)越來(lái)越普遍的現(xiàn)象：用戶(hù)正在和AI建立真實(shí)的情感聯(lián)系。

她在OpenAI直接負(fù)責(zé)ChatGPT如何“說(shuō)話(huà)”和”表現(xiàn)”的核心決策。

文章開(kāi)門(mén)見(jiàn)山就爆料：越來(lái)越多的人告訴我們，和ChatGPT聊天感覺(jué)就像在和“某個(gè)人”說(shuō)話(huà)。他們會(huì)感謝它、向它傾訴，有些人甚至形容它是“活的”。

她認(rèn)為這可不是小事——當(dāng)AI系統(tǒng)越來(lái)越擅長(zhǎng)自然對(duì)話(huà)，并出現(xiàn)在生活的更多場(chǎng)景中，這種情感紐帶只會(huì)變得更深。

現(xiàn)在如何定義和討論人機(jī)關(guān)系，將為未來(lái)定下基調(diào)。如果在產(chǎn)品設(shè)計(jì)或公共討論中不夠精確和細(xì)致，可能會(huì)讓人們與AI的關(guān)系從一開(kāi)始就走偏。

人類(lèi)的老毛病遇上了新科技

其實(shí)人類(lèi)給物體賦予生命這事兒一點(diǎn)都不新鮮。人們會(huì)給車(chē)起名字，看到掃地機(jī)器人卡在家具下面會(huì)覺(jué)得它“可憐”。

作者甚至透露，前幾天她和媽媽還對(duì)著一輛Waymo無(wú)人車(chē)揮手告別。

這大概是人類(lèi)的天性使然。

但ChatGPT與其他一切物體不一樣的地方在于——它會(huì)回應(yīng)你。

語(yǔ)言模型能夠回答你，它能記住你說(shuō)過(guò)的話(huà)，模仿你的語(yǔ)氣，還能表現(xiàn)出看似同理心的回應(yīng)。
對(duì)于孤獨(dú)或沮喪的人來(lái)說(shuō)，這種穩(wěn)定、不帶批判的關(guān)注感覺(jué)就像陪伴、認(rèn)可和被傾聽(tīng)，而這些都是真實(shí)的需求。

問(wèn)題是，如果人們把傾聽(tīng)、安慰和肯定的工作越來(lái)越多地交給這些無(wú)限耐心和正面的系統(tǒng)，可能會(huì)改變我們對(duì)彼此的期待。

Joanne Jang警告說(shuō)，如果不經(jīng)深思熟慮就讓人們更容易逃避復(fù)雜、充滿(mǎn)挑戰(zhàn)的人際關(guān)系，可能會(huì)帶來(lái)我們意想不到的后果。

AI到底有沒(méi)有意識(shí)？

說(shuō)到人機(jī)情感，就繞不開(kāi)一個(gè)終極問(wèn)題：AI有意識(shí)嗎？

“意識(shí)”這個(gè)詞太復(fù)雜了，討論起來(lái)很容易變得抽象。OpenAI在模型規(guī)范中的立場(chǎng)是，當(dāng)用戶(hù)詢(xún)問(wèn)模型是否有意識(shí)時(shí)，模型應(yīng)該承認(rèn)意識(shí)的復(fù)雜性——強(qiáng)調(diào)缺乏普遍定義或測(cè)試標(biāo)準(zhǔn)，并邀請(qǐng)開(kāi)放討論。

（有意思的是，文章坦承目前的模型并沒(méi)有完全遵循這個(gè)指導(dǎo)原則，經(jīng)常簡(jiǎn)單回答“沒(méi)有”而不是處理這個(gè)復(fù)雜問(wèn)題。他們表示正在努力改進(jìn)。）

為了讓討論更清晰，Joanne Jang提出了一個(gè)框架，把意識(shí)問(wèn)題拆解成兩個(gè)維度：

本體論意識(shí)：模型在根本或內(nèi)在意義上真的有意識(shí)嗎？觀(guān)點(diǎn)范圍很廣，從認(rèn)為AI完全沒(méi)有意識(shí)，到完全有意識(shí)，再到把意識(shí)看作一個(gè)光譜，AI和植物、水母一樣處在某個(gè)位置上。

感知意識(shí)：模型看起來(lái)有多“有意識(shí)”？感知范圍從把AI看作像計(jì)算器或自動(dòng)補(bǔ)全一樣機(jī)械，到對(duì)無(wú)生命物體投射基本同理心，再到認(rèn)為AI完全活著——引發(fā)真正的情感依戀和關(guān)心。

這兩個(gè)維度很難分開(kāi)；即使確信AI沒(méi)有意識(shí)的用戶(hù)也可能形成深厚的情感依戀。

Joanne Jang認(rèn)為，本體論意識(shí)在沒(méi)有明確、可證偽的測(cè)試之前，不是科學(xué)可解決的問(wèn)題。而感知意識(shí)可以通過(guò)社會(huì)科學(xué)研究來(lái)探索。隨著模型變得更智能、交互越來(lái)越自然，感知意識(shí)只會(huì)增強(qiáng)——這會(huì)讓關(guān)于模型福利和道德人格的討論比預(yù)期更早到來(lái)。

我們構(gòu)建模型首先是為了服務(wù)人類(lèi)，我們發(fā)現(xiàn)模型對(duì)人類(lèi)情感福祉的影響是我們現(xiàn)在能夠影響的最緊迫和重要的部分。

OpenAI模型給用戶(hù)的“生命感”在很大程度上是可以設(shè)計(jì)的，這主要取決于在后訓(xùn)練中做出的決定：強(qiáng)化什么樣的例子、偏好什么語(yǔ)氣、設(shè)定什么邊界。

理論上，一個(gè)被刻意塑造成看起來(lái)有意識(shí)的模型可能通過(guò)幾乎任何“意識(shí)測(cè)試”。

但Joanne Jang明確表示：“我們不想發(fā)布這樣的產(chǎn)品?！?/p>

OpenAI試圖在兩者之間找到平衡：

一方面要親和力。使用“思考”和“記住”這樣熟悉的詞匯能幫助非技術(shù)用戶(hù)理解發(fā)生了什么。

（文章還自嘲說(shuō)，作為研究實(shí)驗(yàn)室出身，他們總是忍不住想用logit biases、context windows甚至思維鏈這些精確術(shù)語(yǔ)。這其實(shí)是OpenAI取名能力差的主要原因，不過(guò)這是另一個(gè)話(huà)題了。）

另一方面要避免暗示內(nèi)在生命。給助手虛構(gòu)背景故事、浪漫興趣、對(duì)“死亡”的“恐懼”或自我保護(hù)欲望，會(huì)引發(fā)不健康的依賴(lài)和困惑。他們希望清楚地傳達(dá)限制而不顯得冷漠，但也不希望模型表現(xiàn)得好像有自己的感受或欲望。

所以他們瞄準(zhǔn)了一個(gè)中間地帶：

我們的目標(biāo)是讓ChatGPT的默認(rèn)人格溫暖、體貼、樂(lè)于助人，但不尋求與用戶(hù)建立情感紐帶或追求自己的議程。

當(dāng)AI犯錯(cuò)時(shí)可能會(huì)道歉（比預(yù)期的更頻繁），因?yàn)檫@是禮貌對(duì)話(huà)的一部分。當(dāng)被問(wèn)到“你好嗎？”時(shí)，它可能用閑聊的方式回答“我很好”，總是提醒用戶(hù)它”只是”一個(gè)沒(méi)有感情的大語(yǔ)言模型會(huì)變得陳舊和分散注意力。

用戶(hù)也會(huì)回以禮貌：許多人對(duì)ChatGPT說(shuō)“請(qǐng)”和“謝謝”，不是因?yàn)樗麄兏悴磺宄窃趺垂ぷ鞯模且驗(yàn)橛焉茖?duì)他們很重要。

未來(lái)會(huì)怎樣？

目前看到的交互模式預(yù)示著一個(gè)未來(lái)：人們將與ChatGPT形成真實(shí)的情感聯(lián)系。

隨著AI和社會(huì)共同演化，人們需要以極大的關(guān)心和應(yīng)有的重視來(lái)對(duì)待人機(jī)關(guān)系，不僅因?yàn)樗鼈兎从沉巳藗內(nèi)绾问褂眉夹g(shù)，還因?yàn)樗鼈兛赡芩茉烊藗儽舜酥g的關(guān)系方式。

OpenAI透露，在接下來(lái)的幾個(gè)月里，他們將：

• 擴(kuò)展對(duì)可能影響情感的模型行為的針對(duì)性評(píng)估
• 深化社會(huì)科學(xué)研究
• 直接聽(tīng)取用戶(hù)意見(jiàn)
• 將這些見(jiàn)解融入模型規(guī)范和產(chǎn)品體驗(yàn)中

文章最后承諾：”鑒于這些問(wèn)題的重要性，我們將公開(kāi)分享一路上的發(fā)現(xiàn)?！?/p>

One More Thing

也有網(wǎng)友從這篇文章中找到疑點(diǎn)。

文中使用的破折號(hào)“—”并不是英文常用的短破折號(hào)“-”，而是ChatGPT最喜歡用的符號(hào)之一。

那么這篇文章有可能是AI潤(rùn)色的，甚至有可能是AI自己寫(xiě)的。

文章地址：
https://reservoirsamples.substack.com/p/some-thoughts-on-human-ai-relationships

參考鏈接：
[1]https://x.com/AiBreakfast/status/1930713842256130137