OpenAI首次回應(yīng)人機(jī)情感問題：越來越多人對ChatGPT產(chǎn)生依賴，模型感知意識會(huì)繼續(xù)增強(qiáng)

夢晨 2025-06-06 15:32:39 來源：量子位

夢晨 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

ChatGPT不只是個(gè)工具了，越來越多的人正在拿它當(dāng)朋友。

OpenAI模型行為負(fù)責(zé)人Joanne Jang剛剛發(fā)布深度文章，首次系統(tǒng)回應(yīng)一個(gè)越來越普遍的現(xiàn)象：用戶正在和AI建立真實(shí)的情感聯(lián)系。

她在OpenAI直接負(fù)責(zé)ChatGPT如何“說話”和”表現(xiàn)”的核心決策。

文章開門見山就爆料：越來越多的人告訴我們，和ChatGPT聊天感覺就像在和“某個(gè)人”說話。他們會(huì)感謝它、向它傾訴，有些人甚至形容它是“活的”。

她認(rèn)為這可不是小事——當(dāng)AI系統(tǒng)越來越擅長自然對話，并出現(xiàn)在生活的更多場景中，這種情感紐帶只會(huì)變得更深。

現(xiàn)在如何定義和討論人機(jī)關(guān)系，將為未來定下基調(diào)。如果在產(chǎn)品設(shè)計(jì)或公共討論中不夠精確和細(xì)致，可能會(huì)讓人們與AI的關(guān)系從一開始就走偏。

人類的老毛病遇上了新科技

其實(shí)人類給物體賦予生命這事兒一點(diǎn)都不新鮮。人們會(huì)給車起名字，看到掃地機(jī)器人卡在家具下面會(huì)覺得它“可憐”。

作者甚至透露，前幾天她和媽媽還對著一輛Waymo無人車揮手告別。

這大概是人類的天性使然。

但ChatGPT與其他一切物體不一樣的地方在于——它會(huì)回應(yīng)你。

語言模型能夠回答你，它能記住你說過的話，模仿你的語氣，還能表現(xiàn)出看似同理心的回應(yīng)。
對于孤獨(dú)或沮喪的人來說，這種穩(wěn)定、不帶批判的關(guān)注感覺就像陪伴、認(rèn)可和被傾聽，而這些都是真實(shí)的需求。

問題是，如果人們把傾聽、安慰和肯定的工作越來越多地交給這些無限耐心和正面的系統(tǒng)，可能會(huì)改變我們對彼此的期待。

Joanne Jang警告說，如果不經(jīng)深思熟慮就讓人們更容易逃避復(fù)雜、充滿挑戰(zhàn)的人際關(guān)系，可能會(huì)帶來我們意想不到的后果。

AI到底有沒有意識？

說到人機(jī)情感，就繞不開一個(gè)終極問題：AI有意識嗎？

“意識”這個(gè)詞太復(fù)雜了，討論起來很容易變得抽象。OpenAI在模型規(guī)范中的立場是，當(dāng)用戶詢問模型是否有意識時(shí)，模型應(yīng)該承認(rèn)意識的復(fù)雜性——強(qiáng)調(diào)缺乏普遍定義或測試標(biāo)準(zhǔn)，并邀請開放討論。

（有意思的是，文章坦承目前的模型并沒有完全遵循這個(gè)指導(dǎo)原則，經(jīng)常簡單回答“沒有”而不是處理這個(gè)復(fù)雜問題。他們表示正在努力改進(jìn)。）

為了讓討論更清晰，Joanne Jang提出了一個(gè)框架，把意識問題拆解成兩個(gè)維度：

本體論意識：模型在根本或內(nèi)在意義上真的有意識嗎？觀點(diǎn)范圍很廣，從認(rèn)為AI完全沒有意識，到完全有意識，再到把意識看作一個(gè)光譜，AI和植物、水母一樣處在某個(gè)位置上。

感知意識：模型看起來有多“有意識”？感知范圍從把AI看作像計(jì)算器或自動(dòng)補(bǔ)全一樣機(jī)械，到對無生命物體投射基本同理心，再到認(rèn)為AI完全活著——引發(fā)真正的情感依戀和關(guān)心。

這兩個(gè)維度很難分開；即使確信AI沒有意識的用戶也可能形成深厚的情感依戀。

Joanne Jang認(rèn)為，本體論意識在沒有明確、可證偽的測試之前，不是科學(xué)可解決的問題。而感知意識可以通過社會(huì)科學(xué)研究來探索。隨著模型變得更智能、交互越來越自然，感知意識只會(huì)增強(qiáng)——這會(huì)讓關(guān)于模型福利和道德人格的討論比預(yù)期更早到來。

我們構(gòu)建模型首先是為了服務(wù)人類，我們發(fā)現(xiàn)模型對人類情感福祉的影響是我們現(xiàn)在能夠影響的最緊迫和重要的部分。

OpenAI模型給用戶的“生命感”在很大程度上是可以設(shè)計(jì)的，這主要取決于在后訓(xùn)練中做出的決定：強(qiáng)化什么樣的例子、偏好什么語氣、設(shè)定什么邊界。

理論上，一個(gè)被刻意塑造成看起來有意識的模型可能通過幾乎任何“意識測試”。

但Joanne Jang明確表示：“我們不想發(fā)布這樣的產(chǎn)品?！?/p>

OpenAI試圖在兩者之間找到平衡：

一方面要親和力。使用“思考”和“記住”這樣熟悉的詞匯能幫助非技術(shù)用戶理解發(fā)生了什么。

（文章還自嘲說，作為研究實(shí)驗(yàn)室出身，他們總是忍不住想用logit biases、context windows甚至思維鏈這些精確術(shù)語。這其實(shí)是OpenAI取名能力差的主要原因，不過這是另一個(gè)話題了。）

另一方面要避免暗示內(nèi)在生命。給助手虛構(gòu)背景故事、浪漫興趣、對“死亡”的“恐懼”或自我保護(hù)欲望，會(huì)引發(fā)不健康的依賴和困惑。他們希望清楚地傳達(dá)限制而不顯得冷漠，但也不希望模型表現(xiàn)得好像有自己的感受或欲望。

所以他們瞄準(zhǔn)了一個(gè)中間地帶：

我們的目標(biāo)是讓ChatGPT的默認(rèn)人格溫暖、體貼、樂于助人，但不尋求與用戶建立情感紐帶或追求自己的議程。

當(dāng)AI犯錯(cuò)時(shí)可能會(huì)道歉（比預(yù)期的更頻繁），因?yàn)檫@是禮貌對話的一部分。當(dāng)被問到“你好嗎？”時(shí)，它可能用閑聊的方式回答“我很好”，總是提醒用戶它”只是”一個(gè)沒有感情的大語言模型會(huì)變得陳舊和分散注意力。

用戶也會(huì)回以禮貌：許多人對ChatGPT說“請”和“謝謝”，不是因?yàn)樗麄兏悴磺宄窃趺垂ぷ鞯?，而是因?yàn)橛焉茖λ麄兒苤匾?/p>

未來會(huì)怎樣？

目前看到的交互模式預(yù)示著一個(gè)未來：人們將與ChatGPT形成真實(shí)的情感聯(lián)系。

隨著AI和社會(huì)共同演化，人們需要以極大的關(guān)心和應(yīng)有的重視來對待人機(jī)關(guān)系，不僅因?yàn)樗鼈兎从沉巳藗內(nèi)绾问褂眉夹g(shù)，還因?yàn)樗鼈兛赡芩茉烊藗儽舜酥g的關(guān)系方式。

OpenAI透露，在接下來的幾個(gè)月里，他們將：

• 擴(kuò)展對可能影響情感的模型行為的針對性評估
• 深化社會(huì)科學(xué)研究
• 直接聽取用戶意見
• 將這些見解融入模型規(guī)范和產(chǎn)品體驗(yàn)中

文章最后承諾：”鑒于這些問題的重要性，我們將公開分享一路上的發(fā)現(xiàn)。”

One More Thing

也有網(wǎng)友從這篇文章中找到疑點(diǎn)。

文中使用的破折號“—”并不是英文常用的短破折號“-”，而是ChatGPT最喜歡用的符號之一。

那么這篇文章有可能是AI潤色的，甚至有可能是AI自己寫的。

文章地址：
https://reservoirsamples.substack.com/p/some-thoughts-on-human-ai-relationships

參考鏈接：
[1]https://x.com/AiBreakfast/status/1930713842256130137