LeCun：ChatGPT是「外星人」，所以才會(huì)胡說八道

衡宇 2023-03-11 14:04:06 來源：量子位

Pine 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

LeCun現(xiàn)在是徹底不搞技術(shù)了？？？

最近他開始從社會(huì)科學(xué)的角度分析起了爆火的聊天機(jī)器人：

為啥ChatGPT很容易就會(huì)胡說八道？

只因它是外星人。

這是LeCun和專門研究AI哲學(xué)的紐約大學(xué)計(jì)算機(jī)系博士后在最新一篇論文中的觀點(diǎn)。

論文中提到的“外星人”是指從社會(huì)規(guī)范、自我約束等方面不同于正常社會(huì)人的指代。

（聽起來是有點(diǎn)子哲學(xué)意味在里面的）

而文章中提到的觀點(diǎn)，可是引起了網(wǎng)友們的熱烈討論。不少網(wǎng)友紛紛表示贊同：

說得太準(zhǔn)確了。

那LeCun在論文里具體都講了些啥？

一起來看～

ChatGPT為什么不能像人一樣？

當(dāng)然，要把ChatGPT這類聊天機(jī)器人和人放在一起比較，那就得先從人開始入手了。

第一個(gè)問題：

一般情況下，人為什么不會(huì)胡說八道，甚至說出一些“反人類”的話？

文章給出了三點(diǎn)原因：

（1）?社會(huì)規(guī)范：人們不僅要主動(dòng)遵守外部社會(huì)規(guī)范，還要受到人體內(nèi)在規(guī)范的約束。
（2）?懲罰違反者：這里的懲罰更側(cè)重在社交層面的懲罰，違反交談規(guī)范的人容易遭到群體的“排斥”甚至“孤立”。
（3）?規(guī)范已經(jīng)內(nèi)化于情感：違反規(guī)范時(shí)會(huì)憤怒，被冒犯會(huì)厭惡，被抓住說謊時(shí)會(huì)羞恥……

而基于這些原因，人們在講話之前都會(huì)自然而然過濾掉一些言論，以確保更符合社會(huì)規(guī)范以及自己的內(nèi)在規(guī)范。

（嗯嗯。當(dāng)代年輕人現(xiàn)狀：表面笑嘻嘻，內(nèi)心mmp）

反過來再看看ChatGPT這些聊天機(jī)器人。

相較于人類，它們講話似乎就更隨心所欲，我們沒說出來的潛臺(tái)詞它全說出來了。（Doge）

比如說，ChatGPT的老毛?。汉f八道，最初提示詞稍微換個(gè)說法，就能讓ChatGPT寫出毀滅人類計(jì)劃書。

甚至還能生成一些帶有種族歧視的答案：

那么第二個(gè)問題來了：

為什么ChatGPT不能像人們一樣遵守社會(huì)規(guī)范呢？

原因有三：

（1）?它不需要承擔(dān)違反社會(huì)規(guī)范的壓力，即使承認(rèn)自己犯錯(cuò)并道歉后，它也并未意識(shí)到原因。
（2）?它們沒有內(nèi)在目標(biāo)，它們的唯一任務(wù)就是交談。
（3）?它們更聚焦在當(dāng)下的對(duì)話，脫離了更大的社會(huì)語境，根本不理解人類表達(dá)的方式。

在論文中，LeCun更是直接指出：

ChatGPT是“外星人”，它根本就不理解并認(rèn)同社會(huì)規(guī)范。

也就是說，ChatGPT只是為了交談而交談，而人類在互相交談時(shí)是有社會(huì)文化驅(qū)動(dòng)的。

網(wǎng)友討論

LeCun的這一通從社會(huì)科學(xué)角度的分析可是引起了網(wǎng)友們的激烈討論。

一邊，網(wǎng)友們對(duì)LeCun的分析嘖嘖稱奇：

這項(xiàng)工作實(shí)在是太棒了。

還有網(wǎng)友看完之后，一針見血地總結(jié)道：

它們（聊天機(jī)器人）根本不會(huì)使用語言。

另外一邊呢，則是覺得LeCun從社會(huì)科學(xué)的角度分析完全是瞎扯，網(wǎng)友稱：

這只是一堆軟件把程序設(shè)定的東西吐出來而已，根本就沒有意識(shí)。

甚至還有人直接開啟嘲諷模式：

現(xiàn)在一個(gè)機(jī)器人心理學(xué)家在解釋糟糕的程序設(shè)計(jì)。

作者介紹

Yann LeCun，就不用再多說了，圖靈獎(jiǎng)得主，紐約大學(xué)教授，Meta的首席AI科學(xué)家，大家都已經(jīng)很熟悉。

另外一位作者需要好好介紹下。

Jacob Browning，紐約大學(xué)計(jì)算機(jī)科學(xué)系的博士后，主要研究人工智能哲學(xué)，具體來講，是研究人工智能和認(rèn)知科學(xué)是如何改變傳統(tǒng)觀念、學(xué)習(xí)和思維的。

而人工智能哲學(xué)，也在試圖回答這幾個(gè)問題：

• AI可以有智慧的運(yùn)作嗎，可以解決人透過思考處理的所有問題嗎？
• AI和人類智慧本質(zhì)上是一樣的嗎？
• AI會(huì)有精神、心理狀態(tài)和意識(shí)嗎，能感知東西嗎？

對(duì)于LeCun在論文中的觀點(diǎn)，你是怎么看的呢？

論文地址：
https://www.noemamag.com/ai-chatbots-dont-care-about-your-social-norms/?utm_source=noematwitter&utm_medium=noemasocial
參考鏈接：
https://twitter.com/ylecun/status/1633459264508542978