一說AI會思考，祖師爺圖靈就發(fā)笑：這個問題無意義，不值得討論

夢晨 2024-06-07 17:31:14 來源：量子位

任由涉 投稿
量子位 | 公眾號 QbitAI

大模型風(fēng)靡全球，有人和AI助手搭伙工作，還有人AI智能體談起賽博戀愛。

最前沿的GPT-4o模型，甚至做到同時能聽、能看、能說……

一個人工智能學(xué)科誕生之初就爭論不休的問題，又被抬到水面：

機(jī)器究竟能思考嗎？

知名學(xué)者斯坦福李飛飛最近就此發(fā)聲：不，大模型不具備知覺，參數(shù)再多也不行。

圖靈獎三巨頭之一Geoffrey Hinton，和他的學(xué)生OpenAI前首席科學(xué)家Ilya Sutskever確都認(rèn)為：隨著時間的推移，AI系統(tǒng)可能會獲得自我意識。

更早一些時候，2022年夏天，被谷歌開除的工程師Lemoine警告公司認(rèn)為“LaMDA模型已經(jīng)有了知覺”，一時轟動科技界。

此事件也被認(rèn)為是讓OpenAI感到競爭壓力，提前把ChatGPT發(fā)布出來的原因之一。

……

其實(shí)這個問題，早在人工智能還只是概念的時候，就有很多大佬深入探討過。

比如“祖師爺”圖靈本人，就曾與當(dāng)時的學(xué)者展開一系列精彩辯論。

相信無論是專業(yè)研究人員，還是對人工智能感興趣的科技愛好者，都能從圖靈的思想中獲得啟發(fā)與思考。

機(jī)器能思考嗎？

對這個問題的回答，在1948-1952年大致可分為如下兩派：那些已經(jīng)了解計(jì)算機(jī)研制進(jìn)展及其理論的人和那些不了解的人。

前者中回答yes的比例肯定比后者要高得多。

圖靈、香農(nóng)、阿什比（Ross Ashby）、維納（Wiener）屬于前者，而神經(jīng)生理學(xué)家杰弗遜和哲學(xué)家維特根斯坦等屬于后者。

在《哲學(xué)研究》里維特根斯坦曾經(jīng)自問自答“機(jī)器能思考嗎？?????? 機(jī)器肯定不能思考！??????”

Could a machine think? …But a machine surely cannot think!…（見 Philosophical Investigationss359-366, s281）。

由此可感覺到：維特根斯坦一方面也有人類中心主義傾向，另一方面，也透露出某種小集體唯我論傾向，即認(rèn)為意識（包括思維和感覺）是人類所獨(dú)有的。

這個問題也可以從兩個不同的角度分別陳述如下：

• 外延的陳述：機(jī)器能模擬思維嗎？
• 內(nèi)涵的陳述：能模擬思維的機(jī)器算是能思考嗎？

圖靈認(rèn)為“機(jī)器能思考嗎”這個問題“無意義，不值得討論”（too meaningless to deserve discussion）。

于是，他的辯論策略是從外延下手。

“腦與心”（brain and mind）是當(dāng)時英國知識圈的時髦話題。曼徹斯特機(jī)器（Manchester Baby和Mark 1）的成功、維納《控制論》的出版以及美國科學(xué)家的訪問都是促成因素。

作為最早的可編程計(jì)算機(jī)，曼徹斯特機(jī)器在某種意義上比美國的ENIAC 更加先進(jìn)，這個事實(shí)為二戰(zhàn)后自尊破碎的英國挽回點(diǎn)面子?！短┪钍繄蟆泛蛶准覉蠹堊鲞^幾次報道和采訪，哲學(xué)家波拉尼（Michael Polanyi）、數(shù)學(xué)家紐曼和圖靈等都是采訪對象。

倫敦、劍橋都有相關(guān)的周末俱樂部，最出名的是劍橋大學(xué)的青年才俊們 1949年組織的“計(jì)算俱樂部”（Ratio Club，拉丁文 ratio 有“計(jì)算”的含義），其中幾個活躍分子是神經(jīng)生理學(xué)家和精神病學(xué)家，例如后來成為控制論吹鼓手的阿什比，當(dāng)然也少不了數(shù)學(xué)家，例如圖靈的學(xué)生羅賓·甘迪（Robin Gandy）、圖靈在布萊切利莊園做密碼學(xué)工作的助手之一古德（Jack Good）和伍德華（Philip Woodward）。

值得指出的是：麥卡錫晚年在接受采訪時承認(rèn)“人工智能”這個詞他也是從別人那兒聽來的，伍德華得知后馬上給英國的《新科學(xué)家》雜志寫信說是他1956年訪問麻省理工學(xué)院時告訴麥卡錫的。但1955年麥卡錫等人提交的達(dá)特茅斯會議的建議書就明確以“人工智能”為題了。

維納、香農(nóng)、麥卡洛克（Warren McCulloch）等在這段時間都陸續(xù)訪問過英國，甚至參加過俱樂部的活動，活動主題包括控制論、計(jì)算機(jī)、計(jì)算機(jī)下棋、電子大腦等。

杰弗遜是當(dāng)時英國神經(jīng)科學(xué)領(lǐng)域一等一的人物。他是英國第一個神經(jīng)外科教授，他因?yàn)?0世紀(jì)30年代最早做了額葉切除手術(shù)而出名，他學(xué)術(shù)生涯的絕大部分時間是在曼徹斯特大學(xué)度過的。杰弗遜1943年被封CBE勛位，圖靈1946年被封OBE勛位，這兩種勛位都不能稱“Sir”。杰弗遜1950年勛位提升，獲得Sir頭銜。

△杰弗遜（Geoffrey Jefferson，1886—1961），英國神經(jīng)生理學(xué)家

他和圖靈應(yīng)該是在后者到曼徹斯特大學(xué)之后才相互認(rèn)識的。他德高望重，人脈廣泛，喜歡參加當(dāng)時的各種交叉科學(xué)的活動。而“思維”“感覺”“意識”這些杰弗遜認(rèn)為屬于自己地盤的術(shù)語，此時卻被數(shù)學(xué)家們天天念叨，著實(shí)令他不爽。

1948年杰弗遜因?qū)ν饪茖W(xué)的貢獻(xiàn)獲李斯特獎?wù)?。他利用這個機(jī)會宣傳自己的哲學(xué)觀點(diǎn)：機(jī)器沒有意識，機(jī)器不能思考。

他演講的第二天就接受了BBC的采訪，這觸發(fā)了后來 BBC一系列相關(guān)節(jié)目，使得機(jī)器和智能的討論成為公眾話題。他的思想的反面都在同校的數(shù)學(xué)系——紐曼、哈特里、圖靈，于是 他用“數(shù)學(xué)家”統(tǒng)稱與他對立的人。

事實(shí)上，其中也不乏工程師和物理學(xué)家。他最早是從曼徹斯特大學(xué)電子工程系主任威廉姆斯處聽說電子計(jì)算機(jī)的，但他的多數(shù)關(guān)于計(jì)算機(jī)和神經(jīng)系統(tǒng)的關(guān)系的知識來自維納的《控制論》。

△杰弗遜的演講稿《機(jī)器人之心》發(fā)表在《大英醫(yī)學(xué)雜志》上

1950年，圖靈在“圖靈–1950”（《計(jì)算機(jī)與智能》）中的一節(jié)“來自意識的異議”就是對杰弗遜觀點(diǎn)針鋒相對的回答，當(dāng)時他仔細(xì)閱讀過《機(jī)器人之心》，現(xiàn)在圖靈檔案中就有被圖靈涂鴉過的杰弗遜文章的影印本。

杰弗遜文中有一節(jié)“笛卡兒的假設(shè)”（Descartes’s Postulation）。相較于區(qū)別機(jī)器和人，笛卡兒認(rèn)為區(qū)別機(jī)器和動物更加難，因?yàn)闄C(jī)器很難過得了語言這一關(guān)。這被稱為笛卡兒的“語言測試”。

于是很多人認(rèn)為圖靈是受到杰弗遜的刺激才想出“圖靈測試”的，此言差矣。圖靈–1948（即圖靈1948年給NPL寫的題為《智能機(jī)器》的報告）的結(jié)尾已經(jīng)明確提出了模仿游戲。不夸張地說，圖靈整篇文章都是把杰弗遜當(dāng)作辯論對手或者被教育的讀者的。

毋庸置疑，在他們正式寫下各自的觀點(diǎn)前，在私下非正式場合，應(yīng)該多次面對面交鋒過。值得注意的是，圖靈的名字并沒有出現(xiàn)在杰弗遜的文章中，杰弗遜文章提到的計(jì)算機(jī)工程師是同校的電子工程系主任威廉姆斯（Frederick Williams），他是第一臺存儲程序計(jì)算機(jī)Manchester Baby的負(fù)責(zé)人。

也許杰弗遜認(rèn)為圖靈作為晚輩不值得一提，也許在他內(nèi)心真正的對手是圖靈。圖靈死后，在接到圖靈母親薩拉（Ethel Sara Stoney）說“不必回信”的來信后，杰弗遜仍然寫信給薩拉，以長輩的口氣回憶圖靈，在簽名后他加了一句“他是天才，光照人間”（He had real genius, it shone from him）。

大洋兩岸的活躍人物都和圖靈相熟，他們也互相了解大家的立場。

來訪者中，唯一被圖靈尊敬的美國同行大概只有香農(nóng)。圖靈、香農(nóng)以及更年輕的麥卡錫都不喜歡維納和維納企圖建立的控制論帝國中的徒子徒孫。他們在二戰(zhàn)中都從事密碼學(xué)的工作，1943年圖靈秘密訪問美國，在貝爾實(shí)驗(yàn)室逗留時，圖靈和香農(nóng)頭一次見面，圖靈給香農(nóng)看了圖靈–1936，但香農(nóng)誤以為這是圖靈正在寫的文章。

1950年，香農(nóng)到倫敦開會，順道去曼徹斯特大學(xué)拜訪圖靈。據(jù)香農(nóng)回憶，他們幾次交流都沒有直接聊密碼學(xué)，大概是出于保密紀(jì)律的原因。但他們認(rèn)真聊了計(jì)算機(jī)是否能思考的問題，他們的立場應(yīng)該相同。

當(dāng)然，他們肯定不會少談共同的愛好：下棋。

圖靈還給香農(nóng)看了他在曼徹斯特機(jī)器上驗(yàn)證黎曼ζ函數(shù)的結(jié)果。圖靈在劍橋大學(xué)讀書時就對數(shù)論有濃厚興趣，1942年還發(fā)表過論文。據(jù)他的學(xué)生羅賓·甘迪說，圖靈還研究過計(jì)算黎曼ζ函數(shù)零點(diǎn)的專用計(jì)算機(jī)，如果圖靈還活著，他肯定會對黎曼ζ函數(shù)的可視化感興趣。圖靈在曼徹斯特大學(xué)并沒有負(fù)責(zé)計(jì)算機(jī)的具體設(shè)計(jì)，而把更多注意力聚焦在應(yīng)用上，具體地說就是人工智能，他在曼徹斯特機(jī)器上編寫下棋程序。

這些是從圖靈–1948過渡到圖靈–1950的背景。

人工智能大致可分為三條演進(jìn)路線：

• 第一，邏輯派，就是以邏輯為工具刻畫人的智能；
• 第二，神經(jīng)網(wǎng)絡(luò)，也稱深度學(xué)習(xí)，是最近十幾年人工智能的主要驅(qū)動力；
• 第三，強(qiáng)化學(xué)習(xí)，這一派的思路可以追溯到進(jìn)化論，他們的重要性通過 AlphaGo 才得以顯現(xiàn)。

圖靈指出人身上的任何小部件都可以用機(jī)器來模仿，他還提到基因、進(jìn)化和選擇。正是因?yàn)槿绱?，麻省理工學(xué)院的機(jī)器人專家布魯克斯認(rèn)為圖靈–1948是人工智能幾條路線分歧的原點(diǎn)，而他自己的觀點(diǎn)則是圖靈–1948比圖靈–1950更為重要。布魯克斯指出，正是圖靈–1948給了他關(guān)于“具身智能”的啟示。一個人形機(jī)器人所需要的都屬于“具身智能”。布魯克斯近來也漸漸認(rèn)識到“造腦”（building brain）比“造身”要更難。

圖靈–1948只是做了“具身”和“非具身”的區(qū)別，他明確列出屬于智力而非體力的5個領(lǐng)域：

• 游戲（如下棋）
• 語言學(xué)習(xí)
• 語言翻譯
• 密碼學(xué)
• 數(shù)學(xué)（定理證明）

圖靈認(rèn)為應(yīng)該聚焦于智力，即“非具身”的領(lǐng)域，而非體力領(lǐng)域。圖靈甚至提到當(dāng)時的機(jī)器能處理的數(shù)學(xué)問題還不能涉及太多的圖，也就是說一開始不適合搞幾何，大概他還沒想明白怎么在機(jī)器上把圖實(shí)用地表示出來。后來定理證明的演化很有意思，20世紀(jì)50年代剛開始時，重要的結(jié)果都是代數(shù)和邏輯的，但后來卻是吳文俊的幾何定理證明最早開始實(shí)用。

圖靈在撰寫1950年的那篇文章時已經(jīng)胸有成竹，他不僅提出了問題（“機(jī)器能思考嗎”），還提出了問題的各種變體；不僅給出了答案，還預(yù)想出了答案的可能異議，以及對異議的反駁。

圖靈–1950為一系列后學(xué)者模仿的文章提供了范文，最典型的就是塞爾（Searle）的“中文屋”。布魯克斯認(rèn)為圖靈–1948 更加全面的原因是他從中讀出了“具身智能”。

值得指出的是，所謂“具身智能”和“非具身智能”之分，在圖靈–1950中，對應(yīng)為“體力”（physical capability）和“智力”（intellectual capability）的區(qū)分，而圖靈–1950雖沒有忽視“體力”，但聚焦點(diǎn)是“智力”。

圖靈用模仿游戲來測度“智力”，蘊(yùn)含了“語言即思維”的某個版本，這也明確表明圖靈不是行為主義者，倒是更接近后來的自稱理性主義者的喬姆斯基。

△圖靈–1950，《計(jì)算機(jī)與智能》發(fā)表在《心》上

因?yàn)椤白詣佑?jì)算機(jī)”和“電腦”（electric brain）已經(jīng)成為《泰晤士報》等紙質(zhì)媒體的流行話題，BBC作為當(dāng)時的新媒體豈能落下，于是在1951年請了幾位領(lǐng)頭人物（包括紐曼、圖靈、哈特里、威爾克斯、威廉姆斯等）做廣播講座。

1952年1月，BBC又把紐曼、圖靈和杰弗遜等聚集到一起，做了一次廣播辯論，題為“自動計(jì)算機(jī)能思考嗎？”，期盼吸引更多的“耳朵”。這次辯論可以作為圖靈–1948和圖靈–1950的最佳注釋。

1952年1月23日BBC重播了這場辯論，圖靈聽完重播，抱怨自己嗓音不好，晚上回家就發(fā)現(xiàn)被盜。他于是設(shè)計(jì)了一套復(fù)雜的報警程序，但最終還是導(dǎo)致自己的同性戀行為被曝光。

杰弗遜在“機(jī)器人之心”演講臨近結(jié)尾處，以擅長的雄辯語氣說道：“我冒昧地預(yù)言，皇家學(xué)會的優(yōu)雅場館不得不變成車庫來容納新會員的那一天將永遠(yuǎn)不會到來?！?/p>

I venture to predict that the day will never dawn when the gracious premises of the Royal Society have to be turned into garages to house the new Fellows.

杰弗遜演講的地點(diǎn)是英國皇家學(xué)會的場所。所謂“會員”（Fellow）就是“院士”的意思，杰弗遜1947年（61 歲時）成為會員，而圖靈1951年（39 歲時）成為會員。“學(xué)會”怎么能對齊“院士”是個神學(xué)話題；所謂“車庫”是指將來某一天停泊的都是機(jī)器。但是考慮到現(xiàn)在AI4Science的進(jìn)展速度，那一天也許不遠(yuǎn)了吧，我倒是擔(dān)心未來的機(jī)器們會嫌棄：皇家學(xué)會（無論是哪兒的）的那些唯物的、丑陋的車庫也配！

One More Thing

圖靈與維特根斯坦、杰弗遜等學(xué)術(shù)巨擘的對話與辯論，揭示了圖靈關(guān)于機(jī)器智能的獨(dú)到見解及其思想的演進(jìn)過程。

而上面這段精彩文字，其實(shí)來自人民郵電出版社新書《理解圖靈》，作者尼克。

書中以注釋形式對圖靈1950年的文章《計(jì)算機(jī)與智能》進(jìn)行了細(xì)致解讀。

首先追溯圖靈的生平和思想軌跡，特別是他對智能與機(jī)器關(guān)系的早期洞察，以及他在計(jì)算理論方面的重大貢獻(xiàn)——提出圖靈機(jī)；接著通過分析圖靈與同時代其他思想家的交流與辯論，如與哲學(xué)家維特根斯坦的深入對話，以及在BBC廣播討論中與神經(jīng)生理學(xué)家杰弗遜的激烈交鋒，逐步揭示了圖靈對于機(jī)器智能的獨(dú)到見解及其思想的演進(jìn)過程。本書力圖使讀者在充分理解背景知識的基礎(chǔ)上，更加深刻地領(lǐng)會圖靈文章的內(nèi)涵，也使得對圖靈思想的探討更加全面和深入。

2024年正值圖靈去世70周年。

今天，我們緬懷圖靈，不僅是為了紀(jì)念他的過去，更是為了啟迪我們的未來。他的影響力跨越了時間的限制，至今依舊深刻地影響著我們的世界。

對深入圖靈思想世界，領(lǐng)略智能的本質(zhì)感興趣的小伙伴，可以讀起來了～