LeCun：對人工智能末日的擔(dān)憂被夸大了，Meta正在構(gòu)建超級智能助手

奇月 2024-12-30 21:15:01 來源：量子位

奇月 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

AI末日將近？

深度學(xué)習(xí)三巨頭之一、被稱為AI教父的Hinton教授在最新演講中指出，技術(shù)的發(fā)展速度遠遠超出了他的預(yù)期，如果再不加以監(jiān)管人類將會在10年內(nèi)滅絕：

不過，同為深度學(xué)習(xí)三巨頭之一的LeCun教授則表示：夸大了。

在最新采訪中，LeCun表示，自己還是非常看好人工智能的未來的。

對人工智能末日的擔(dān)憂被夸大了。

我覺得，對于推動社會進步來說，智能是我們社會目前最急需的、最寶貴的東西之一。能有效增強人類智能的機器所產(chǎn)生的影響，可能會和15世紀印刷術(shù)的發(fā)明一樣具有變革性。

與LeCun對談的主持人是加州大學(xué)圣地亞哥分校校長杰出物理學(xué)教授Dr.Brian Keating，他還特地帶上了最新的Meta Ray-Ban智能眼鏡，表示非常欣賞這個產(chǎn)品。

雖然LeCun曾主張“LLM還沒有貓聰明”，但其實他在Meta的FAIR團隊一直在努力建構(gòu)下一代被稱為“世界模型”的AI模型：

單純憑借預(yù)測下一個單詞很難抽象出事物的運行規(guī)律，所以我們需要更高級的視覺預(yù)測，這也是JEPA架構(gòu)正在做的事情。

談到Meta的規(guī)劃，LeCun表示人類級別的人工智能是Meta不可避免的“產(chǎn)品需求”，他們正在開發(fā)超級智能助手，未來這些助手會將人與人、人與知識和他們所需的幫助聯(lián)系起來。

有網(wǎng)友看完表示非常贊同，人類水平的AI可以重新定義當(dāng)下的技術(shù)與互動：

下面是采訪的主要內(nèi)容，在不改變原意的前提下，量子位對部分內(nèi)容做了梳理，希望能帶給你更多啟發(fā)。

下一代模型需要類JEPA新架構(gòu)

一開始，主持人就cue到了他那句經(jīng)典的“現(xiàn)在的LLM還沒有貓聰明”，楊立昆也再次重申了大型語言模型（LLM）的局限。

他認為，這些大型語言模型主要就是靠著文本訓(xùn)練出來的，它們對現(xiàn)實世界的了解，全是通過人類帶有象征意味的、近似且離散的描述來獲得的，所以難以處理復(fù)雜現(xiàn)實世界中的事物。

雖然LLM可以輕松通過律師資格考試這種偏文本知識的事，但生活中普通10歲小孩或者小貓能輕松做到的事，比如規(guī)劃一下怎么夠到高處的東西、根據(jù)實際情況推理、還有對身邊那些直觀物理原理的把握，這些它們就無法實現(xiàn)了。

它們更像是知識的搬運工，只能檢索已有知識，缺乏像愛因斯坦那樣能創(chuàng)造新物理定律的洞察力，也很難用于預(yù)測化學(xué)反應(yīng)、材料特性這類需要創(chuàng)新突破的科學(xué)發(fā)現(xiàn)事務(wù)中。

同時，楊立昆還著重介紹了自己鉆研多年的聯(lián)合嵌入預(yù)測架構(gòu)（JEPA）這一自監(jiān)督人工智能方法。

目前常見的自監(jiān)督學(xué)習(xí)方式在處理自然數(shù)據(jù)，比如視頻、圖像等方面存在不足，類似掩碼自編碼器之類的方法效果欠佳。

主要原因在于預(yù)測連續(xù)、高維的連續(xù)信號并表示其所有可能的概率分布非常復(fù)雜，所以常常導(dǎo)致預(yù)測結(jié)果僅是所有可能情況的平均值，容易出現(xiàn)畫面模糊不清等情況。

而JEPA則有著獨特的理念，涉及對信號進行表征形成 “嵌入”，以及利用圖像及其變換后版本進行 “聯(lián)合嵌入” 等操作。

什么是嵌入呢？就好比一幅圖像，我們不關(guān)心每個像素的精確值，而是用一個數(shù)字列表，也就是向量來代表圖像內(nèi)容，這就是嵌入，它不展現(xiàn)所有細節(jié)。

而聯(lián)合嵌入，就是拿一幅圖像和它稍微變換后的版本，比如換個視角的圖像，它們內(nèi)容其實一樣，那嵌入結(jié)果也該相同。

JEPA的訓(xùn)練過程就是給它同一事物的兩個不同版本圖像，讓它生成相同嵌入結(jié)果?！邦A(yù)測” 部分是這樣的，如果一個圖像版本是視頻里的一幀，被破壞的版本是前一幀，那就根據(jù)前一幀預(yù)測下一幀或接下來幾幀。

這樣就有兩個嵌入，一個對應(yīng)視頻未來部分，一個對應(yīng)過去部分，還有個預(yù)測器根據(jù)過去表征預(yù)測未來表征。

他表示，用這個架構(gòu)訓(xùn)練系統(tǒng)學(xué)習(xí)圖像表征效果很棒，最近連視頻表征也能學(xué)得不錯了。

在介紹完新架構(gòu)之后，楊立昆也表達了自己對于機器學(xué)習(xí)和物理學(xué)之間的聯(lián)系的理解：

機器學(xué)習(xí)與科學(xué)，尤其是與物理學(xué)相聯(lián)系的本質(zhì)所在，就是系統(tǒng)在接受訓(xùn)練時，它會同時訓(xùn)練自己去找到輸入內(nèi)容的良好的抽象表征層級，盡可能多地保留輸入信息，但同時又要保證具有可預(yù)測性，這才是智能的根源所在 。

自監(jiān)督學(xué)習(xí)就像AI的暗物質(zhì)

在深度學(xué)習(xí)先驅(qū)的身份之外，楊立昆表示，自己也一直是一位務(wù)實的物理學(xué)家。

他曾在8年前的一次演講中提出“自監(jiān)督學(xué)習(xí)就像是人工智能領(lǐng)域的暗物質(zhì)”這個說法，當(dāng)時他的同事凱爾·克蘭默（紐約大學(xué)高能物理學(xué)家）還指正說，用暗能量類比更合適，畢竟宇宙大部分質(zhì)量是暗能量。

在物理學(xué)中，暗物質(zhì)的存在是公認的，比如中微子是暗物質(zhì)的一種形式，可它的量又不足以解釋人類觀測到的缺失物質(zhì)總量。

楊立昆解釋道，人類學(xué)的大部分東西，都不是靠別人告訴答案或者試錯學(xué)來的，而是通過自監(jiān)督學(xué)習(xí)（或者類似方式）去了解感官輸入信息的結(jié)構(gòu)、自己慢慢感悟出來的，而不是監(jiān)督學(xué)習(xí)或者強化學(xué)習(xí)。

監(jiān)督學(xué)習(xí)就是給系統(tǒng)明確的輸入和輸出，比如給它看大象圖片，告訴它這是大象，答錯了就調(diào)整參數(shù)讓它答對。

強化學(xué)習(xí)是給系統(tǒng)看大象后，只告訴它答得對不對，或者給個類似分數(shù)的評價，如果有無限個答案，它就得在里面慢慢找正確的，效率很低。

強化學(xué)習(xí)和監(jiān)督學(xué)習(xí)都解釋不了在人類和動物身上看到的高效學(xué)習(xí)現(xiàn)象。像章魚、鳥類這些動物，沒有過多的教育，卻懂得很多，這就是不太明確的無監(jiān)督學(xué)習(xí)，而且大型語言模型的成功也證明了自監(jiān)督學(xué)習(xí)能力很強。

他還表示，自己一直對物理學(xué)和計算之間的聯(lián)系很著迷，約翰·惠勒曾做了一個叫《萬物源于比特》的演講，說世界到底就是信息，得從信息處理角度闡釋物理內(nèi)容，他覺得這個想法很有趣。

談到AGI實現(xiàn)的時間，他表示：

要打造出一個至少在大多數(shù)人看來具備和人類同等智能水平的系統(tǒng)，前提是我們設(shè)想的所有計劃都能奏效，比如JEPA以及其他一些想法，即便如此，我覺得這在不到五六年的時間內(nèi)是實現(xiàn)不了的。而且人工智能發(fā)展的歷史表明，人們總是低估它的實現(xiàn)難度，五六年是最理想的情況。

同時， 他還強調(diào)人們對于AI末日的擔(dān)憂被夸大了：

我們可以設(shè)定相應(yīng)的“護欄”機制確保人工智能系統(tǒng)擁有安全的目標(biāo)，而且只會處理信息的LLM還不存在像人類和動物一樣的社會性驅(qū)動力，比如更多的領(lǐng)地、更大的權(quán)力等。

在探索科學(xué)的道路上犯錯很常見

在訪談的最后，楊立昆還分享了他對AI發(fā)展歷程、自身職業(yè)經(jīng)歷以及未來的展望。

他表示，自己既是一名科學(xué)家，也是一位教育者，在工業(yè)界和學(xué)術(shù)界的時長都差不多。

早年從貝爾實驗室工作，后在日本電氣公司（NEC）研究院短暫任職，直至40歲出頭成為教授，隨后加入Meta，負責(zé)運營臉書人工智能研究院（FAIR）長達4年，如今擔(dān)任 Meta 的首席人工智能科學(xué)家。

目前，他正在以獨立貢獻者的角色推動人工智能技術(shù)的進步，致力于探索實現(xiàn)人類水平智能的道路，這也是他畢生的科學(xué)追求。

在談及Meta公司的未來發(fā)展方向時，楊立昆指出，Meta公司在馬克·扎克伯格的引領(lǐng)下，有一個宏大的愿景，就是通過技術(shù)手段連接人們，不僅是人與人之間的連接，還包括人與知識的連接以及在日常生活中為人們提供幫助。

未來，每個人都將擁有超級智能助手，這種智能助手的廣泛應(yīng)用需要具備人類智能水平的人工智能技術(shù)作為支撐，Meta 也在朝著這個方向積極打造相關(guān)設(shè)備，并已在印度農(nóng)村地區(qū)開展了智能眼鏡的試用。

當(dāng)?shù)剞r(nóng)民借助智能眼鏡解決了諸多農(nóng)業(yè)生產(chǎn)中的實際問題，比如農(nóng)作物病蟲害識別、天氣查詢以及收割時機判斷等，同時還能使用本地語言進行操作。

談到人工智能對教育職業(yè)的影響時，他認為，隨著人工智能技術(shù)的不斷發(fā)展，知識傳授這一傳統(tǒng)職業(yè)將面臨深刻變革，科研與學(xué)術(shù)研究領(lǐng)域可能需要探索新的經(jīng)濟模式，以適應(yīng)技術(shù)發(fā)展帶來的變化。

盡管如此，他還是強調(diào)：

博士培養(yǎng)過程中導(dǎo)師與學(xué)生之間的關(guān)系具有非常重要的意義，這種關(guān)系不僅僅是知識的傳遞，更包含行為規(guī)范、道德倫理等方面的交流與傳承，而在未來，每個人包括學(xué)生都將在人工智能系統(tǒng)的輔助下進行學(xué)習(xí)與研究，這將成為一種新的趨勢。

值得一提的是，楊立昆還分享了自己在學(xué)術(shù)觀點上的轉(zhuǎn)變歷程：

在探索科學(xué)的道路上犯錯是非常正常的。

在神經(jīng)網(wǎng)絡(luò)發(fā)展的早期，尤其是在1987至1988年跟隨Hinton做博士后期間，他對無監(jiān)督學(xué)習(xí)這一概念并不認同，認為其定義不夠清晰，缺乏實際意義。

然而，Hinton當(dāng)時專注于玻爾茲曼機的研究（后因此獲得諾貝爾獎，盡管如今玻爾茲曼機已較少使用），并堅信無監(jiān)督學(xué)習(xí)將是學(xué)習(xí)的主體部分。

隨著時間的推移和技術(shù)的發(fā)展，在進入21世紀后，他才初逐漸認識到無監(jiān)督學(xué)習(xí)的重要性，并從2010年開始積極倡導(dǎo)這一理念。

更多采訪內(nèi)容請點擊下方鏈接查看。

參考鏈接：
[1]https://www.youtube.com/watch?v=u7e0YUcZYbE