沈向洋馬毅牽頭搞新AI會議：不要「大力」要「簡約」，首屆在香港大學(xué)舉辦，征稿中

魚羊 2023-05-23 14:26:49 來源：量子位

魚羊 發(fā)自 凹非寺

量子位 | 公眾號 QbitAI

大模型時代，有人要來唱唱“大力出奇跡”的反調(diào)了。

沈向洋和UC伯克利&香港大學(xué)教授馬毅牽頭，搞了一個新的學(xué)術(shù)會議，CPAL（Conference on Parsimony and Learning），即簡約學(xué)習(xí)會議。

官網(wǎng)信息顯示，這一會議專注于解決機(jī)器學(xué)習(xí)、信號處理、優(yōu)化等領(lǐng)域普遍存在的簡約、低維結(jié)構(gòu)。

對理論、算法、應(yīng)用程序、硬件和系統(tǒng)以及簡約學(xué)習(xí)的科學(xué)基礎(chǔ)感興趣。

馬毅本人也做了“定向”推薦：

厭倦了包羅萬象的大型機(jī)器學(xué)習(xí)會議？CPAL會成為一個專注于理論和計算基礎(chǔ)的高標(biāo)準(zhǔn)會議。

首屆會議，將于2024年1月3日-6日，在香港大學(xué)數(shù)據(jù)科學(xué)研究院舉辦。論文的提交截止日期為今年8月28日。

CPAL詳情

具體時間表如下：

會議主席，除了前文提到的沈向洋和馬毅，還有慕尼黑大學(xué)的Gitta Kutyniok，和賓夕法尼亞大學(xué)的René Vidal。

另外，組織團(tuán)隊中，還有來自CMU、香港大學(xué)等高校，以及谷歌、Meta的專家學(xué)者。

此前，馬毅、沈向洋和神經(jīng)科學(xué)家曹穎曾合作發(fā)表過一篇論文：On the Principles of Parsimoy and Self-Consistency for the Emergence of Intelligence。

此次的CPAL會議，核心思想與這篇論文一脈相承：強(qiáng)調(diào)人工智能的兩個基本原則，簡約性和自洽性。

以下附CPAL會議愿景全文：

智能或科學(xué)存在甚至產(chǎn)生的最基本原因之一，是世界并非完全隨機(jī)，而是具有高度的結(jié)構(gòu)性和可預(yù)測性。因此，智能或科學(xué)的一個基本目的和功能就是通過大量感知世界的數(shù)據(jù)，學(xué)習(xí)簡潔的模型（或法則）來理解這種可預(yù)見的結(jié)構(gòu)。

在過去的十年中，機(jī)器學(xué)習(xí)和大規(guī)模計算的出現(xiàn)，極大地改變了我們在工程和科學(xué)中處理、解釋和預(yù)測數(shù)據(jù)的方式。傳統(tǒng)的算法設(shè)計方法，基于特定信號和測量結(jié)構(gòu)的參數(shù)模型，比如稀疏和低秩模型，以及相關(guān)的優(yōu)化工具集，現(xiàn)在已經(jīng)被豐富的數(shù)據(jù)驅(qū)動的學(xué)習(xí)技術(shù)所補(bǔ)充，這些技術(shù)通過大規(guī)模網(wǎng)絡(luò)的預(yù)訓(xùn)練和適應(yīng)各種特定任務(wù)。然而，現(xiàn)代數(shù)據(jù)驅(qū)動和經(jīng)典模型基礎(chǔ)范例的成功，都嚴(yán)重依賴于正確識別現(xiàn)實世界數(shù)據(jù)中存在的低維結(jié)構(gòu)，以至于我們認(rèn)為學(xué)習(xí)和壓縮數(shù)據(jù)處理算法的角色——無論是顯式還是隱式，如深度網(wǎng)絡(luò)——是不可分割的。

在過去的十年左右的時間里，包括理論、計算和實踐在內(nèi)的多個研究領(lǐng)域，探討了學(xué)習(xí)和壓縮之間的相互作用。一些作品探討了深度學(xué)習(xí)時代信號模型的作用，試圖理解深度網(wǎng)絡(luò)和非線性、多模態(tài)數(shù)據(jù)結(jié)構(gòu)之間的相互作用。其他人則將這些洞察應(yīng)用于原則上設(shè)計深度架構(gòu)，將數(shù)據(jù)中所需的結(jié)構(gòu)融入學(xué)習(xí)過程中。還有其他人把通用深度網(wǎng)絡(luò)視為他們自己的首要任務(wù)，探索如何壓縮和稀疏模型以提高效率，這通常伴隨著硬件或系統(tǒng)意識的共同設(shè)計。在這些環(huán)境中，理論工作以低維建模為基礎(chǔ)，開始解釋深度架構(gòu)和有效學(xué)習(xí)的基礎(chǔ)，盡管存在”超參數(shù)化”和其他阻礙。最近，基礎(chǔ)模型的出現(xiàn)使一些人認(rèn)為，簡潔和壓縮本身是智能系統(tǒng)學(xué)習(xí)目標(biāo)的一個基本部分，與神經(jīng)科學(xué)中關(guān)于壓縮作為大腦代表世界感知數(shù)據(jù)的指導(dǎo)原則的觀點相連接。

總的來說，這些工作線路到目前為止在一定程度上是相互孤立發(fā)展的，盡管它們共享同一基礎(chǔ)并且以簡潔和學(xué)習(xí)為目的。我們組織這個會議的意圖就是要解決這個問題并且更進(jìn)一步：我們設(shè)想這個會議作為一個一般的科學(xué)論壇，其中機(jī)器學(xué)習(xí)、應(yīng)用數(shù)學(xué)、信號處理、優(yōu)化、智能系統(tǒng)，以及所有相關(guān)的科學(xué)和工程領(lǐng)域的研究人員可以聚集，分享洞察，最終朝著一個共同的現(xiàn)代理論和計算框架努力，從簡約學(xué)習(xí)的視角理解智能和科學(xué)。

如果你對此感興趣，這里奉上官網(wǎng)，可以關(guān)注起來了：
https://cpal.cc/

— 完 —