單個(gè)神經(jīng)元不可靠！這項(xiàng)新研究推翻以往認(rèn)知，感知的最大限制在于解碼過(guò)程

安妮 2019-07-07 12:22:25 來(lái)源：量子位

銅靈 伊瓢 發(fā)自 凹非寺

量子位 報(bào)道 | 公眾號(hào) QbitAI

“單個(gè)神經(jīng)元不可靠！”

一項(xiàng)關(guān)于神經(jīng)元的研究，讓眾人看嗨了。

這項(xiàng)研究通過(guò)在小鼠身上做實(shí)驗(yàn)，先展示了神經(jīng)元“不靠譜”的一面：

單個(gè)神經(jīng)元兩次對(duì)相同視覺(jué)刺激的反應(yīng)，竟然是不一樣的。

對(duì)于神經(jīng)元的“不靠譜”性，此前的解釋一直集中在噪音這個(gè)點(diǎn)。

而這項(xiàng)研究卻實(shí)實(shí)在在推翻了此前觀點(diǎn)，作者通過(guò)實(shí)驗(yàn)證明了：即使有噪音，神經(jīng)元還是有能力獲取高精度的視覺(jué)編碼。

主導(dǎo)這項(xiàng)研究的小姐姐認(rèn)為，小鼠感知能力的限制不由視覺(jué)皮層的神經(jīng)噪音決定，而是受神經(jīng)解碼過(guò)程的限制。

在這項(xiàng)推特轉(zhuǎn)發(fā)超過(guò)600，點(diǎn)贊超過(guò)2000的研究下，神經(jīng)科學(xué)家和AI科學(xué)家一起興奮，“Pretty Cool”“Awesome”“Great story”等贊美聲此起彼伏。

雖然不是AI界日常討論的人工神經(jīng)網(wǎng)絡(luò)，而是自然界中動(dòng)物們身上存在的生物神經(jīng)網(wǎng)絡(luò)，兩者并不完全一樣，但動(dòng)物們自身的特征，卻往往是啟發(fā)科學(xué)家們的關(guān)鍵。

高通深度學(xué)習(xí)研究工程師Jakub Tomczak想到，它和AI中的Dropout十分類似，像是近似貝葉斯平均。

Dropout，正是指的Geoffrey Hinton等人在2014年提出的防止人工神經(jīng)網(wǎng)絡(luò)過(guò)擬合的正則化技術(shù)，現(xiàn)在已經(jīng)成為了谷歌手中的專利。

AI工程師@AIexLaurence表示，就像AI一樣，單個(gè)神經(jīng)元（或者節(jié)點(diǎn)）并不表示特定的概念，是由神經(jīng)網(wǎng)絡(luò)中特定的激活模式?jīng)Q定的。

AIexLaurence還認(rèn)為，這項(xiàng)生物學(xué)研究可能會(huì)對(duì)神經(jīng)網(wǎng)絡(luò)權(quán)重的研究有啟發(fā)。

還有人認(rèn)為，在神經(jīng)元自帶不確定性的前提下，大腦依賴投票/閾值機(jī)制產(chǎn)生的反饋信號(hào)來(lái)判定輸入的感知信息。另外，除了神經(jīng)的原因之外，也可能是動(dòng)物眼睛的微觀結(jié)構(gòu)決定。

能讓搞生物的和搞計(jì)算機(jī)的有同樣的high點(diǎn)，這具體是項(xiàng)怎樣的研究？

“不靠譜”的神經(jīng)元

事情，還要從神經(jīng)元說(shuō)起。

對(duì)，就是中學(xué)生物里構(gòu)成神經(jīng)網(wǎng)絡(luò)的那個(gè)長(zhǎng)長(zhǎng)的細(xì)胞。

可能不少AI領(lǐng)域的同學(xué)還不知道，在神經(jīng)科學(xué)領(lǐng)域，神經(jīng)元和AI界的擁有不確定性的神經(jīng)網(wǎng)絡(luò)一樣，都是不靠譜的存在。

神經(jīng)元，就像一個(gè)腦洞清奇的少年，即使是同樣的信息呈現(xiàn)在他面前，他每次都會(huì)給出不一樣的反應(yīng)。

究其原因，在于噪聲頻發(fā)，影響神經(jīng)編碼。

神經(jīng)編碼，跟計(jì)算機(jī)的編碼不是一回事。由于感覺(jué)信息與其它信息，都是由腦中的生物神經(jīng)網(wǎng)絡(luò)來(lái)承載與呈現(xiàn)的，所以人們認(rèn)為，神經(jīng)元有某種編碼能力，處理你身體感知到的光線、聲音、味道等信息。

也就是說(shuō)，神經(jīng)編碼過(guò)程是試圖建立從刺激到反應(yīng)的映射，著眼于理解神經(jīng)元如何對(duì)不同的刺激作出反應(yīng)，建立模型來(lái)預(yù)測(cè)神經(jīng)元對(duì)特定刺激的反應(yīng)。

而與之對(duì)應(yīng)的神經(jīng)解碼過(guò)程，研究的是相反方向的映射，也就是從已知的反應(yīng)來(lái)推算外界刺激重建特征。

在這個(gè)過(guò)程中，是一個(gè)“多變”的過(guò)程，但總是被冠以“不靠譜”的評(píng)價(jià)。舉個(gè)例子：

假如你問(wèn)一個(gè)神經(jīng)元這個(gè)直角屏幕的角度是多少，它一開(kāi)始說(shuō)是75度，五分鐘后說(shuō)是10度，每一次你再問(wèn)的時(shí)候都是一個(gè)接近90度的隨機(jī)數(shù)。

再舉個(gè)例子，你在計(jì)算器上輸入3+7，它每次都給出的是不同的答案……

是不是有種熟悉的感覺(jué)？

沒(méi)錯(cuò)，什么人工不人工的智能都差不多。

可是，正經(jīng)的計(jì)算設(shè)備不應(yīng)該是這樣的。

這就是讓神經(jīng)科學(xué)家很為難的地方，單個(gè)神經(jīng)元得出的結(jié)論是不可靠的（灰色的點(diǎn)），需要多次測(cè)量來(lái)平均噪聲（圖中黑線）。

那么，一個(gè)神經(jīng)元都這么不靠譜了，一群不靠譜的神經(jīng)元竟然能把動(dòng)物們的神經(jīng)系統(tǒng)構(gòu)建的這么精準(zhǔn)，真是個(gè)奇跡。

那么，神經(jīng)元們是怎么做到的呢？

這涉及到信噪比的問(wèn)題。信號(hào)強(qiáng)度和疊加次數(shù)成正比，噪聲強(qiáng)度和疊加次數(shù)的平方根成正比，因此疊加次數(shù)越多，信噪比越高。

有人猜測(cè)，也許在我們的大腦中，它的運(yùn)算機(jī)制就是數(shù)百萬(wàn)個(gè)嘈雜神經(jīng)元結(jié)論的平均值，通過(guò)這種方法來(lái)判斷看到的是什么。

可以從幾何的角度解釋這個(gè)問(wèn)題，當(dāng)噪聲與刺激驅(qū)動(dòng)的相同神經(jīng)子空間對(duì)齊時(shí)，噪聲只能影響受到刺激部分的編碼。至少，一些神經(jīng)噪聲與刺激子空間正交，所以不會(huì)有什么壞的影響。

但是，這些只是理論猜想，如果真的想靠實(shí)踐算出噪聲對(duì)神經(jīng)編碼的影響，這很難，畢竟只有少量信息限制的噪聲也會(huì)對(duì)神經(jīng)編碼有很大影響。

所以，基于以上推測(cè)，我們就大致為這種“明明個(gè)體不靠譜，群體卻很靠譜”的行為歸納出原因：

把每個(gè)神經(jīng)元得出的結(jié)論“神奇組合”一下，得出的平均值，就是最終那個(gè)靠譜的結(jié)果。

現(xiàn)在，做個(gè)實(shí)驗(yàn)，解個(gè)碼證明一下吧！

小鼠視力實(shí)驗(yàn)

此前有人做過(guò)對(duì)猴子的解碼，證明拿一小撮神經(jīng)元做實(shí)驗(yàn)和用上所有神經(jīng)元差不多。

在這個(gè)背景下，我們的主角出場(chǎng)了。

一位神經(jīng)科學(xué)家小姐姐Carsen Stringer用小鼠做實(shí)驗(yàn)，探究小鼠的感知與單個(gè)神經(jīng)元的關(guān)系。

在這次實(shí)驗(yàn)里，小姐姐和她的團(tuán)隊(duì)沒(méi)有對(duì)猴子下手，而是換了一種動(dòng)物，盯上了小鼠。

研究人員的目標(biāo)是，通過(guò)記錄小鼠20000個(gè)神經(jīng)元的數(shù)量，測(cè)量視覺(jué)刺激定向解碼誤差的下限。

這項(xiàng)實(shí)驗(yàn)的大前提是：如果限制信息噪聲的確有影響，解碼錯(cuò)誤必須漸近于某個(gè)非零值。

具體的給小鼠設(shè)定的挑戰(zhàn)是：

讓小鼠看角度。

基于我們前面已知的“不靠譜”這個(gè)特性，可以預(yù)知，給予小鼠相同的視覺(jué)刺激，神經(jīng)元的每次反應(yīng)完全不同。

研究人員用顯微鏡同時(shí)記錄了約20000個(gè)神經(jīng)元的活動(dòng)。這是一個(gè)部分的隨機(jī)顏色：

然后，使用線性回歸找到每個(gè)神經(jīng)元的權(quán)重，將它們的活動(dòng)組合成“超級(jí)神經(jīng)元”，對(duì)它們的判斷進(jìn)行平均。

這些超級(jí)神經(jīng)元比單個(gè)神經(jīng)元的噪聲要小很多。其實(shí)，在95%的實(shí)驗(yàn)中，超級(jí)神經(jīng)元能夠分辨45度和46度之間的微小差異。

一度之差，人類都判斷不出來(lái)吧。想象一下，讓一只老鼠分辨出這么微小的差異……另一位研究人員@BenucciLa真的嘗試了，老鼠只能分辨出超過(guò)29度的差異，比神經(jīng)元差100倍。

最終，雖然研究人員們把解碼的誤差做到很低了，但是并沒(méi)有出現(xiàn)期待中漸近的狀況。

也就是說(shuō)，視覺(jué)皮層對(duì)老鼠的視覺(jué)特征進(jìn)行了高精確度的編碼，但老鼠依然在辨別方向任務(wù)中完成得很差。

鍋在解碼過(guò)程

于是，研究人員得出結(jié)論，老鼠能接受到的信息，比人類大腦能接受的差1000倍。

雖然老鼠不能將這些信息傳遞給人類，但他們也是可以利用這些信息的。比如，這些信息可以作為一種計(jì)算的第一步。

這也進(jìn)一步說(shuō)明，神經(jīng)信號(hào)和行為之間的差異不能用刺激的類型來(lái)解釋，無(wú)論是通過(guò)行為狀態(tài)還是反復(fù)試驗(yàn)感知直覺(jué)測(cè)試。

因此，小姐姐得出結(jié)論，小鼠感官知覺(jué)的局限性不是由感覺(jué)皮層的神經(jīng)噪聲決定的，而是由神經(jīng)元下游的解碼過(guò)程限制。

作者簡(jiǎn)介

這項(xiàng)研究的一作Carsen Stringer小姐姐，是倫敦大學(xué)學(xué)院（UCL）計(jì)算神經(jīng)學(xué)博士、美國(guó)Janelia研究院的神經(jīng)網(wǎng)絡(luò)科學(xué)家。

神經(jīng)元、視覺(jué)皮層和小鼠是小姐姐的日常，此外，她還發(fā)過(guò)各種Nature、Science等頂級(jí)期刊。

傳送門(mén)

論文：High precision coding in mouse visual cortex

地址：https://www.biorxiv.org/content/10.1101/679324v1

代碼：

https://github.com/MouseLand/stringer-et-al-2019