總?cè)滩蛔∠虢釉?？原來是你的大腦在瘋狂“腦補”下個詞丨PNAS
通過語義音素詞性“做預(yù)測”
蕭簫 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
聊天、讀書或聽講時，你有意識到自己正在瘋狂“腦補”嗎？
其實，你的大腦就像一個自動補全機一樣，每時每刻都在猜別人要說什么。
不僅如此，大腦還會不斷地將我們從外界獲取的信息（圖像、聲音和文本等）與腦內(nèi)的預(yù)測進行比較。
基于這一理論，研究人員搞出了不少NLP模型，包括語音識別、自動補全等，但他們卻發(fā)現(xiàn)，人的“腦補”能力還是比這些AI更優(yōu)秀。
所以，究竟是不是人的大腦和AI“腦補”的方法不一樣？
現(xiàn)在，一群來自馬普所和奈梅亨大學(xué)（Radboud University）的科學(xué)家，決定直接測一測人們“腦補”時發(fā)出的腦電波。
對這些腦電波特征進行分析后，他們發(fā)現(xiàn)了背后更詳細的原因。
收集大腦聽書時的“反應(yīng)”
此前，科學(xué)家們已經(jīng)發(fā)現(xiàn)，大腦會對外界事物進行預(yù)測，來引導(dǎo)自己處理信息。
但大腦究竟是基于哪些條件（詞類/音素/語義等）做出的預(yù)測，不同條件之間是否會相互影響，一直沒有明確定論。
例如，單詞和語義究竟是怎么影響大腦預(yù)測的，預(yù)測單詞會不會對語義造成影響，都還不清楚。
因此，科學(xué)家們想出了一個方法：讓志愿者們聽有聲書，觀察他們的大腦反應(yīng)，并采用GPT-2來對預(yù)測內(nèi)容進行一個定量分析，將預(yù)測結(jié)果進行對比。
他們先找來19名志愿者，測量并記錄他們1小時的腦電波（EEG）；隨后，又收集了3名志愿者9小時的腦磁圖（MEG），來定位大腦中具體位置的神經(jīng)活動。
其中，腦電波小組聽的是一小時《老人與海》，每次時長180秒，一共播放20次；腦磁圖小組聽的是9個小時《福爾摩斯探案集》，每次1小時，并被要求在兩次間隔之間回答具體問題。
隨后，從不同維度對這些數(shù)據(jù)進行分析，并得出了幾點結(jié)論。
優(yōu)先考慮“更高級”的預(yù)測條件
研究人員先是驗證發(fā)現(xiàn)，大腦的預(yù)測是持續(xù)不斷地產(chǎn)生的。
在這個過程中，科學(xué)家們也發(fā)現(xiàn)了AI預(yù)測和人腦的相似性。
例如，如果預(yù)測結(jié)果不符合實際情況（猜錯了），大腦就會感到“驚奇”，變得空前活躍。
隨后，他們將有聲書的內(nèi)容分成幾個層次，包括詞性（動詞/名詞/形容詞）、音素（音標）和語義（用GPT-2做預(yù)測）這幾個“級別”。
然后，通過MRI還原了大腦在進行不同層次預(yù)測時的“可視化圖”。
結(jié)果顯示，大腦在用詞性、語義和音素進行預(yù)測時，不同層次之間會相互進行影響。
也就是說，更“高級”的預(yù)測條件會影響優(yōu)先級較低的預(yù)測條件，如語義（上下文）就會對音素預(yù)測產(chǎn)生影響。
例如在“They say his father was a _____.”這句話中，如果僅僅憑借音素預(yù)測下一個音節(jié)，和通過上下文進行預(yù)測的結(jié)果是不一樣的。
如果只用音素和頻率進行預(yù)測，大概率會認為單詞音標會以/f?/開頭，但結(jié)合上下文的話，就更容易做出“fisherman”，也就是/fi/開頭的單詞預(yù)測。
這樣看來，或許也能通過將幾個層次的預(yù)測條件結(jié)合起來，增加語音識別或自動補全等AI的準確性。
作者介紹
一作Micha Heilbron，目前是內(nèi)梅亨大學(xué)和馬普所研究院，研究方向是認知和計算神經(jīng)科學(xué)，對于生成模型對語言處理中的作用感興趣。
Kristijan Armeni，目前在約翰霍普金斯大學(xué)讀博后，博士畢業(yè)于內(nèi)梅亨大學(xué)，研究方向是自然語言處理和認知神經(jīng)科學(xué)。
同樣參與研究的幾名作者Jan-Mathijs Schoffelen、Peter Hagoort、Floris P. de Lange也分別來自內(nèi)梅亨大學(xué)和馬普所。
對于這項研究，有網(wǎng)友提出了自己的觀點，即大腦本身就是一種機制，會基于一種反饋回路做出決策和行動。
但也有網(wǎng)友從自己感受來看，大腦這個“預(yù)測機器”似乎經(jīng)常出錯。
對此有網(wǎng)友提出了自己的觀點：
畢竟大腦是個生存機器，而不是“真相檢測儀”。如果說謊能促進健康，那么你的大腦便會選擇說謊。
論文地址：
https://www.pnas.org/doi/abs/10.1073/pnas.2201968119
參考鏈接：
[1]https://news.ycombinator.com/item?id=32395840
[2]https://www.mpi.nl/news/our-brain-prediction-machine-always-active
相關(guān)閱讀
