蘊藏在大腦里的美麗幾何——神經(jīng)流形淺入門(下)研究進展
撰文丨沁瓢瓢(計算神經(jīng)科學博士 普林斯頓大學博士后)
責編丨浦肯野
排版丨Ring
編者按上一篇文章中,作者回顧了神經(jīng)科學研究重心的變遷歷程,由此為我們呈現(xiàn)出神經(jīng)流形(neural manifolds)如何在這一過程中應運而生,并深入淺出地介紹了理解認識神經(jīng)流形相關研究的基本概念。而在這篇文章,作者將帶領我們從該領域近年來的研究進展中,進一步領略神經(jīng)流形的魅力。
談起神經(jīng)動力學領域的發(fā)展,2012年斯坦福的Shenoy組發(fā)表的一篇文章算是這個領域的一個重磅里程碑。他們在觀察猴子的運動皮層活動時發(fā)現(xiàn),即使控制臂展動作這樣簡單的神經(jīng)活動,也驚人地展現(xiàn)出類似阻尼振蕩曲線的周期性波動。之后他們又發(fā)現(xiàn),歷史狀態(tài)的神經(jīng)活動和當前的感官信息會共同影響運動皮層即時所處的狀態(tài)——顯然運動皮層的神經(jīng)活動是一個動態(tài)系統(tǒng)。(雖然值得一提的是,之后不同的幾個組研究人類和猴子做手部運動時候并未展現(xiàn)出像下圖般的美麗幾何圖像)[1]。

據(jù)說當年Churchland等人就是無聊的時候盯著脈沖頻率曲線而發(fā)現(xiàn)了他們其中似乎有隱藏共同波動趨勢,從而發(fā)明了jPCA(數(shù)學中常用i和j兩個字母代表虛數(shù)的意思)降維得到了美麗的幾何結構。
這個故事告訴我們——
閑著沒事干嘛?當然是盯著數(shù)據(jù)看呀!
此后科學家們又發(fā)現(xiàn),我們的神經(jīng)流形其實分為其中活動會控制肌肉活動的潛能空間(potent space) 和與之垂直、其活動不影響肌肉活動的零空間(null space)。運動準備狀態(tài)時,神經(jīng)活動處于零空間;而當真正開始執(zhí)行動作時,神經(jīng)活動則會發(fā)展到潛能空間[3]。于是,研究低維流形可以幫助我們更清晰地認識運動中樞如何通過少量獨立信號來產(chǎn)生與控制運動行為,進一步還推動了腦機接口領域的發(fā)展。比如說,與其監(jiān)控所有的神經(jīng)元的活動,倒不如只監(jiān)控潛能空間的神經(jīng)活動。而另一方面,我們也可以通過腦機接口來監(jiān)測運動皮層活動受低維神經(jīng)流形約束的真實含義。比如匹茲堡大學的Batista組通過猴子的運動皮層來控制機械臂的活動。如果其控制機械臂的參數(shù)空間與神經(jīng)元群體的神經(jīng)流形空間正交,則很難對機械臂進行控制[4]。
?
當然,這種計算神經(jīng)科學領域與拓撲學領域的交融,不僅僅限制于運動系統(tǒng)。2012年,Ahrens等人收集了斑馬魚在VR背景下運動時腦部的雙光子成像數(shù)據(jù),從中分析出斑馬魚腦區(qū)隨著環(huán)境動態(tài)運動過程中發(fā)生的全腦神經(jīng)動力活動(brain wide neural dynamics)[5],到Bruno等人降維發(fā)現(xiàn)了海蛞蝓的運動神經(jīng)元在行走運動呈現(xiàn)了穩(wěn)定或者旋轉態(tài)的活動[6],再到2015年Okun等人記錄了老鼠和猴子視覺中樞的神經(jīng)活動,并研究了個體神經(jīng)元是如何聽從群體的指揮[7]。人們發(fā)現(xiàn),大數(shù)量級的群體神經(jīng)元活動都可以簡化為小數(shù)量級的神經(jīng)模態(tài)和隨著時間推進而演變的潛在因子。于是,神經(jīng)科學家們紛紛通過研究神經(jīng)群體活動的幾何結構來洞察各大腦區(qū)的內(nèi)部工作機制。顯然,一大組群體神經(jīng)元在理論上能產(chǎn)生爆炸級個數(shù)的神經(jīng)活動,但在真實情況下,神經(jīng)元群體活動仍處于低維流形中,就像管弦樂隊一樣,大量的個體神經(jīng)元其實都是這個“群體神經(jīng)元樂隊”中聽話的成員。
?
此外,神經(jīng)科學家們運用拓撲學方法來研究群體神經(jīng)元活動的佳作隨數(shù)不勝數(shù),筆者在此點出幾篇既簡潔美麗又震撼有力的文章,推薦感興趣的讀者詳讀。首先,2019年Rishidev Chaudhuri用拓撲建模的方法可視化了丘腦中代表著頭部朝向的神經(jīng)元環(huán)路[6]。各位讀者,試想一群各自代表著不同頭部朝向的神經(jīng)元,其功能活動會形成什么樣的神經(jīng)流形呢?首先,如果這個神經(jīng)環(huán)路只編碼頭部朝向單個信息,那么該神經(jīng)流形就應該是一維的,因為方向只是一個變量。其次,這個流形應該是圓環(huán)或者圓環(huán)的同胚環(huán)狀的,類似下圖,因為這樣才能很好的編碼不同的方向信息。令人震驚的是,事實恰如我們剛才的推測!研究人員發(fā)現(xiàn),將丘腦中這群代表著動物頭部朝向變化的高維復雜信息,正好可以降維成一個抽象簡潔的環(huán)形云。而在實際空間中的頭部朝向角度和降維處理形成環(huán)形云,也能夠點對點地一一映射,也就是說環(huán)形云上相等的距離也代表著相同朝向角度的改變。

還有許多很精彩的研究,站在神經(jīng)流形的角度揭露了知識在大腦中的幾何結構。譬如2020年,哥倫比亞大學的Salzman實驗室表征了猴子的海馬和前額葉皮層,并且研究了人工智能系統(tǒng)如何在保留高破碎維度的優(yōu)勢下,以抽象幾何的形式表示變量[9]。與之類似,2021年普林斯頓大學的Carlos Brody和David Tank 對虛擬場景下小鼠運動狀態(tài)時群體神經(jīng)元活動進行降維,發(fā)現(xiàn)海馬神經(jīng)元群體活動對空間位置變量和抽象認知變量的表征都呈現(xiàn)出美麗的幾何特征[10]。
?
再如,2021年,普林斯頓大學的Tim Buschman組通過神經(jīng)拓撲的方式發(fā)現(xiàn),我們的大腦用“旋轉”的方式來劃分過去和現(xiàn)在的邊界[11]。他們的研究認為,大腦為了避免新的感官信息干擾和覆蓋過去的短期記憶,會把感官信息“旋轉”到和短期記憶正交的空間中。打個生動的比方,在紙上記滿了國文課的筆記后,將其旋轉90度,用行與行之間的空隙來記錄下一節(jié)數(shù)學課的筆記,這樣我們就能用最少的紙張(即代表著最少的神經(jīng)元和能量)來記錄此刻和過去。
?
再到今年,我國的科學家用雙光子鈣成像記錄了獼猴大腦前額葉皮層的神經(jīng)群體活動,并研究了這個區(qū)域對于序列工作記憶的表征[12]。他們發(fā)現(xiàn),神經(jīng)元群體的活動可以被降維成一個個正交的環(huán)狀幾何結構空間,其中每一個子空間內(nèi)的幾何結構都一一映射的表征了視覺真實的空間位置。
?
可以說,無數(shù)的神經(jīng)科學家都用拓撲幾何的方法為我們可視化了大腦對于外界信息的萃取方式。
?
我們認為研究方向從以單個神經(jīng)元為中心,向以群體活動降維提取出神經(jīng)流形為中心的改變,是一個伴隨科技進步,必然且重要的轉化。但是這樣神經(jīng)動態(tài)系統(tǒng)的新發(fā)現(xiàn),有多少是只能從這個級別出發(fā)才能領略到神經(jīng)環(huán)路的真正功能,又有多少是我們早已熟知的單個神經(jīng)元級別的發(fā)現(xiàn),又換了個馬甲呈現(xiàn)在我們面前呢[13]?另一方面,太過于關注處理變換的方法,而非研究的意義,也很容易讓人偏離探索神經(jīng)科學未知奧秘的正確道路。比如筆者一直堅持認為,我們用高級的數(shù)學方法產(chǎn)生的抽象理解,未必能反映出我們大腦內(nèi)真實產(chǎn)生的神經(jīng)活動。舉例來說,2000年Ranulfo Romo的文章用傅里葉變換的方式,研究軀體感覺皮質(zhì)對于刺激頻率信息的存儲是通過頻率還是時間編碼[14]。但是,我們的大腦真的會采取傅里葉變換這種高級復雜的方式來提取信息嗎?筆者覺得未必,而其反映出的神經(jīng)生物學機制是否真實存在,也需要打一個問號。
筆者認為,隨著科技發(fā)展,研究方法可以進步,但是不能激進,不能偏離了我們探索科學知識的真正意義。正如麻省理工90后的神經(jīng)科學家楊光宇(Guangyu Robert Yang)去年的一個演講中所說,我們采用機器學習的方法來研究神經(jīng)學問題,但要注意我們不能完全像機器學習方向的研究人員那樣思考問題,如果完全用機器學習的方式來思考,就不是研究神經(jīng)科學了(Many of us, we read a lot of machine learning papers, at some point, you start to think like machine learning people... On the other hand, if we want to do science, we cannot completely do machine learning.)。
同理,用幾何拓撲學的方法來研究神經(jīng)動態(tài)活動是科技的進步與思想方式的轉變,但如果太過于側重方法,而不是揭示真實的神經(jīng)科學問題,顯然會偏離揭示生命現(xiàn)象本質(zhì)的正確道路。正如宋代禪宗大師青原行思提出參禪的三重境界:參禪之初,看山是山,看水是水﹔禪有悟時,看山不是山,看水不是水﹔大徹大悟時,看山仍然是山,看水仍然是水。那么,我們降維解析出的美麗幾何流形,是大腦里的第幾層山水呢?
·封面來源·
arXiv:2103.02663v1
·文章插圖·
圖1 參考文獻[2]
圖2 參考文獻[8]
·參考文獻·
1. Suresh, A. K., Goodman, J. M., Okorokova, E. V., et al. (2020). Neural population dynamics in motor cortex are different for reach and grasp.?eLife,?9, e58848.
2.Churchland, M. M., Cunningham, J. P., Kaufman, M. T., et al. (2012). Neural population dynamics during reaching.?Nature,?487(7405), 51-56.
3. Kaufman, M. T., Churchland, M. M., Ryu, S. I., et al. (2014). Cortical activity in the null space: permitting preparation without movement.?Nature Neuroscience,?17(3), 440-448.
4. Sadtler, P. T., Quick, K. M., Golub, M. D., et al. (2014). Neural constraints on learning.?Nature,?512(7515), 423-426.
5. Ahrens, M. B., Li, J. M., Orger, M. B., et al. (2012). Brain-wide neuronal dynamics during motor adaptation in zebrafish.?Nature,?485(7399), 471-477.
6. Bruno, A. M., Frost, W. N., & Humphries, M. D. (2015). Modular deconstruction reveals the dynamical and physical building blocks of a locomotion motor program.?Neuron,?86(1), 304-318.
7. Okun, M., Steinmetz, N. A., Cossell, L., et al. (2015). Diverse coupling of neurons to populations in sensory cortex.?Nature,?521(7553), 511-515.
8. Chaudhuri, R., Ger?ek, B., Pandey, B., et al. (2019). The intrinsic attractor manifold and population dynamics of a canonical cognitive circuit across waking and sleep.?Nature Neuroscience,?22(9), 1512-1520.
9. Bernardi, S., Benna, M. K., Rigotti, M., et al. (2020). The geometry of ?abstraction in the hippocampus and prefrontal cortex.?Cell,?183(4), 954-967.
10. Nieh, E. H., Schottdorf, M., Freeman, N. W., et al. (2021). Geometry of abstract learned knowledge in the hippocampus.?Nature,?595(7865), 80-84.
11. Libby, A., & Buschman, T. J. (2021). Rotational dynamics reduce interference between sensory and memory representations.?Nature Neuroscience,?24(5), 715-726.
12. Xie, Y., Hu, P., Li, J., et al. (2022). Geometry of sequence working memory in macaque prefrontal cortex.?Science,?375(6581), 632-639.
13. Elsayed, G. F., & Cunningham, J. P. (2017). Structure in neural population recordings: an expected byproduct of simpler phenomena? Nature Neuroscience, 20(9), 1310-1318.
14. Salinas, E., Hernandez, A., Zainos, A., et al. (2000). Periodicity and firing rate as candidate neural codes for the frequency of vibrotactile stimuli.?Journal of Neuroscience,?20(14), 5503-5515.
https://www.youtube.com/watch?v=QHj9uVmwA_0