模式分離（Pattern separation）被計(jì)算神經(jīng)科學(xué)領(lǐng)域認(rèn)為是哺乳動物海馬體DG區(qū)的主要功能，也是情景記憶形成的關(guān)鍵階段。了解模式分離的生物學(xué)機(jī)制不僅有助于理解情景記憶的編碼與形成，挖掘多種精神神經(jīng)疾病的致病機(jī)制，也對啟發(fā)新的類腦智能人工神經(jīng)網(wǎng)絡(luò)具有實(shí)際價(jià)值。

目前，通常采用Hopfield網(wǎng)絡(luò)模擬海馬體情景記憶的存儲和檢索過程。然而，Hopfield網(wǎng)絡(luò)中存在的串?dāng)_現(xiàn)象（Crosstalk）極大程度上減弱了網(wǎng)絡(luò)的存儲能力。從計(jì)算神經(jīng)科學(xué)的視角觀看，該問題出現(xiàn)的原因是Hopfield網(wǎng)絡(luò)主要模擬了海馬CA3區(qū)的模式完成（Pattern completion），不具備DG區(qū)模式分離的能力。因此，一個(gè)合理的科學(xué)假設(shè)是在Hopfield網(wǎng)絡(luò)之前添加模式分離計(jì)算模型可以有效增加其存儲容量。

圍繞該問題，已有部分研究探討了DG區(qū)實(shí)現(xiàn)模式分離的計(jì)算機(jī)制，指明了對模式分離具有重要作用的神經(jīng)元類型，構(gòu)建了涉及多種類型神經(jīng)元及神經(jīng)元投射的模式分離模型庫，極大的促進(jìn)了DG區(qū)計(jì)算模型的發(fā)展。

然而，多數(shù)自底向上的模型研究通常采用服從泊松分布的隨機(jī)數(shù)發(fā)生器賦予突觸以權(quán)重，而不考慮突觸學(xué)習(xí)在模式分離中的貢獻(xiàn)。相比之下，自頂向下的模型研究則不關(guān)注DG區(qū)的解剖結(jié)構(gòu)細(xì)節(jié)。這使得，迫切需要一種具有自適應(yīng)學(xué)習(xí)能力且具有較高生物合理性的DG區(qū)模式分離模型。

2022年5月6日，南開大學(xué)生命科學(xué)學(xué)院張濤教授團(tuán)隊(duì)與倫敦大學(xué)皇家霍洛威學(xué)院駱志遠(yuǎn)教授合作，在中科院人工智能頂刊《國際神經(jīng)系統(tǒng)雜志》(International Journal of Neural System)上發(fā)表論文“A Feed-Forward Neural Network for Increasing the Hopfield-Network Storage Capacity”（全文地址：https://www.worldscientific.com/doi/ 10.1142/S0129065722500277），基于小鼠海馬DG區(qū)解剖結(jié)構(gòu)和神經(jīng)振蕩分析提出了一種多層神經(jīng)網(wǎng)絡(luò)。

該網(wǎng)絡(luò)可通過赫布學(xué)習(xí)（Hebbian learning）增加其輸入模式的稀疏性，降低模式間的相似性，并以此增加Hopfield網(wǎng)絡(luò)的存儲能力。本研究的第一作者為南開大學(xué)生命科學(xué)學(xué)院的博士生趙少楷。

模式分離與DG區(qū)gamma節(jié)律向theta節(jié)律的信息流有關(guān)

圖1：模式分離伴隨小鼠海馬DG區(qū)神經(jīng)振蕩機(jī)制的改變

根據(jù)文獻(xiàn)報(bào)道，豐富環(huán)境（Enriched Environment，EE）有助于提升小鼠的模式分離能力。因此，作者首先采用8周齡的C57BL小鼠構(gòu)建了豐富環(huán)境模型。

對象模式分離（Object Pattern Separation，OPS）的行為學(xué)實(shí)驗(yàn)結(jié)果表明，相較對照組（CON），EE組小鼠的模式分離水平出現(xiàn)顯著增加。水迷宮的結(jié)果則表明，EE小鼠具有更好的空間識別記憶能力。

進(jìn)一步，作者調(diào)查了EE小鼠神經(jīng)振蕩機(jī)制的變化。結(jié)果表明，EE小鼠模式分離的增強(qiáng)伴隨著DG區(qū)局部場電位theta和gamma節(jié)律活動的同時(shí)增強(qiáng)和gamma節(jié)律向theta節(jié)律的信息流。考慮到DG區(qū)中，theta與gamma節(jié)律分別與fEPSC和fIPSC存在強(qiáng)相關(guān)性。作者認(rèn)為，模式分離水平的增強(qiáng)需要抑制性神經(jīng)元對興奮性神經(jīng)元活動進(jìn)行調(diào)節(jié)。

仿DG區(qū)人工神經(jīng)網(wǎng)絡(luò)結(jié) 構(gòu)設(shè)計(jì)與算法實(shí)現(xiàn)

圖2：DG區(qū)神經(jīng)振蕩啟發(fā)的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及算法流程

作者根據(jù)DG區(qū)解剖學(xué)和神經(jīng)元形態(tài)學(xué)的最新進(jìn)展，構(gòu)建了仿海馬DG區(qū)計(jì)算模型（Dentate Gyrus Computational Model，DGCM）。該網(wǎng)絡(luò)的結(jié)構(gòu)模擬了DG區(qū)顆粒細(xì)胞（GCs）、苔蘚細(xì)胞（MCs）和中間神經(jīng)元（INs）的投射路徑。

在赫布學(xué)習(xí)的基礎(chǔ)上，根據(jù)神經(jīng)振蕩的啟發(fā)設(shè)計(jì)了新的算法。新算法包含兩個(gè)關(guān)鍵點(diǎn)：1)興奮性和抑制性神經(jīng)元活動具有比例穩(wěn)定性；2)抑制性神經(jīng)元根據(jù)輸入數(shù)據(jù)對興奮性神經(jīng)元的活動進(jìn)行引導(dǎo)。最終形成了多層神經(jīng)網(wǎng)絡(luò)的驅(qū)動算法。算法流程如上圖所示。

仿DG區(qū)人工神經(jīng)網(wǎng)可有效增加Hopfield網(wǎng)絡(luò)的存儲容量

圖3：DGCM提升了Hopfield網(wǎng)絡(luò)的存儲能力

考慮到海馬DG區(qū)模式分離主要為了避免其下游CA3區(qū)的模式完成出現(xiàn)串?dāng)_（Crosstalk）。而目前學(xué)術(shù)界主要采用Hopfield網(wǎng)絡(luò)作為CA3模式完成模型。作者采用Hopfield網(wǎng)絡(luò)驗(yàn)證了DGCM對其存儲容量的提升效能。

其結(jié)果表明，在標(biāo)準(zhǔn)Hopfield模型的存儲容量為0.13N的基線水平下，采用模式分離模型可將其存儲容量提升至0.32N。且比在此之前的國外同類型最先進(jìn)研究水平（0.18N）提升了將近1倍。

仿DG區(qū)人工神經(jīng)網(wǎng)稀疏了GCs活動并增加了模式間距離

圖4：DGCM增加了GCs的稀疏性并減少了輸入模式間的相似性

作者進(jìn)一步測試了算法對網(wǎng)絡(luò)中表征GCs活動的第一層神經(jīng)元的影響。結(jié)果表明，算法可有效降低GCs的活躍性，并增加輸入模式間的距離。符合計(jì)算神經(jīng)科學(xué)領(lǐng)域?qū)δＪ椒蛛x功能的定義。

總結(jié)與展望

在本研究中，作者采用神經(jīng)振蕩啟示設(shè)計(jì)了新型的海馬DG區(qū)模式分離計(jì)算模型。該模型相較傳統(tǒng)模式分離模型更具生物合理性（Biology Plausible），且具有實(shí)際應(yīng)用意義。

在理論上，該研究結(jié)果表明，模式分離不僅依賴于DG區(qū)自身結(jié)構(gòu)，也依賴于神經(jīng)振蕩對突觸可塑性的動態(tài)調(diào)節(jié)。未來，該研究旨在繼續(xù)探究DG區(qū)神經(jīng)發(fā)生對模式分離的貢獻(xiàn)，通過算法革新增加模型應(yīng)對更加復(fù)雜的輸入模式，提升模型的應(yīng)用價(jià)值。

參考文獻(xiàn)

Zhao S, Chen B, Wang H, Luo Z, Zhang T. A Feed-Forward Neural Network for Increasing the Hopfield-Network Storage Capacity. Int J Neural Syst. 2022 May 6:2250027. doi: 10.1142/S0129065722500277. Epub ahead of print. PMID: 35534937.

本文經(jīng)原作者授權(quán)發(fā)表，版權(quán)歸原作者所有。