混亂網路結構下的隱藏連續對稱性與動態穩定

在先前的探討中，我們已經確立了大腦空間導航系統的兩個核心特徵。首先，為了規避歐氏幾何中的運算奇點（如萬向鎖現象），大腦選擇將方位角與俯仰角映射至環面（Torus）拓撲結構上。其次，面對突觸權重隨時間發生的熱力學噪聲與表徵漂移（Representational drift），大腦仰賴流形切空間上的連續對稱性變換（如剛體旋轉）來維持內部幾何關係的穩定。這兩項結論皆指向同一個邏輯推論：神經系統在乎的是巨觀拓撲特性與相對幾何的守恆，對微觀尺度則寬容。
本文將進一步探討此現象的底層數學機制：生物大腦有沒有可能利用極度混亂、缺乏明顯規律的實體神經網路，建構出完美的數學對稱性？

--傳統連續吸引子模型的不足
在計算神經科學中，傳統的連續吸引子神經網路（Continuous Attractor Neural Networks, 簡稱 CANN）模型在理論上極為優雅。在標準的環形吸引子模型中，神經元之間的突觸連結矩陣被假設為具有完美的旋轉不變性（Rotation-invariant），這導致在數學預測上，每個神經元的調諧曲線（Tuning curve）應當具有完全相同的形狀，僅在偏好角度上有所平移。
圖 1：古典連續吸引子模型無法捕捉實驗數據。
(A) 具備旋轉不變性（rotation-invariant）連結的古典環形吸引子模型示意圖。
(B) 墨西哥帽（Mexican-hat）突觸權重分佈，展示古典環形吸引子模型的旋轉不變性連結。
(C) 由古典環形吸引子模型預測之平移不變性（translation-invariant）調諧曲線。個別神經元的調諧曲線具有完全相同的形狀，唯其峰值發生平移以均勻涵蓋 $\theta$ 軸。
(D) 從 [19, 30] 數據集中隨機挑選的單一神經元調諧曲線（因經過正規化，單位為任意單位，arbitrary units），這些數據選自記錄到最多神經元的四隻小鼠。綠色與紫色軌跡顯示從互斥數據劃分（disjoint data partitions）中計算出的未平滑化調諧曲線（詳見原論文 SI.1）。黑色軌跡顯示經交叉驗證的平滑化調諧曲線。
(E) 每個記錄會期中，依質心對齊（center-of-mass-aligned）的調諧曲線平均值（細線）。粗線代表所有會期的平均值。
(F) 31 個記錄會期中，依質心對齊的調諧曲線之標準差（細線）。粗線代表所有會期的平均值。

然而，實驗觀測否定了這項假設。活體小鼠頭部方向細胞（Head-direction cells）的記錄顯示，神經元的調諧曲線具有高度的異質性（Heterogeneity），峰值數量與分佈極不規則，且各細胞的行為差異極大。若傳統理論要求完美的硬體對稱性，那麼充滿雜訊的生物大腦理應無法維持穩定的空間表徵。

--逆向工程與隱藏的對稱性
為了解決理論與觀測數據之間的矛盾，Clark、Abbott 與 Sompolinsky 在近期提出了一種逆向工程的分析途徑(Clark, Abbott, and Sompolinsky 2025)。他們直接提取了 1,533 個小鼠頭部方向細胞的真實調諧曲線，並透過最小平方法（Least-squares optimization）對網路的突觸權重 $J_{ij}$ 進行最佳化。在此過程中，他們施加了「零流動條件」（Vanishing-flow condition），亦即要求網路在處於目標流形時，其狀態對時間的導數必須為零（$\partial_tx_i(t)=0$）。
對此由真實數據生成的網路進行光譜分析後，研究人員發現其突觸連結矩陣 $J_{ij}$ 在表面上呈現完全的無序狀態。若嘗試對此網路的權重矩陣計算特徵向量（Eigenvectors），所得結果僅是一團無結構的散佈，完全無法呈現出古典模型中整齊的傅立葉模式。
然而，系統的連續對稱性並未消失，而是被「隱藏」在矩陣的特徵值（Eigenvalues）光譜中。分析結果指出，該矩陣的特徵值全為實數，且具備「雙重簡併」（Doublet degeneracy）的特性。這種成對出現的特徵值是網路在巨觀層次上具備一維環狀連續對稱性的數學特徵。
圖 2：由數據衍生之網路的準連續吸引子動態（Quasi-continuous-attractor dynamics）。
(A) 最佳化後之突觸權重矩陣 $J_{ij}$，其神經元排序為隨機狀態，未顯現出任何明顯的結構。
(B) 與 (A) 相同之權重矩陣，唯神經元乃依據其調諧曲線之圓形質心（circular centers of mass）進行重新排序，進而揭示出潛在的類墨西哥帽（Mexican-hat-like）結構。
(C) 矩陣 (B) 之圓對稱（Circularly symmetric）版本，其係透過對神經元間固定角度差所對應之對角線權重進行平均計算而得。
(D) 加上雜訊之矩陣 (C)，其建構方式為隨機置換（randomly permuting）矩陣 (B) 與 (C) 之間的殘差。此結果證實，對對稱權重施加隨機擾動將會破壞其吸引子特性。
(E) 於目標流形（target manifold）之前三個主成分空間中所視覺化之網路動態。黑色「x」標記代表初始條件，彩色線條顯示 30 秒模擬時間內之軌跡，黑色圓點則指示最終狀態。於此圖及後續子圖 (G—J) 中，顏色皆代表初始條件所在之角度位置。
(F) 各軌跡與其在目標流形上最近點之間距隨時間的變化，嚴格證明了系統朝向流形收斂（convergence）之動態特性。
(G) 不同初始條件下所有神經元（排序同 B）之穩態（Steady-state）活動模式，顯示其收斂至具異質性（heterogeneous）但依然穩定之突起（bump）組態。
(H) 使用自 (C) 衍生之圓對稱矩陣所得之穩態模式，顯示出僅在平移上等價之突起組態，此乃古典環形吸引子模型之典型特徵。
(I) 使用自 (D) 衍生之受雜訊破壞矩陣所得之穩態模式，顯示系統崩潰（collapse）並落入少數伴隨高頻雜訊之穩定狀態。此現象客觀論證了矩陣 (B) 的特定異質結構對於維持連續吸引子動態是不可或缺的。
(J) 在恆定角速度輸入（$\omega=0.8\mathrm{rad/s}$）下之重疊序參數（Overlap order parameter）m($\theta,t$)，證明系統具備平滑追蹤角運動之運算能力。
(K) 自真實小鼠頭部方向軌跡計算而得之重疊序參數 m($\theta,t$)，顯示該網路具備追蹤自然連續運動之能力。
(L) 直接從小鼠頭部方向細胞紀錄中計算而得之重疊序參數 m($\theta,t$)，進一步驗證了該模型對群體層級動態（population-level dynamics）之理論預測。

圖 6：最佳化權重矩陣之特徵譜結構（Spectral structure）。
(A) 使用自生成過程（generative process）抽取之調諧曲線（N=2500）所建構的最佳化權重矩陣，其中 $\sigma$ 與 $\beta$ 參數值取自擬合模型。神經元乃依據其調諧曲線之質心進行排序。
(B) 附加雜訊之循環矩陣（circulant matrix，N=2500），其中循環分量之縮放比例為 1/N，而雜訊項之數量級（order）為 $1/\sqrt N$。
(C) 矩陣 (A) 之特徵值實部排序結果。圖中並列顯示理論預測（實線）與數值結果（圓點），並可觀察到明顯的雙重簡併（doublet degeneracy）現象。模式 9 為常數模式（constant mode），故不以雙重簡併的形式出現。
(D) 最佳化權重矩陣特徵值之複數平面視圖，其特徵值實部與 (C) 相同。
(E) 顯示於 (B) 之「循環加雜訊」矩陣特徵值的複數平面視圖。
(F) 比較矩陣 $JJ^T$（等價於矩陣 J 的左奇異向量，left singular vectors）連續成對特徵向量之散佈圖，其中 J 為來自 (A) 的矩陣。結構的缺失客觀反映了其無序嵌入（disordered embedding）之數學本質。
(G) 針對「循環加雜訊」矩陣所繪製之類比散佈圖，圖中顯示其領先特徵向量（leading eigenvectors）儘管受到雜訊的部分破壞，依然保留了其傅立葉結構（Fourier structure），進而揭露了潛在的環狀結構。

--巨觀動態等價與多維度推廣
透過大網路極限（$N\rightarrow\infty$）下的動態平均場理論（Dynamical mean-field theory），上述研究嚴格證明了一項反直覺的結論：這個微觀上極度混亂的網路，其巨觀動態方程式在數學上完全等價於一個具備連續對稱性與墨西哥帽（Mexican-hat）連結分佈的經典環形吸引子模型。
圖 7：動態平均場理論（Dynamical mean-field theory）在大網路極限（large-network limit）下揭示了圓對稱性與環形吸引子動態。
(A) 平均場權重 $J(\mathrm{\Delta\theta})$ 呈現出墨西哥帽分佈（Mexican-hat profile），該分佈會隨著生成過程參數 $\sigma$（各子圖面板）與非線性參數 $\beta$（各曲線）而變化。較高的 $\beta$ 值會放大興奮性與抑制性的振幅，而較大的 $\sigma$ 值則會使該分佈變窄。
(B) 針對不同數值之活動依賴型增益參數（activity-dependent gain parameter）Q 所繪製的有效非線性（Effective nonlinearity）G_Q(h)。隨著整體網路活動的增加，Q 值隨之增長，進而降低非線性函數的斜率，此過程透過一種湧現的增益控制機制（emergent gain-control mechanism）來促成突起（bump）形成的穩定。
(C) 動態平均場方程式之數值解，顯示一個移動中的突起狀態正精確追蹤頭部方向之速度輸入，此結果與在高維度神經網路中所觀察到之動態完全吻合。
(D) 系統收斂至環狀流形之時間尺度$（{t_*}/{\tau}=-log_{10}(-\lambda_2)）$作為 $\sigma$ 與 $\beta$ 的函數。圖中顯示，對於所有的 $\sigma$ 值，只要 $\beta\gtrsim1$，系統皆呈現快速收斂$（t_*\sim\tau）$。
(E) 系統自均勻狀態（uniform state）發散之時間尺度$（{t_*}/{\tau}=-log_{10}(-\lambda_1)）$，客觀論證了圖案生成（圖靈）不穩定性（pattern-forming (Turing) instability）具有與 (D) 相似的參數依賴特徵。
(F) 在突起狀態下，完整動態平均場方程式（藍線）與將 Q 固定為 $\mathrm{\Gamma}^x(0)$ 之修改版方程式（橘線）的領先特徵值（leading eigenvalues）實部。分析指出，動態變化的 Q(t) 對於維持突起的穩定性至關重要；若強制固定 Q(t)，系統將產生一個正的特徵值，進而破壞該突起狀態的動態穩定。

此分析框架亦可進一步推廣至二維的幾何拓撲。以內嗅皮層中表徵二維空間的網格細胞（Grid cells）為例，神經元群體的活動流形呈二維環面（Torus）拓撲。在這種具備六邊形對稱性的二維空間結構中，其連結矩陣的光譜則呈現「六重簡併」（Six-fold degeneracy），這進一步證實了只要符合特定的特徵值簡併條件，複雜的連續吸引子便能被建立。
圖 8：衍生自異質性調諧曲線（heterogeneous tuning curves）之網格細胞模型（Grid-cell model）。
(A) 網格細胞反應範例，轉載自 Hafting 等人 [16] 之研究。各範例皆展示了疊加於大鼠二維空間軌跡上之發放活動（spiking activity，左圖）、發放率圖譜（firing-rate map，中圖），以及空間自相關性（spatial autocorrelation，右圖）。
(B) 來自實驗紀錄之網格分數（grid scores）分佈，改編自 Nayebi 等人 [25] 之文獻，該研究進一步分析了 Mallory 等人 [41] 的數據。
(C) 針對不同數值之週期性參數（periodicity parameter）$\eta$，自高斯過程模型（Gaussian-process model）推導而得之網格分數分佈。
(D) 自 $\eta=0.6$ 之高斯過程中所抽取（sampled）的發放率圖譜範例（對應於 C 圖直方圖上方之箭頭指示處）。
(E) 由 (D) 中之發放率圖譜計算而得的空間自相關函數（Spatial autocorrelation functions），客觀論證其相較於原始圖譜，展現出更為強烈且清晰的六邊形結構（hexagonal structure）。
(F) 於前三個主成分（principal components）空間中所視覺化之網路動態，嚴格證明系統從各種初始條件（黑色「x」標記）出發，最終皆會收斂至二維環面吸引子（toroidal attractor）。彩色線條顯示隨時間演進之軌跡，黑色圓點則指示最終之穩定狀態。

--研究限制：生物學習法則的缺席與維度擴展的觀測困境
儘管該模型在數學證明上極具說服力，但我們必須客觀審視其在生物學現實上的兩大根本性限制。
首先，是關於突觸權重生成的生物合理性（Biological plausibility）。在本研究中，研究團隊是透過最小平方法（Least-squares optimization）這類全域最佳化數學演算法，逆向求解出維持動態穩定所需的突觸權重矩陣 $J_{ij}$。然而，真實大腦很難存在一個全知的外部演算法來進行權重微調。生物神經系統中的突觸可塑性，通常嚴格受限於局部的化學與電生理互動，例如赫布學習法則（Hebbian learning）。儘管該權重矩陣的解析解在數學結構上帶有類似赫布法則的特徵，但大腦究竟如何單憑局部的生物訊號，自發性地「學習」並收斂至這種極度精準卻又表面混亂的權重配置，在本篇論文中並未著墨。
其次，是高維度流形在實驗觀測上的實證匱乏。雖然該研究成功將一維環狀理論推廣至二維環面（Torus）結構，用以解釋內嗅皮層中網格細胞（Grid cells）的幾何行為，但這部分的驗證純粹建立在統計生成模型之上。根據動力學系統的特性，維持連續吸引子穩定所需的神經元數量，會隨著流形維度（Manifold dimension）呈指數級別增長。為了解算二維環面，研究團隊必須在模擬中合成高達 25,000 個神經元的網路規模。這套「由極度混亂的神經硬體建構出二維環面對稱性」的理論，目前仍停留在純粹的數學推論階段，尚未獲得活體生物實測數據的直接物理證實。

--結論
務實的大腦並不需要在硬體（神經突觸連結）層次上追求歐氏幾何般的平整與對稱。這項研究提出了有力的存在性證明（Existence proof）：只要突觸矩陣的光譜中具備正確的特徵值簡併特性，連續對稱性與動態運算穩定性便能從極度混亂的底層硬體中自然湧現。然而，在我們能夠於活體中同時觀測數以萬計的神經元，並破解其局部的突觸演化機制之前，這幅關於神經流形（Neural Manifolds）的幾何拼圖，仍有一部分僅存在於純粹的方程式之中。

聲明：本篇文章由Gemini 協助寫作，經由人工修飾/確認


作者：葉宸甫


參考文章：Clark, D. G., Abbott, L. F., & Sompolinsky, H. (2025). "Symmetries and continuous attractors in disordered neural circuits." bioRxiv, 2025-01.

留言

張貼留言