「儲層式運算 - 演算法的極限與容量的權衡 」 類腦運算的解析 - Reservoir Computing 的三道物理門檻：存在、穩定與可及

前言：
一場大雨，成千上萬顆雨滴降落在池塘的水面上，每滴雨珠都影響著彼此對於水面的擾動，交互影響作用，放任不管後就無法推斷哪個漣漪是噪音，哪個是上一個或是上上一個雨珠加權下來的迴響。這就是儲層式運算（Reservoir Computing, RC）在做的事，也是一個最好理解的方式。reservoir 內部的隨機連結 J 與回饋權重 K 都不訓練，只調整讀出權重 w，讓輸出 z(t) 自己產生指定的時序（圖1）。自 Sussillo 與 Abbott 在 2009 年提出 FORCE 學習以來，這套作法一直被視為皮質可能利用「未經結構化的神經元群」產生運動序列的一種假說。但我們其實很少追問：哪些漣漪模式是這場雨原則上下不出來的？失敗的時候，該怪天氣，還是池塘本身？Qian 與 Fiete（MIT McGovern Institute）發表於 2025 年 Physical Review E 的 《Fundamental performance bounds on reservoir computing》 ，給了一個可以分開檢驗的答案，其中一條結論相當反直覺：雨滴越多，不一定越好呈現。
圖1：帶回饋迴路的 RC 架構。N 個神經元透過隨機矩陣 J 遞迴耦合，輸出 z(t) 是發放率的加權和，再經固定的回饋向量 K 注回網路。只有紅色的讀出權重 w 被訓練，藍色的 J 與 K 固定不動。整個回饋迴路等價於對隨機連結矩陣加上一個秩為 1 的擾動 K·w。

研究動機：
RC 的相關的文獻多半在展示它的功能與應用，像是：預測混沌系統、驅動機器人、在光學或量子硬體上實作等等。相對地，關於它「為什麼會失敗」的理論少得多。過往的分析要嘛侷限在次混沌的線性網路，要嘛只討論固定輸入輸出映射的對齊條件，對一般的非線性混沌 reservoir 缺乏通用的判斷標準。這篇論文的作者把問題拆成三個層次：第一，產生目標序列的動力軌道是否存在（existence）；第二，這條軌道在權重凍結後是否全域穩定（stability）；最後，訓練演算法能否把系統推到這條軌道附近（reach）。這三者對應三個不同的責任歸屬：存在性由網路規模決定，穩定性由網路動力學與目標訊號的性質決定，可及性才由學習規則決定。這個切分的價值在於，它讓我們可以用同一個 reservoir 跑不同的演算法，凡是換了演算法也不會移動的失敗邊界，就是網路本身的物理極限，再怎麼調訓練也沒用，只能動手改 reservoir。對計算神經科學來說，這件事格外有意思。因為如果皮質柱真的像是一些人主張的可以視為 reservoir，那麼「能產生多快、多弱的節律」就不會一定是學習問題，而可能是迴路結構的問題。

研究方法：
先來說「存在性」，我認為存在性那一關其實最容易過，但是解釋上會比較數學一些。最小平方解（RLS）讓輸出可以寫成目標序列與一個核 D(t, t′) 的摺積，解存在的條件就是 D 要夠像 Dirac delta。作者算出 D 的峰高約為 Np/T（p 是相關矩陣中顯著大的特徵值比例），所以只要 Np ≫ 1，也就是 reservoir 夠大，解幾乎必然存在，擬合誤差大致以 1/N 的速率下降。真正有意思的是穩定性。作者用動力平均場理論（DMFT）處理正弦目標 A·sin(ωt)：把平均膜電位近似為被目標驅動的一階濾波器，再問擾動在一個週期內的放大與衰減是否剛好抵消。直覺上，當樂手們的發放率接近飽和（tanh 接近 ±1）時，擾動被壓制；發放率接近零時，混沌的放大效應又回來了。也就是說，回饋訊號必須夠強，才能把網路長時間壓在飽和區。推導出的邊界是 A ∝ √(1/τ² + ω²)：短週期時 A ∝ 1/T，也就是雨滴越急，就得越大的池塘，才能壓制住混亂的池面；長週期時邊界趨於平台。
圖2：以正弦波掃描振幅 A 與週期 T 的相圖，顏色為測試期的相對誤差 η（藍色為成功，20 個網路實現的平均）。(a) FORCE、(b) ESN、(c) 遺忘參數 γ = 0.002 的 forgetful FORCE。黑色虛線是 DMFT 預測的不穩定邊界，三種演算法的成功區域都不會延伸到虛線之下。下排為個別軌跡：(d) 成功；(e) 不穩定型失敗，訓練時能跟上、測試時發散；(f)(g) 可及性不足型失敗，訓練期間就跟不上。

接下來說「可及性」的部分 ，它比較了三種遞迴最小平方的變體。ESN 式的 teacher forcing 在訓練時只讓池塘看別次下雨的情況；FORCE 則讓他們看這次的池塘面狀況並即時糾正，因此相關矩陣裡多了網路本身波動帶來的大特徵值，表達力更強。作者再提出 forgetful FORCE：每次更新前把相關矩陣乘上 1/(1 − γ)，讓系統只記得約 Δt/γ 以內的近期經驗，並逐步削弱掉正則化項。模擬結果乾淨得令人意外：三種演算法的失敗邊界在不穩定區完全重合，而在穩定區，ESN 的成功區最小、forgetful FORCE 最大，兩種失敗在波形上一眼可辨（圖2 d–g）。掃描增益 g 時，不穩定邊界落在 g ≈ 1 附近，而在穩定區內 g 越大 ，reach 越好，等於把「混沌邊緣」這個爭議概念拆成兩股方向相反的力（圖3）。在 135 個混沌系統的測試裡，forgetful FORCE 大多表現更好，但偶爾會因為學到不穩定的高頻模態而在測試時崩掉；原始 FORCE 的核較寬，像一個低通濾波器，擬合較差但軌道較穩。
圖3：振幅 A 對增益 g 的掃描（T = 30）。黑色虛線為 DMFT 預測，左側為穩定區。三種演算法都在 g ≈ 1 附近出現陡峭的穩定／不穩定邊界，與理論在小振幅處吻合；大 g 時的偏差顯示 DMFT 省略的高階漲落開始作用。

最後把這套診斷工具反過來用在 reservoir 的設計上（圖5）。直覺上增加 N 是最直接的手段，但作者發現，大網路的連結矩陣特徵值均勻鋪滿整個單位圓，靠近邊緣的不穩定模態也跟著變多；小網路（N = 100）在小振幅、靠近不穩定邊界的區域反而誤差更低，但在大振幅區因為 reach 不足而輸給大網路。規模帶來的是一條穩定性與可及性的取捨曲線，而不是單調的改善。接著是全文我最有趣的實驗，作者把 1000 個神經元分成兩群，100 個連結強、900 個連結弱，調整變異數讓整體譜半徑仍為 1，但特徵值密度集中在原點附近，邊緣的密度與 N = 100 的小網路相同。這個雙族群網路同時取得了小網路的穩定性與大網路的 reach，只在中等振幅稍遜於單一族群的大網路，更加加深了一種信心，即不同細胞具備不同作用是可以被實現並且有意義的。
圖5：穩定性與可及性的取捨，以及細胞類型的角色。(a) 三種網路的特徵值密度：N = 1000 單一族群、N = 100 單一族群、以及 N = 1000 但分成兩群（N₁ = 100、N₂ = 900，連結變異數不同）的網路；後者譜半徑仍為 1，但密度集中在原點附近。(b) 固定 T = 50、掃描 A 時的中位數相對誤差（FORCE，100 次模擬）。大網路（藍）reach 佳，但小振幅時不穩定；小網路（橘）相反；雙族群網路（紅）在兩端都接近較好的一方。

貢獻與啟發：
這篇論文雖然沒有提出新架構，且 forgetful FORCE 也只是對既有演算法的小修補。但是，它的貢獻在於給了 RC 一套可以分散責任的失敗學，分為：解不存在、解不穩定、演算法到不了，三者分別歸咎於網路規模、網路動力學與學習規則。對目前正在實作模型的我來說，最實用的一句話是：拿同一個 reservoir 跑幾種演算法，不會移動的邊界就是物理極限，碰到它只能改網路，不是改訓練。對神經科學的啟發則落在那條 A ∝ 1/T 的邊界與雙族群實驗上。如果皮質確實以回饋維持自發序列，那麼可產生節律的速度與強度受到迴路混沌程度的限制，而生物網路裡細胞類型的多樣性，包括興奮與抑制、以及連結強度變異數的差異，恰好是一種不必犧牲規模就能壓低不穩定模態密度的設計。作者也把這條線延伸到現代深度學習的狀態空間模型，認為同樣的分析可以指導 reservoir 式模組的設計，也為我往後的研究開了一盞明燈。
然而，限制也該誠實說。DMFT 在大 g 時失準，作者歸因於省略的高階漲落，但承認解析上難以更進一步；A–T 邊界預測得比預期好，原因未明。主要實驗只用了正弦目標，多諧波僅有解析推論；次混沌網路為何表現差仍是懸案；遺忘機制必須在數值不穩定出現前停止；雙族群網路也只試了一種分法，最佳的細胞類型配置顯然依任務而異。這些都讓「用規模換穩定」目前更像一個清楚的現象，而不是完整的理論，真實世界的資料集也都還沒有採用並驗證。回到文初的那場雨：我們能改的只有觀測池面與一些額外添加的工程方法，有些表現呈現不出來，不是因為觀測不夠訓練不夠，而是因為那場雨又輕又快，池面呈現不了。這時候，與其加大水池，不如換幾種不同表現的水域，或許有意想不到的結果。

AI使用聲明：本文有透過 AI 翻譯與摘要，但內容與架構皆透過本人審視與編排


撰文：林祥吉


原始論文：Qian, D., & Fiete, I. (2025). "Fundamental performance bounds on reservoir computing". Physical Review E, 112(5), 054214. 

留言

張貼留言