「儲層式運算 - 演算法的極限與容量的權衡 」 類腦運算的解析 - Reservoir Computing 的三道物理門檻：存在、穩定與可及
前言： 一場大雨，成千上萬顆雨滴降落在池塘的水面上，每滴雨珠都影響著彼此對於水面的擾動，交互影響作用，放任不管後就無法推斷哪個漣漪是噪音，哪個是上一個或是上上一個雨珠加權下來的迴響。這就是儲層式運算（Reservoir Computing, RC）在做的事，也是一個最好理解的方式。reservoir 內部的隨機連結 J 與回饋權重 K 都不訓練，只調整讀出權重 w，讓輸出 z(t) 自己產生指定的時序（圖1）。自 Sussillo 與 Abbott 在 2009 年提出 FORCE 學習以來，這套作法一直被視為皮質可能利用「未經結構化的神經元群」產生運動序列的一種假說。但我們其實很少追問：哪些漣漪模式是這場雨原則上下不出來的？失敗的時候，該怪天氣，還是池塘本身？Qian 與 Fiete（MIT McGovern Institute）發表於 2025 年 Physical Review E 的 《Fundamental performance bounds on reservoir computing》 ，給了一個可以分開檢驗的答案，其中一條結論相當反直覺：雨滴越多，不一定越好呈現。 圖1：帶回饋迴路的 RC 架構。N 個神經元透過隨機矩陣 J 遞迴耦合，輸出 z(t) 是發放率的加權和，再經固定的回饋向量 K 注回網路。只有紅色的讀出權重 w 被訓練，藍色的 J 與 K 固定不動。整個回饋迴路等價於對隨機連結矩陣加上一個秩為 1 的擾動 K·w。 研究動機： RC 的相關的文獻多半在展示它的功能與應用，像是：預測混沌系統、驅動機器人、在光學或量子硬體上實作等等。相對地，關於它「為什麼會失敗」的理論少得多。過往的分析要嘛侷限在次混沌的線性網路，要嘛只討論固定輸入輸出映射的對齊條件，對一般的非線性混沌 reservoir 缺乏通用的判斷標準。這篇論文的作者把問題拆成三個層次：第一，產生目標序列的動力軌道是否存在（existence）；第二，這條軌道在權重凍結後是否全域穩定（stability）；最後，訓練演算法能否把系統推到這條軌道附近（reach）。這三者對應三個不同的責任歸屬：存在性由網路規模決定，穩定性由網路動力學與目標訊號的性質決定，可及性才由學習規則決定。這個切分的價值在於，它讓我們可以用同一個 reservoir 跑不同的演算法，凡是換了演算法也不會移動的失...
