探索圓形卡爾曼濾波器:來自貝氏環吸引子網路的啟發

在之前的文章中,我們探討了時間預測編碼(Temporal Predictive Coding, tPC)網路(Millidge et al. 2024)如何通過生物學上合理的機制模擬卡爾曼濾波的時間預測能力。今天,我們將焦點轉向其有趣的對應——通過貝葉斯環吸引網路(Bayesian Ring Attractor Networks, BRAN)實現的圓形卡爾曼濾波器(circKF)(Kutschireiter et al. 2023)。

BRAN 將貝氏定理引入到廣泛研究的環吸引子框架中。傳統環吸引子擅長表示如頭部方向(Head Direction, HD)等圓形變量,但無法顯式地處理不確定性。BRAN 通過將不確定性的表示直接嵌入到神經活動動態中,提供了一種生物學上合理的機制來實現接近最佳的推斷。

--傳統環吸引子與 BRAN 的創新
環吸引子是一類神經網路,它們通過維持持久的活動「活動高峰」(activity bump)來編碼圓形變量,例如頭部方向(HD)。然而,傳統模型無法顯式表示不確定性。儘管活動高峰的寬度可能反映輸入的雜訊,但這種關係僅是網路動態的間接產物,而非對不確定性進行的動態計算。
相比之下,BRAN 將不確定性直接整合到活動高峰的強度中。網路根據感官輸入的可靠性動態調整這一表示,從而實現更具適應性的行為。這一創新將框架從隱式不確定性表示,轉向顯式表示,彌補了傳統吸引子的關鍵缺陷。

--circKF 的神經實現:動態權重與固定連接
在 circKF 的網路實現中,回饋連接的非對稱部分由角速度 \omega 調節。這種調節使活動高峰動態偏移,準確跟蹤自我運動的變化。然而,這種實現需要回饋權重在推論過程中不斷調整,這與生物系統中通常觀察到的固定突觸強度不符。
為了解決這一限制,作者提出了一替代方法。此方法使回饋權重保持固定,而角速度輸入則由如PEN 區域的調節神經元處理。這些神經元動態調整網路活動以反映外部輸入,同時保持穩定的回饋連接,這與生物神經迴路動態一致。這種分工使網路能在不需要動態調整權重的情況下保持一致的性能。

--預測與修正:與傳統卡爾曼濾波的對比
在傳統卡爾曼濾波器中,通過協方差矩陣顯式跟蹤不確定性,並在預測和修正步驟中進行更新。預測步驟隨著系統向前發展而增加不確定性,而修正步驟通過整合新的感官測量來減少不確定性。
BRAN 採用了不同的方法,將不確定性嵌入到其狀態空間表示中。在預測階段,角速度輸入使活動高峰變寬,反映出不確定性增加。在修正階段,感官輸入使活動高峰變窄,其振幅增加,表現出不確定性降低。這種隱式表示避免了顯式計算協方差的需要,同時實現了類似的功能結果。

--BRAN 與 tPC 的比較
儘管應用場景不同,BRAN 與 tPC 在結構上具有相似性。在 tPC 中,觀測矩陣整合感官輸入,類似於 BRAN 中引導活動高峰的頭部方向感官輸入。tPC 中的回饋動態矩陣對應於 BRAN 的回饋連接,負責維持活動高峰穩定並處理自我運動訊號。關鍵區別在於對不確定性的處理:tPC 假設後驗方差為零,而 BRAN 通過活動高峰的振幅隱式編碼不確定性。
概念上,BRAN 可以被視為 tPC 的一種專門化版本,專為圓形或更廣泛的週期性變量設計,並通過其動態,對不確定性處理進行強化。

--理論與生物的橋梁
circKF 框架展示了如何在生物學上合理的神經迴路中實現貝氏推論原則。通過利用狀態空間動態和調節神經元,BRAN 能夠在保持生物機制一致性的同時實現頭部方向的穩健表示。這種隱式的不確定性編碼提供了一種有力的替代方案,取代了傳統卡爾曼濾波器中顯式的協方差跟蹤,結合了計算效率與生物現實。


聲明:本文使用了 OpenAI ChatGPT 協助撰寫。


撰文:葉宸甫


參考資料
1. Kutschireiter, Anna, Melanie A. Basnak, Rachel I. Wilson, and Jan Drugowitsch. 2023. “Bayesian Inference in Ring Attractor Networks.” Proceedings of the National Academy of Sciences 120 (9): e2210622120.
 
2. Millidge, Beren, Mufeng Tang, Mahyar Osanlouy, Nicol S. Harper, and Rafal Bogacz. 2024. “Predictive Coding Networks for Temporal Prediction.” PLOS Computational Biology 20 (4): e1011183.

留言