卡爾曼濾波器的神經網路

卡爾曼濾波(Kalman filtering)被廣泛地使用在各項工程領域中；當我們不能直接獲取某項資訊時，可以透過良好的模型及間接的觀察來推敲出我們想要的資訊，並隨著時間推演，把誤差縮小到可以接受的範圍。我們的神經系統是否也可以做到這樣的計算？愛丁堡大學與薩塞克斯大學(Millidge et al. 2021)的研究表示，卡爾曼濾波因為採取了「雜訊為常態分佈」的假設，使得解答可以用梯度下降法來求得。使用簡單的人工神經模型(比方說leaky integrate-and-fire 模型或者更簡單的rate-based 模型)，以及引入第三因素的赫布學習(three-factor Hebbian plasticity)(Kuśmierz, Isomura, and Toyoizumi 2017)，梯度下降版本的卡爾曼濾波可以很直觀地實現。經過試驗，一個時步(Timestep)之內，五個梯度下降的遞迴就可以達到與傳統卡爾曼濾波相近的效果。

研究人員也將他們的實驗代碼上傳到GitHub，有興趣的同學也可以去玩玩看： https://github.com/BerenMillidge/NeuralKalmanFiltering

撰文｜葉宸甫

參考文獻

1. Kuśmierz, Łukasz, Takuya Isomura, and Taro Toyoizumi. 2017. “Learning with Three Factors: Modulating Hebbian Plasticity with Errors.” Current Opinion in Neurobiology, Computational Neuroscience, 46 (October): 170–77. https://doi.org/10.1016/j.conb.2017.08.020.

2. Millidge, Beren, Alexander Tschantz, Anil Seth, and Christopher Buckley. 2021. “Neural Kalman Filtering.” arXiv:2102.10021 [Cs], February. http://arxiv.org/abs/2102.10021.