Boundary Condition 設定好,Error Correction 沒煩惱
皮質是個很噪的地方。雖然雜訊在學習階段時常扮演重要角色,但當我們要進行精密計算的時候又變得很煩人。神經系統要怎麼應付這些雜訊呢?讓許多神經元一起合作是個不錯的選擇。族群編碼(暫譯)中,單顆神經元會對特定分佈的外界刺激產生反應,而最終反應就由眾多神經元一起表達。這個分佈到底要寬一點還是窄一點呢?這篇文章(Zhang and Sejnowski 1999)說明了不同的維度有不同的編碼方式;像是聽覺這樣的一維編碼適合窄的分佈,網格細胞這樣的二維編碼則無影響,三維編碼則是適合寬的分佈。廣義一點的說,它們其實都算是同一種,叫做經典族群編碼(暫譯)的類別:均方誤差朝向神經元數量的倒數(1/N)下降(Wilson and McNaughton 1993);越多神經參與,誤差就可以越小。
恩…1/N…很小嗎?我們有沒有可能可以做得更好?資訊理論之父夏農告訴我們這是可行的:雜訊通道編碼定理說明,給定一個有雜訊的通道,如果訊息傳送速度R小於通道容量C的話,理論上就可以無錯誤的傳送訊息直到達到速度限制C。事實上,剛剛提到的經典族群編碼的R就遠遠小於C,這在認知連續的(或者說,類比的)環境上是非常沒有效率的。
好在這篇論文(Sreenivasan and Fiete 2011)提出了另外一種叫做網格族群編碼(暫譯)的方式,可以讓均方誤差朝向神經元數量的指數(1/aN)下降,同時讓R與C維持一個非零的比例,大大提昇了效率。這其中的關鍵在於將一份大地圖切割成若干份小地圖;如果我們知道該在什麼時候拿出什麼地圖的話(比方說,知道這份地圖的邊界),大可不必每次都拿大地圖出來看;這項編碼方式也在2015年的這篇文章(Hardcastle, Ganguli, and Giocomo 2015)得到電生理上的支持。
網格細胞最近也被應用在即時定位與地圖構建上面;NeuroSLAM(Yu et al. 2019)相比最先進的純濾波方法(像是LDSO(Gao et al. 2018)或ORB-SLAM(Mur-Artal and Tardos 2017))可以更好的適應極端的環境,因爲基於吸引子網路的3D網格細胞模型可以做到非線性的姿態預測。
撰寫者:葉宸甫
參考文章:
恩…1/N…很小嗎?我們有沒有可能可以做得更好?資訊理論之父夏農告訴我們這是可行的:雜訊通道編碼定理說明,給定一個有雜訊的通道,如果訊息傳送速度R小於通道容量C的話,理論上就可以無錯誤的傳送訊息直到達到速度限制C。事實上,剛剛提到的經典族群編碼的R就遠遠小於C,這在認知連續的(或者說,類比的)環境上是非常沒有效率的。
好在這篇論文(Sreenivasan and Fiete 2011)提出了另外一種叫做網格族群編碼(暫譯)的方式,可以讓均方誤差朝向神經元數量的指數(1/aN)下降,同時讓R與C維持一個非零的比例,大大提昇了效率。這其中的關鍵在於將一份大地圖切割成若干份小地圖;如果我們知道該在什麼時候拿出什麼地圖的話(比方說,知道這份地圖的邊界),大可不必每次都拿大地圖出來看;這項編碼方式也在2015年的這篇文章(Hardcastle, Ganguli, and Giocomo 2015)得到電生理上的支持。
網格細胞最近也被應用在即時定位與地圖構建上面;NeuroSLAM(Yu et al. 2019)相比最先進的純濾波方法(像是LDSO(Gao et al. 2018)或ORB-SLAM(Mur-Artal and Tardos 2017))可以更好的適應極端的環境,因爲基於吸引子網路的3D網格細胞模型可以做到非線性的姿態預測。
撰寫者:葉宸甫
參考文章:
Gao, Xiang, Rui Wang, Nikolaus Demmel, and Daniel Cremers. 2018. “LDSO: Direct Sparse Odometry with Loop Closure.” arXiv:1808.01111 [Cs], August. http://arxiv.org/abs/1808.01111.
Hardcastle, Kiah, Surya Ganguli, and Lisa M. Giocomo. 2015. “Environmental Boundaries as an Error Correction Mechanism for Grid Cells.” Neuron 86 (3): 827–39. https://doi.org/10.1016/j.neuron.2015.03.039.
Mur-Artal, Raul, and Juan D. Tardos. 2017. “ORB-SLAM2: An Open-Source SLAM System for Monocular, Stereo and RGB-d Cameras.” IEEE Transactions on Robotics 33 (5): 1255–62. https://doi.org/10.1109/TRO.2017.2705103.
Sreenivasan, Sameet, and Ila Fiete. 2011. “Grid Cells Generate an Analog Error-Correcting Code for Singularly Precise Neural Computation.” Nature Neuroscience 14 (10): 1330–7. https://doi.org/10.1038/nn.2901.
Wilson, M. A., and B. L. McNaughton. 1993. “Dynamics of the Hippocampal Ensemble Code for Space.” Science 261 (5124): 1055–8. https://doi.org/10.1126/science.8351520.
Yu, Fangwen, Jianga Shang, Youjian Hu, and Michael Milford. 2019. “NeuroSLAM: A Brain-Inspired SLAM System for 3D Environments.” Biological Cybernetics, September. https://doi.org/10.1007/s00422-019-00806-9.
Zhang, Kechen, and Terrence J. Sejnowski. 1999. “Neuronal Tuning: To Sharpen or Broaden?” Neural Computation 11 (1): 75–84. https://doi.org/10.1162/089976699300016809.
留言
張貼留言