效率編碼、預測編碼、稀疏編碼的大一統理論

一首簡單的鄉村音樂，若在副歌出現了重金屬嘶吼，第一次聽的大多數人應該都會覺得很不合諧而被嚇到，但接下來整首歌重複數次的旋律線就能夠讓我們的大腦熟悉這樣的旋律。而這些資訊在我們大腦中是如何編碼的呢？過去有多種理論在探討，來自澳洲、法國的研究團隊藉著資訊理論的資訊瓶頸(information bottleneck)發展了一個大一統理論，嘗試將過去不同的編碼理論整合，結果發表在PNAS。

感覺訊息的編碼，過去數十年的主流理論認為效率編碼(efficient coding)是最重要的一環，讓感覺神經元能最有效率儲存過去一段時間內刺激的訊息。近年則興起了另一派的理論─預測編碼(predictive coding)，神經系統更重視的是用過去一段時間的訊息來預測未來！兩個理論都能進行未來訊息的預測，但前者重視的是怎麼有效率的壓縮所有的訊息，後者則是靠選擇性編碼預測未來的訊息。

而稀疏編碼則在過去的視覺相關的研究被大量探究，任何感覺訊號的傳入，只會活化少部分的神經元，而這樣的現象在效率編碼的理論中，會因為感覺訊號潛在的稀疏性而自然發生。然而要如何和預測編碼等統合，仍尚未釐清。

研究人員在此篇研究設計了多種不同的感覺刺激，如只對「當下」的刺激、一段時間、高斯分布的刺激等，經由各種測試後，作者總結若神經系統要做預測時，單顆神經元對於「方向」選擇性不敏感，但整體神經元群體仍敏感。對於過去經驗的效率編碼，所用的神經元以稀疏編碼而能有效率，但對於未來預測的部分，太稀疏會導致需要較長的時間累積資訊而影響反應速度，因此預測時需要較多的神經元。

此研究開啟了不同編碼理論之間統合的第一步，神經元究竟如何編碼，在不同環境與條件下，可能有不同的方式，有時候或許強調的是記憶的容量、也可能強調學習的準確性與精確度、而能快速的預測未來也是不可或缺的一環，未來的工作或許是邁向了解神經元網路怎麼樣調節自己編碼的方式，同時使用多種不同的策略。

撰文：強敬哲C.C. Charng

參考資料: Chalk, M., Marre, O., & Tkačik, G. (2018). Toward a unified theory of efficient, predictive, and sparse coding. Proceedings of the National Academy of Sciences, 115(1), 186-191.