預測編碼產生新知
大腦是如何學習的一直是個有趣的題目，類似的討論可以追溯到古希臘開始建立起的知識論(epistemology)(i)以及後來所產生的經驗主義(empiricism)以及理性主義(rationalism)：經驗主義強調我們的知識是由感官經驗所產生的，理性主義相信知識的來源可以是人的理性思考。
經驗主義有一個很棒的實作範例，就是深度學習(ii)。用半監督式學習當作例子，在經過訓練之後，這些「神經」可以在電腦視覺和聲音辨識領域擁有很好的表現。如果用貝氏模型(Bayesian model)的角度去思考，如果每天都看到太陽從東方升起，那隨著時間推進，我們有更多信心說太陽是從東方升起的(iii)。不過這種方法較為被動，不能透過推理的方式了解發生在生活周遭的一切。
要激發學習很重要的一步，是源於主動；預測編碼(predictive coding)試圖闡述一個高動態的學習方式，說明我們的大腦在接收新知的同時，也在建立自己對於這個世界的認知甚至是預測。在經歷意外(surprises)時，會產生預測誤差，我們就可以藉此修正對於世界的認識；而大腦的目標就是想辦法讓意外減少到最低。事實上，預測編碼已經被應用在很多領域上面了：電機的卡爾曼濾波器(Kalman filter)、統計學的貝氏模型、資工的機器學習、以及最小描述長度(minimum description length, MDL(iv))。(v)
來講講遊戲吧。我覺得CoC(The Call of Cthulhu, 克蘇魯的呼喚)體系下的SAN(sanity)值(vi)也算是預測編碼的一個簡化模型：當受到精神打擊(意外)的時候，SAN值就會不同程度的下降；降到0的時候表示世界與你的認知完全不同，最後陷入永久性的瘋狂。雖然幾乎沒有恢復的方法，不過掉SAN值的機會在遊戲裡還不算多，藉此來達到精神的平衡。很顯然我們的頭腦沒有脆弱到不能恢復，這應該是遊戲中低動態特性的一個妥協吧。
最後來總結，也有文章提到根據目前的研究，現在對於預測編碼的實作是沒辦法足夠描述大腦如何的(vii)；我們仍需要更多的實驗證據和新的理論相配合，才能有更好的方法來解釋我們如何建立頭腦裡的這個世界。
撰稿人：葉宸甫
引用論文及報導：
Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience Shipp, S. (2016). Neural Elements for Predictive Coding. Frontiers in Psychology
(i) https://en.wikipedia.org/wiki/Epistemology
(ii) https://youtu.be/aircAruvnKk
(iii) https://youtu.be/R13BD8qKeTg
(iv) https://en.wikipedia.org/wiki/Minimum_description_length
(v) https://www.nature.com/articles/nrn2787
(vi) https://zh.moegirl.org/zh-hant/SAN%E5%80%BC#
(vii) https://doi.org/10.3389/fpsyg.2016.01792
經驗主義有一個很棒的實作範例，就是深度學習(ii)。用半監督式學習當作例子，在經過訓練之後，這些「神經」可以在電腦視覺和聲音辨識領域擁有很好的表現。如果用貝氏模型(Bayesian model)的角度去思考，如果每天都看到太陽從東方升起，那隨著時間推進，我們有更多信心說太陽是從東方升起的(iii)。不過這種方法較為被動，不能透過推理的方式了解發生在生活周遭的一切。
要激發學習很重要的一步，是源於主動；預測編碼(predictive coding)試圖闡述一個高動態的學習方式，說明我們的大腦在接收新知的同時，也在建立自己對於這個世界的認知甚至是預測。在經歷意外(surprises)時，會產生預測誤差，我們就可以藉此修正對於世界的認識；而大腦的目標就是想辦法讓意外減少到最低。事實上，預測編碼已經被應用在很多領域上面了：電機的卡爾曼濾波器(Kalman filter)、統計學的貝氏模型、資工的機器學習、以及最小描述長度(minimum description length, MDL(iv))。(v)
來講講遊戲吧。我覺得CoC(The Call of Cthulhu, 克蘇魯的呼喚)體系下的SAN(sanity)值(vi)也算是預測編碼的一個簡化模型：當受到精神打擊(意外)的時候，SAN值就會不同程度的下降；降到0的時候表示世界與你的認知完全不同，最後陷入永久性的瘋狂。雖然幾乎沒有恢復的方法，不過掉SAN值的機會在遊戲裡還不算多，藉此來達到精神的平衡。很顯然我們的頭腦沒有脆弱到不能恢復，這應該是遊戲中低動態特性的一個妥協吧。
最後來總結，也有文章提到根據目前的研究，現在對於預測編碼的實作是沒辦法足夠描述大腦如何的(vii)；我們仍需要更多的實驗證據和新的理論相配合，才能有更好的方法來解釋我們如何建立頭腦裡的這個世界。
撰稿人：葉宸甫
引用論文及報導：
Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience Shipp, S. (2016). Neural Elements for Predictive Coding. Frontiers in Psychology
(i) https://en.wikipedia.org/wiki/Epistemology
(ii) https://youtu.be/aircAruvnKk
(iii) https://youtu.be/R13BD8qKeTg
(iv) https://en.wikipedia.org/wiki/Minimum_description_length
(v) https://www.nature.com/articles/nrn2787
(vi) https://zh.moegirl.org/zh-hant/SAN%E5%80%BC#
(vii) https://doi.org/10.3389/fpsyg.2016.01792
留言
張貼留言