加速神經網路模擬的新方法
隨著電腦計算能力的進步，模擬大腦的夢想逐漸成為可能，然而大腦實在太複雜，科學家仍要面對許多精細度和計算量之間的取捨，可能是降低解析度，比如將一群神經元視為一個單位處理，這樣能大大減少神經網路的複雜度。
然而研究神經系統的難題不只在於神經網路太過稠密複雜，其實每一顆神經本身就是一個多采多姿的世界，不只是0或1的訊號而已。每個神經細胞就包含了許多的變數（比如不同的離子通道就有不同的動態），尤有甚者，神經元的數學模型通常是沒有解析解的非線性微分方程，因此調整數值方法的時間解析度或選用不同的神經元模型，都直接地影響了模擬的正確度。
喬治亞理工學院（Georgia Institute of Technology）電機系的團隊在今年三月的一場研討會上，提出了一個能增進神經網路模擬速度的方法——動態地變換每顆神經所使用的數學模型。在一個複雜的神經網路中，總有一些相對比較不重要的部分，這些神經元就使用只能粗略模擬神經動態，但計算較簡單的模型（比如leaky integrate and fire model, LIF 或Izhikevich model），而在傳遞比較多資訊的部分，就使用較精細的Hodgkin-Huxley (HH) model。如何判斷神經元在這個網路中是否重要？目前使用的方法是看動作電位頻率，當頻率超過某個閥值的時候，就使用HH-model，若隨著模擬時間演進，一顆神經元的活動逐漸降低，小於閥值之後，則改採別的模型。這個設定是基於以往的研究結果所設定：動作電位頻率較高的神經元，往往傳遞了比較多的訊息。
使用這個方法模擬視覺皮質網路，可以達到和全部使用HH-model非常相近的結果，並且讓計算速度提高了十倍以上。
撰稿：李宛儒
原始論文：Y. Long et al., Accelerating biophysical neural network simulation with region of interest based approximation, 2018 Design, Automation & Test in Europe Conference & Exhibition (DATE)
然而研究神經系統的難題不只在於神經網路太過稠密複雜，其實每一顆神經本身就是一個多采多姿的世界，不只是0或1的訊號而已。每個神經細胞就包含了許多的變數（比如不同的離子通道就有不同的動態），尤有甚者，神經元的數學模型通常是沒有解析解的非線性微分方程，因此調整數值方法的時間解析度或選用不同的神經元模型，都直接地影響了模擬的正確度。
喬治亞理工學院（Georgia Institute of Technology）電機系的團隊在今年三月的一場研討會上，提出了一個能增進神經網路模擬速度的方法——動態地變換每顆神經所使用的數學模型。在一個複雜的神經網路中，總有一些相對比較不重要的部分，這些神經元就使用只能粗略模擬神經動態，但計算較簡單的模型（比如leaky integrate and fire model, LIF 或Izhikevich model），而在傳遞比較多資訊的部分，就使用較精細的Hodgkin-Huxley (HH) model。如何判斷神經元在這個網路中是否重要？目前使用的方法是看動作電位頻率，當頻率超過某個閥值的時候，就使用HH-model，若隨著模擬時間演進，一顆神經元的活動逐漸降低，小於閥值之後，則改採別的模型。這個設定是基於以往的研究結果所設定：動作電位頻率較高的神經元，往往傳遞了比較多的訊息。
使用這個方法模擬視覺皮質網路，可以達到和全部使用HH-model非常相近的結果，並且讓計算速度提高了十倍以上。
撰稿：李宛儒
原始論文：Y. Long et al., Accelerating biophysical neural network simulation with region of interest based approximation, 2018 Design, Automation & Test in Europe Conference & Exhibition (DATE)
留言
張貼留言