神經網路的類生物調節回授學習理論

學習過程中神經元的突觸強度變化通常以神經科學的赫布學習（Hebbian learning）理論解釋，如果簡單用一句話說明赫布理論的意義就是"Cells that fire together, wire together"，意即突觸前神經元向突觸後神經元持續興奮型刺激，兩個神經元同時激發使神經元之間的連結強度增強。赫布理論被廣泛用來解釋學習的機制，但在神經網路模型中仍然有許多未能解釋的部份，例如網路穩定性的問題。如果依照赫布學習理論增強同時激發的神經元間的突觸強度，神經網路很快就會因為正回饋使整個網路的連結強度過大導致網路的崩潰，所以實際上在實行赫布理論常常會設定一些調節方式來維持網路的穩定。目前神經科學仍在探討更完整的學習理論，本篇研究即提出衝突式學習（conflict learning）來解釋神經網路如何在學習的過程中調節網路的穩定。

簡單的描述衝突式學習的規則，可以形容成一組調節的輸入訊號會送至每個神經元，調節輸入彼此之間會互相競爭達成平衡。其中學習規則包含三部份類生物機制：基於學習連結神經活躍性的突觸可塑性，利用抑制型突觸作為無學習連結的訊號，以及不同時間尺度的連結權重調節。研究中以衝突式學習及赫布學習來訓練視覺邊界辨識(border ownership, BO)的模型，結果表明衝突式學習發揮了很好的自我回授調節的優點。

赫布理論是基於聯想學習解釋兩個事件如何在神經系統中建立連結，但學習所牽涉的層面可能不僅於此，還包含更複雜的調節機制。神經科學目前仍在探討學習如何在神經系統運作，或許未來可以以此發展更前沿的機械學習演算法。

-

撰文：高暐哲

 -

原始論文：
Grant, W. S., Tanner, J., & Itti, L. (2017). Biologically plausible learning in neural networks with modulatory feedback. Neural Networks, 88, 32-48.
https://www.ncbi.nlm.nih.gov/pubmed/28189041