SNN與RNN於非同步辨識的優劣

近年來事件導向(event-driven)的資料型態逐漸變得受歡迎；它們因為低延遲的特性，在資料的實時處理上有許多優勢。脈衝神經網路(Spiking Neural Network, SNN)因為其非同步傳遞的特性，讓它非常適合處理事件導向的時間-空間(spatiotemporal)資料。不過循環神經網路(Recurrent Neural Network)同樣也可以處理時空間資料，究竟兩者間孰優孰劣？

圖一：SNN、RNN、LSTM之比較。

北京清華與加州大學聖塔芭芭拉分校(UCSB)(He et al. 2020)針對事件導向的資料，包含N-MNIST跟DVS Gesture，使用SNN、基本RNN與LSTM進行辨識並比較。其中也針對RNN與LSTM做出了一些loss function上的更改(注)，使其更貼近SNN的訓練方式，並歸納出以下幾點：

• SNN通常能在事件導向的資料取得較好的準確度，而RNN與LSTM在經過更改後也能取得不錯的成績。
• 事件導向的特性讓SNN可以快速處理稀疏特徵，在短時間內(dt=1ms)的辨識準確度遠高於其餘二者。
• LSTM的複雜迴路可以讓它記住較長的時間特徵，而SNN則靠膜電位記憶來達到這點；RNN在這方面就比較弱勢了。
• SNN的唯自循環(self-recurrence only)與受限的權重特性使它相當的輕便。

圖二：上：累積三毫秒的事件訓練，並在dt=2或1時測試。下：測試結果。

圖三：可訓練參數量比較。

作者因此推薦，若要處理事件導向的資料，當時間解析度大時使用LSTM，解析度小時使用SNN；若想要輕量化的網路，SNN永遠是最好的選擇。三者之間也可以互相擷取對方的優點，進一步改善目前的模型。

注：LSTM與RNN的loss function在此被多加了一個長度為T的時間窗，而非原本的長度為一。

撰文｜葉宸甫

參考文章

He, Weihua, YuJie Wu, Lei Deng, Guoqi Li, Haoyu Wang, Yang Tian, Wei Ding, Wenhui Wang, and Yuan Xie. 2020. “Comparing SNNs and RNNs on Neuromorphic Vision Datasets: Similarities and Differences.” arXiv:2005.02183 [Cs, Eess], May. http://arxiv.org/abs/2005.02183.