仿神經晶片Loihi的現在與未來

仿神經運算（neuromorphic computing）可說是近十年竄升的明日之星，以低功耗、仿生、非同步運算等特色，受到學術界的關注，同時幾家業界知名的公司也紛紛推出實驗性質的仿神經晶片（neuromorphic chip），如IBM的TrueNorth和Intel的Loihi。然而仿神經運算發展至今是否有實質的應用成果？是否真的如其響亮的名聲能在下一代的人工智慧取得一席之地？本次介紹的文章是由Intel Lab Loihi團隊撰寫，分享自從2018年Loihi推出至今，世界各地合作夥伴開發出的各項應用前景。

一、脈衝式神經版本的深度學習

仿神經系統如同其他人工神經網路（ANN, artificial neural network）一樣，是以神經元（neuron）為基本組成單位。一般來說，仿神經系統的神經模型稱作脈衝式神經元（spiking neuron）。所以很直觀的，我們就會想能否將ANN轉換成SNN，用SNN的脈衝頻率（firing rate）對應ANN神經的活性，以利用SNN加速晶片的優勢；抑或是使用符合SNN特性的資料集（dataset），如事件式相機（event-based camera）產生的資料，對SNN進行不論是線下（offline）或是線上（online）訓練。

二、吸引子模型

SNN能透過神經脈衝（spike）的時間點表現一般ANN不具有的時序（temporal）行為，而吸引子特性（attractor dynamic）是SNN獨有的衍生性質（emergent property），可以形成短期記憶的效果。目前有兩大應用層面，一個是區域競爭演算法（locally competitive algorithm），通常用來解決LASSO問題（least absolute shrinkage and selection operator），在機器學習領域從眾多資料特徵中過濾出最符合某筆資料的組合，可以想成給定輸入、特徵集合，透過特徵間的競爭，找出表示該筆輸入的最佳特徵組合；另一個動態神經場（dynamic neural field），則是在時間或空間上維持一群神經元的穩定活動，網路通常是贏者全拿（winner-take-all）的架構，常用來表示空間相對位置或是時間序列的相對關係。

三、時間序列上的運算

同樣運用SNN的時間與空間上的動態行為，幾類計算機科學上的問題也有Loihi的實現版本。比如說圖論的基本問題：最短路徑搜尋，將整個圖映射成SNN網路，藉由刺激路徑終點的神經，就能觀察到神經訊號的往回傳遞，等到起點神經元也接收到了脈衝，即代表已經找到N步的最佳路徑。還有運用仿神經晶片計算矩陣內積以計算圖片間相似度，甚至還有處理最佳化問題等等。

綜合上述技術，作者列出目前幾大應用方向，包括事件式感應器的對接、氣味辨識、自動控制領域（PID控制器、central pattern generator），或是SLAM（simultaneous localization and mapping）。最後給出一張比較圖闡明各種演算法在Loihi上的功耗與效能，可以看見左下角的區域大都是屬於從ANN轉換而來的前饋式網路（feed-forward network），相較來說在Loihi上能得到的效能提升有限；而實質運用SNN時間空間上特性的例子，較能完整展現新世代仿神經晶片帶來之效能提升。

撰文：姚皇宇

原始文獻：

M. Davies et al., "Advancing Neuromorphic Computing With Loihi: A Survey of Results and Outlook," in Proceedings of the IEEE, vol. 109, no. 5, pp. 911-934, May 2021, doi: 10.1109/JPROC.2021.3067593.