實現在奈米光子電路的深度學習
電腦的功能日益強大，需要消耗大量運算能力的深度學習演的算法也越來越可行。不過目前基於范紐曼(von Neumann)架構的電腦並不是為人工神經網路運算設計的，傳統CPU的運算效率並不高，即使是GPU或是其他特殊應用IC也會面臨效能和功耗的取捨。最近麻省理工學院(MIT)提出一種新方法，用光學神經網絡(optical neural networks, ONN)以光作為訊號媒介，應用於神經網路演算法可以提高運算速度和降低耗能，成果發表在Nature Photonics期刊上。
深度學習的神經網路包含許多資料處理層，在這裡所實作的資料處理層由兩部份組成：實現矩陣乘法的光學干涉單位(optical interference unit, OIU)，以及光學非線性單位(optical nonlinearity unit, ONU)作非線性運算。OIU所代表的矩陣可透過奇異值分解(singular value decomposition)，利用光衰減器來調整奇異值(這裡實驗用的是可編程的光處理器)，如此可以調整網路連結的權重。ONU則是利用材料的非線性特性，光強度增加會減少吸收度的光學性質，以此決定神經網路的閾值。為了與傳統神經網路比較效能，研究團隊設計了辨別四個音原的實驗，傳統的演算法的正確率有90%，光學神經網絡的正確率是77%。光學神經網絡雖然正確率比較低，但是運算速度比起需要個別處理大量矩陣運算的CPU高上許多，在調整過網路參數之後處理光訊號幾乎不須額外耗能。雖然目前光學元件不如成熟的電子元件穩定可靠，但未來或許能應用在對即時運算和低耗能有需求的裝置上。
-
撰稿：高暐哲
-
原始論文
Deep learning with coherent nanophotonic circuits. (Shen et al., 2017) Nature Photonics.
doi:10.1038/nphoton.2017.93
參考文章
New system allows optical “deep learning”
http://news.mit.edu/2017/new-system-allows-optical-deep-learning-0612
深度學習的神經網路包含許多資料處理層，在這裡所實作的資料處理層由兩部份組成：實現矩陣乘法的光學干涉單位(optical interference unit, OIU)，以及光學非線性單位(optical nonlinearity unit, ONU)作非線性運算。OIU所代表的矩陣可透過奇異值分解(singular value decomposition)，利用光衰減器來調整奇異值(這裡實驗用的是可編程的光處理器)，如此可以調整網路連結的權重。ONU則是利用材料的非線性特性，光強度增加會減少吸收度的光學性質，以此決定神經網路的閾值。為了與傳統神經網路比較效能，研究團隊設計了辨別四個音原的實驗，傳統的演算法的正確率有90%，光學神經網絡的正確率是77%。光學神經網絡雖然正確率比較低，但是運算速度比起需要個別處理大量矩陣運算的CPU高上許多，在調整過網路參數之後處理光訊號幾乎不須額外耗能。雖然目前光學元件不如成熟的電子元件穩定可靠，但未來或許能應用在對即時運算和低耗能有需求的裝置上。
-
撰稿：高暐哲
-
原始論文
Deep learning with coherent nanophotonic circuits. (Shen et al., 2017) Nature Photonics.
doi:10.1038/nphoton.2017.93
參考文章
New system allows optical “deep learning”
http://news.mit.edu/2017/new-system-allows-optical-deep-learning-0612
留言
張貼留言