摩爾定律的終結?! 不妨試試動物們的腦袋吧。
近年來有關摩爾定律即將終結的討論不斷,基於深度學習普及,晶片製造廠們一邊專注於常規架構的改良提升效率,也有一些研究者把注意力轉向有別過往的計算機體系之外,例如量子計算、類腦計算等等。
如今有人在動物身上找到答案,ICLR 2021 有篇論文提出:研究者們『黑』進了果蠅的神經網路。 研究團隊用果蠅神經網路運行NLP算法,結論發現性能與常規的人工神經網路相當,但耗能確實十分低,無異是打開一扇通往新世界的大門。
目前神經科學領域研究最深入之一是果蠅的大腦,尤其是在Kenyon細胞(簡稱KC)
2000多個KC 會連接再一起形成具有學習能力的神經網路。 這個網路能讓果蠅在接近食物、潛在伴侶的時候,學習如何避免其他潛在的有害資訊輸入(感官資訊,例如危險的氣味和溫度)
研究人員認為這個較小的網路具備的功能與靈活性,是否可以加以編程用於其他任務(如NLP算法)
實驗大綱如下:
首先模擬網路結構,將大量數據提供給2000顆 Kenyon細胞,訓練該網路去識別文本中詞彙之間的相關性。該實驗基於:一個詞可以其語句或附近出現的單詞去表徵意義。
這類機械學習方法可以預測在給定詞的情況下的下一個詞。許多系統都用這種方法去生成自然的語句(如BERT)
該論文也使用相同方法,事實證明果蠅腦的網路結構並非為了此目的(自然語言處理)而存在,但它卻能擅長這個任務,研究證實該網路是可以學習詞的語意。
這個研究結果得到有趣的想法,生物腦網路算法的案例,與傳統常規人工神經網路算法相比更有效率,類腦計算可能是未來大幅提升效率與減少耗能的方法之一。
期待未來能探究其他生物大腦的神經網路,或許可能得到跳耀性的成長!!
撰稿:許楷翊
參考文獻:
1. Liang, Yuchen, et al. "Can a Fruit Fly Learn Word Embeddings?." arXiv preprint arXiv:2101.06887 (2021).
留言
張貼留言