從小的網路找出大網路的訊息傳遞方式

What is the science 我們遭遇了什麼問題?

神經元們作爲網路的節點，互相傳遞訊息，以便讓我們對週遭做出反應。問題是，訊息到底是怎麼傳遞的？從網路動態學的角度來看，神經網路的結構以及裏頭節點活動的方式決定了整個系統的活動。在過去科學家們已經利用 適當簡化 過的模型來分析這些節點之間的功能性連接(functional connectivity)(Messé et al. 2015)、最短路徑的尋找及替代路徑的密度(Goñi et al. 2014)、拓樸相似度(Bettinardi et al. 2017)等等。

What did they do (method) 這篇論文做了什麼?

不過上面的研究並沒有把訊息傳遞的方向考慮進來，僅能透過相關係數與共變異數去推敲。這篇論文(Novelli et al. 2019)便是來填補方向相關的部分。轉移熵(Transfer entropy)剛好可以拿來探討這些節點之間的關係。假設我們有輸出端X跟接收端Y，在只知道Y過去的狀態而不知道X的狀態之下，我們需要花多少額外的力氣去預測Y接下來的狀態？作者們首先畫出一些基本網路式樣(圖一)，建立它們的向量自迴歸(Vector autoregressive)簡化模型；接着根據這些基本網路式樣，以它們作爲更大網路的積木，疊起來後測量它們的轉移熵，驗證理論值、測量值、簡化模型估測值之間的差異。

 圖一：用來測量轉移熵的基本網路式樣，從訊號輸出節點X到接收節點Y。

What did they find (result) 他們發現了什麼?

經過一些推導，他們發現從X到Y的「直接連接」僅能估測一部分的轉移熵；轉移熵隨著連到X的數量增加而增，反之隨着連到Y的數量增加而減(圖二)。此外它們(X → Y)的轉移熵也與它們的「共同訊源」或「非直接連接」成正比，如圖一的b, f, 跟g所示。作者們所建立的向量自迴歸模型(綠色折線)也可以比只看「直接連接」(紅色折線)更好的估測轉移熵的理論值(圖三)。

圖二：模擬得到的成對的轉移熵(Pairwise transfer entropy)。橫軸：接收節點的入邊數(指向Y的箭頭數)；縱軸：輸出節點的入邊數(指向X的箭頭數)

圖三：以rewiring probability爲變數所測得的轉移熵，使用Watts-Strogatz環型網路進行模擬。

What’s the impact (importance) 對我們有何影響?

這篇論文選擇的這些式樣，比起隨機連接網路更常被發現在生物的神經系統之中(Song et al. 2005)(Sporns and Kötter 2004)；事實上這也是Alex跟沛弦的研究主軸，我建議可以複習他們之前寫的文章。
過去的研究曾提出無尺度網路的特性及高度聚集的神經可以提供更強健的網路結構(Barabási and Albert 1999)(Albert, Jeong, and Barabási 2000)，這篇論文也從訊息理論的角度支持這個觀點。


撰文｜葉宸甫


參考資料

Albert, Réka, Hawoong Jeong, and Albert-László Barabási. 2000. “Error and Attack Tolerance of Complex Networks.” Nature 406 (6794): 378–82. https://doi.org/10.1038/35019019.

Barabási, Albert-László, and Réka Albert. 1999. “Emergence of Scaling in Random Networks.” Science 286 (5439): 509–12. https://doi.org/10.1126/science.286.5439.509.

Bettinardi, R. G., G. Deco, V. M. Karlaftis, T. J. Van Hartevelt, H. M. Fernandes, Z. Kourtzi, M. L. Kringelbach, and G. Zamora-López. 2017. “How Structure Sculpts Function: Unveiling the Contribution of Anatomical Connectivity to the Brain’s Spontaneous Correlation Structure.” Chaos: An Interdisciplinary Journal of Nonlinear Science 27 (4): 047409. https://doi.org/10.1063/1.4980099.

Goñi, Joaquín, Martijn P. van den Heuvel, Andrea Avena-Koenigsberger, Nieves Velez de Mendizabal, Richard F. Betzel, Alessandra Griffa, Patric Hagmann, Bernat Corominas-Murtra, Jean-Philippe Thiran, and Olaf Sporns. 2014. “Resting-Brain Functional Connectivity Predicted by Analytic Measures of Network Communication.” Proceedings of the National Academy of Sciences 111 (2): 833–38. https://doi.org/10.1073/pnas.1315529111.

Messé, Arnaud, David Rudrauf, Alain Giron, and Guillaume Marrelec. 2015. “Predicting Functional Connectivity from Structural Connectivity via Computational Models Using MRI: An Extensive Comparison Study.” NeuroImage 111 (May): 65–75. https://doi.org/10.1016/j.neuroimage.2015.02.001.

Novelli, Leonardo, Fatihcan M. Atay, Jürgen Jost, and Joseph T. Lizier. 2019. “Deriving Pairwise Transfer Entropy from Network Structure and Motifs.” arXiv:1911.02931 [Physics, Q-Bio], November. http://arxiv.org/abs/1911.02931.

Song, Sen, Per Jesper Sjöström, Markus Reigl, Sacha Nelson, and Dmitri B. Chklovskii. 2005. “Highly Nonrandom Features of Synaptic Connectivity in Local Cortical Circuits.” PLOS Biology 3 (3): e68. https://doi.org/10.1371/journal.pbio.0030068.

Sporns, Olaf, and Rolf Kötter. 2004. “Motifs in Brain Networks.” PLOS Biology 2 (11): e369. https://doi.org/10.1371/journal.pbio.0020369.