跳到主要內容

發表文章

精選

如何讓 ESN 擁有估計機率分佈的能力

迴聲狀態網路(Echo State Networks, ESNs)以其極低的訓練成本與優異的非線性動態處理能力著稱。但在處理具雜訊的時間序列時,ESN 存在一個缺陷,就是它只能輸出單一個「點估計(Point-estimate)」,無法向系統回報「這個預測的誤差風險」。 近期墨西哥國立理工學院與中國西安科大(Zhang et al. 2026)提出的貝氏迴聲狀態網路(BN-ESN)試圖為這個問題提供解決方案。作者保留了 ESN 內部未經訓練、具備短期記憶的儲存池(Resevoir),並將改造集中於讀取層(Readout Layer)。 與「尋找最佳權重矩陣」不同,BN-ESN 透過變分推斷(Variational Inference)與最大化證據下界(ELBO),為權重引入了常態分佈先驗(Gaussian priors)。在推論階段,透過蒙地卡羅採樣(Monte Carlo sampling),網路會對同一個狀態產生一組預測群體(Ensemble)。其中,採樣結果的平均值(Mean)作為最終預測,而採樣結果的變異數(Variance/95% CI)則建構出信心區間。 過去雖然也有將機率模型結合 ESN 的嘗試(例如 BS-ESN 或是高斯過程 GP-ESN),但 BN-ESN 在多項標準混沌時間序列(如 Mackey-Glass 系統與多重疊加振盪器 MSO)的測試中,展現了顯著的提昇:1. 在保有不確定性估計能力的同時,BN-ESN 在 MSO 任務中的均方根誤差(RMSE)顯著低於傳統的 BS-ESN 與其他變形模型。2. 在評估預測區間(Prediction Interval, PI)的表現時,BN-ESN 能夠在維持極高覆蓋率(PICP)的前提下,給出比對手更窄的區間寬度(MPIW)。這代表它的「不確定性估計」非常精確,不會為了包容誤差而給出過於寬鬆的範圍。 BN-ESN 的表現說明了我們可以在不破壞 Reservoir 高效非線性動態的前提下,透過讀取層的貝氏化,讓模型具備量化風險的能力。在實務應用上(例如論文中測試的風速預測),這種具備可靠信心區間的架構將為未來提供更穩健的 ESN 基礎。 撰文:葉宸甫 參考文章:Zhang, Zhaozhao, Fangrui Zhang, Kang Li, and Yingqin Zhu. (2026) “Bayesi...

最新文章

果蠅如何在風中找到方向:中央複合體、PFN神經元與一場主動製造答案的飛行

看不見就聞不到:果蠅飛行氣味追蹤背後的視覺記憶機制

把果蠅變成「活體微型機器人」:小小昆蟲,如何被引導寫字、走迷宮、搬貨?

沒有硬碟的大腦,如何倒帶記憶?R2N2 用「神經時光機」學會一次經驗

透過人腦引導監督實現大型模型的認知泛化

打造大腦內建的「環景雷達」:科學家揭開我們如何僅憑「眼前所見」,就學會感知「身後」的牆

「當你讀取我的思考,是否能重現我的體驗」類腦運算的逆向工程 - ESN 的無需標籤輸入重構

替大腦打造數位孿生,人工智慧如何破解視覺神經的運作之謎?

超越光影:恐懼如何重塑晝夜節律鐘及其對創傷後壓力症候群的意義

果蠅如何「用觸角看世界」?——多感官整合的飛行祕密