如何讓 ESN 擁有估計機率分佈的能力

迴聲狀態網路(Echo State Networks, ESNs)以其極低的訓練成本與優異的非線性動態處理能力著稱。但在處理具雜訊的時間序列時,ESN 存在一個缺陷,就是它只能輸出單一個「點估計(Point-estimate)」,無法向系統回報「這個預測的誤差風險」。

近期墨西哥國立理工學院與中國西安科大(Zhang et al. 2026)提出的貝氏迴聲狀態網路(BN-ESN)試圖為這個問題提供解決方案。作者保留了 ESN 內部未經訓練、具備短期記憶的儲存池(Resevoir),並將改造集中於讀取層(Readout Layer)。

與「尋找最佳權重矩陣」不同,BN-ESN 透過變分推斷(Variational Inference)與最大化證據下界(ELBO),為權重引入了常態分佈先驗(Gaussian priors)。在推論階段,透過蒙地卡羅採樣(Monte Carlo sampling),網路會對同一個狀態產生一組預測群體(Ensemble)。其中,採樣結果的平均值(Mean)作為最終預測,而採樣結果的變異數(Variance/95% CI)則建構出信心區間。

過去雖然也有將機率模型結合 ESN 的嘗試(例如 BS-ESN 或是高斯過程 GP-ESN),但 BN-ESN 在多項標準混沌時間序列(如 Mackey-Glass 系統與多重疊加振盪器 MSO)的測試中,展現了顯著的提昇:1. 在保有不確定性估計能力的同時,BN-ESN 在 MSO 任務中的均方根誤差(RMSE)顯著低於傳統的 BS-ESN 與其他變形模型。2. 在評估預測區間(Prediction Interval, PI)的表現時,BN-ESN 能夠在維持極高覆蓋率(PICP)的前提下,給出比對手更窄的區間寬度(MPIW)。這代表它的「不確定性估計」非常精確,不會為了包容誤差而給出過於寬鬆的範圍。

BN-ESN 的表現說明了我們可以在不破壞 Reservoir 高效非線性動態的前提下,透過讀取層的貝氏化,讓模型具備量化風險的能力。在實務應用上(例如論文中測試的風速預測),這種具備可靠信心區間的架構將為未來提供更穩健的 ESN 基礎。


撰文:葉宸甫


參考文章:Zhang, Zhaozhao, Fangrui Zhang, Kang Li, and Yingqin Zhu. (2026) “Bayesian Echo State Networks for Uncertainty Estimation in Dynamic Systems.” In 2026 2nd International Conference on Electrical Automation and Artificial Intelligence (ICEAAI), 1129–32. https://doi.org/10.1109/ICEAAI68945.2026.11442559.

留言