[論文レビュー] Parameter and hidden-state inference in mean-field models from partial observations of finite-size neural networks

Irmantas Ratas, K. Pyragas|arXiv (Cornell University)|Feb 10, 2026

Neural Networks and Reservoir Computing被引用数 0

ひとこと要約

論文は、同期化に基づく手法を用いて、有限サイズニューラルネットワークの単一の観測された大規模系時系列から平均場モデルのパラメータを推定し、隠れたマクロ変数を再構成する differential-evolution ベースの枠組みを提案する。

ABSTRACT

We study large but finite neural networks that, in the thermodynamic limit, admit an exact low-dimensional mean-field description. We assume that the governing mean-field equations describing macroscopic quantities such as the mean firing rate or mean membrane potential are known, while their parameters are not. Moreover, only a single scalar macroscopic observable from the finite network is assumed to be measurable. Using time-series data of this observable, we infer the unknown parameters of the mean-field equations and reconstruct the dynamics of unobserved (hidden) macroscopic variables. Parameter estimation is carried out using the differential evolution algorithm. To remove the dependence of the loss function on the unknown initial conditions of the hidden variables, we synchronize the mean-field model with the finite network throughout the optimization process. We demonstrate the methodology on two networks of quadratic integrate-and-fire neurons: one exhibiting periodic collective oscillations and another displaying chaotic collective dynamics. In both cases, the parameters are recovered with relative errors below $1\%$ for network sizes exceeding 1000 neurons.

研究の動機と目的

• 有限サイズのニューラルネットワークの部分観測から既知の平均場方程式のパラメータを推定する。
• 観測されていない（隠れた）マクロ変数のダイナミクスを再構成する。
• 最適化中の未知初期条件への依存を排除するための同期化に基づく戦略を開発する。
• ネットワークサイズ間で有限サイズ効果がパラメータ推定精度に与える影響を評価する。

提案手法

• 観測時点に対する平均場軌道に対して損失関数 L を最小化する形でパラメータ推定を定式化する。
• 未知初期条件への依存を排除するための2つの同期化ベース手法（非侵襲と侵襲）を用いる。
• 非侵襲法ではマスター-スレーブ結合を用いて平均場モデルを観測軌道へと導く。
• 侵襲法では周期的外部電流を適用して Arnold tongues による同期化を達成する。
• パラメータに対してグローバル最適化を行うために best1bin 戦略を用いた differential evolution (DE) を用いる。
• このフレームワークを検証するために、二次積分-発火 (QIF) ニューロンのネットワーク（QIF-IN および QIF-AD）を用いる。

Figure 1: Inference of mean-field model parameters from chaotic time series of mean membrane potential observed in QIF-IN networks of different sizes. Box plots visualize the statistics of relative deviations of inferred parameters from their actual values used in the QIF-IN microscopic network mode

実験結果

リサーチクエスチョン

• RQ1 既知の平均場モデルのパラメータは、有限サイズのニューラルネットワークの部分観測から正確に推定できるか。
• RQ2 限られたスカラー観測から隠れたマクロ変数のダイナミクスを再構成できるか。
• RQ3 有限サイズゆらぎはネットワークサイズが大きくなるにつれてパラメータ推定精度にどのような影響を与えるか。
• RQ4 どの同期化アプローチ（非侵襲 vs 侵襲）がより頑健なパラメータ復元を提供するか。
• RQ5 この推定タスクにおいて differential evolution は効果的な最適化手法か。

主な発見

• ネットワークサイズ N ≧ 1000 で、QIF-IN（周期的）および QIF-AD（カオス）ネットワークのいずれにおいてもパラメータ推定の相対誤差が 1% 未満に達する。
• 有限サイズノイズが低減するにつれて推定精度と損失の最小値が向上する。
• 単一のマクロ観測可能量から推定されたパラメータを用いて、未観測のマクロ変数（QIF-IN の R と S；QIF-AD の R と A）を遷移後に再構成できる。
• 侵襲的同期化は一般に非侵襲同期化よりパラメータ誤差のばらつきがわずかに小さくなる。
• この非線形・高次元の推定問題において、DE は他の最適化手法より精度と収束速度で上回る。

Figure 2: Box plot of the loss function minima for different sizes of the QIF-IN network. Noninvasive and invasive methods are represented in blue and red colors, respectively. The parameter values are given in the caption of Fig. 1 and in Tab. 1 .