[論文レビュー] Time Resolution Dependence of Information Measures for Spiking Neurons: Atoms, Scaling, and Universality

Sarah Marzen, Michael R. DeWeese+1 more|arXiv (Cornell University)|Apr 18, 2015

Neural dynamics and brain function被引用数 5

ひとこと要約

本稿は、スパイクニューロンにおける情報理論的指標—エントロピー率、統計的複雑性、余剰エントロピー—が時間分解能にどのように依存するかを調査し、そのスケーリング特性が隣接スパイク間隔の相関を露にすることを明らかにした。積分・放電ニューロンにおいて、余剰エントロピーと正則化された統計的複雑性は連続時間極限において普遍的になることが示され、特定の生物学的メカニズムに依存せず、スパイク間隔の変動係数にのみ依存することが分かった。

ABSTRACT

The mutual information between stimulus and spike-train response is commonly used to monitor neural coding efficiency, but neuronal computation broadly conceived requires more refined and targeted information measures of input-output joint processes. A first step towards that larger goal is to develop information measures for individual output processes, including information generation (entropy rate), stored information (statistical complexity), predictable information (excess entropy), and active information accumulation (bound information rate). We calculate these for spike trains generated by a variety of noise-driven integrate-and-fire neurons as a function of time resolution and for alternating renewal processes. We show that their time-resolution dependence reveals coarse-grained structural properties of interspike interval statistics; e.g., $τ$-entropy rates that diverge less quickly than the firing rate indicate interspike interval correlations. We also find evidence that the excess entropy and regularized statistical complexity of different types of integrate-and-fire neurons are universal in the continuous-time limit in the sense that they do not depend on mechanism details. This suggests a surprising simplicity in the spike trains generated by these model neurons. Interestingly, neurons with gamma-distributed ISIs and neurons whose spike trains are alternating renewal processes do not fall into the same universality class. These results lead to two conclusions. First, the dependence of information measures on time resolution reveals mechanistic details about spike train generation. Second, information measures can be used as model selection tools for analyzing spike train processes.

研究の動機と目的

• スパイク列の情報理論的指標が時間分解能にどのように変化するか、特にサブミリ秒領域における挙動を理解すること。
• 余剰エントロピー や 統計的複雑性 といった特定の情報指標が、連続時間極限においてモデル固有のパラメータに依存しなくなるかどうかを同定すること。
• ガンマ分布に従うISIと交互再生過程を含む異なるスパイク列統計が、同じ普遍性クラスに属するかどうかを特定すること。
• 時間分解能スケーリングを神経符号化におけるモデル選択および機構推論のツールとして用いること。
• 情報理論を用いた微細時刻スケール神経通信の解析における概念的・計算的課題を明確にすること。

提案手法

• ノイズ駆動の積分・放電ニューロンが生成するスパイク列に対して、エントロピー率、統計的複雑性、余剰エントロピー、境界情報レートを計算する。
• 再生過程および交互再生過程をモデルとして用い、これらの指標の時間分解能依存性を分析する。
• Δt → 0 の極限における漸近的解析を適用し、情報指標の普遍的スケーリング則を導出する。
• 変数変換技術を用いて、平均発火レート μ のスケーリングに対して主要な指標が不変であることを示し、それらが変動係数 $C_V$ のみに依存することを証明する。
• スパイク間隔の累積分布関数 $\Phi(t)$ および確率密度関数 $\phi(t)$ を含む積分表現を用いて、情報理論的量を計算する。
• 解析的表現を導出し、$\lim_{\Delta t \to 0} C_\mu(\Delta t) + \log_2(\mu\Delta t)$ や関連量を明らかにすることで、普遍性を解明する。

実験結果

リサーチクエスチョン

• RQ1 情報指標の時間分解能依存性は、スパイク間隔統計の構造的性質をどのように露にしているか？
• RQ2 積分・放電ニューロンの余剰エントロピーと統計的複雑性は、連続時間極限においてモデル固有パラメータに依存せず普遍的になるか？
• RQ3 ガンマ分布に従うISIと交互再生過程を有するニューロンは、同じ普遍性クラスに属するか？
• RQ4 スパイク間隔相関（$C_V$ で測定）は、情報指標のスケーリングに果たす役割は何か？
• RQ5 情報理論的指標は、時間分解能の挙動に基づいてスパイク列過程のモデル選択ツールとして機能できるか？

主な発見

• エントロピー率 $h_\mu(\Delta t)$ と余剰エントロピー $E(\Delta t)$ は時間分解能に従ってスケーリングされ、その発散挙動がスパイク間隔の相関を露にしている：$\log_2(\mu\Delta t)$ よりも遅い発散は相関を示唆する。
• 余剰エントロピーと正則化された統計的複雑性は連続時間極限において普遍的であり、スパイク間隔の変動係数 $C_V$ にのみ依存し、特定の積分・放電メカニズムには依存しない。
• 2パラメータISI族において、$\lim_{\Delta t \to 0} C_\mu(\Delta t) + \log_2(\mu\Delta t)$ は $C_V$ のみに依存し、平均発火レート $\mu$ には依存しない。
• $C_V \to 0$ のとき、余剰エントロピー $E$ は $\log_2(1/C_V)$ と対数的に発散し、ほぼ周期的なスパイク列と整合的である。
• 境界情報レート $b_\mu(\Delta t)/\Delta t$ は $C_V \to 0$ のとき $1/(2C_V^2)$ のように発散し、ほぼ周期的な列の予測可能性の増加を示唆する。
• 最小の $C_\mu(\Delta t)$ は周期的スパイク列で達成され、$\Delta t \to 0$ のとき $C_\mu(\Delta t) \to \log_2(1/\mu\Delta t)$ となる。これは理論的下限を確認する。