[論文レビュー] Noise dynamically suppresses chaos in random neural networks

Sven Goedeke, Jannis Schuecker+1 more|arXiv (Cornell University)|Mar 6, 2016

Neural Networks and Applications被引用数 3

ひとこと要約

この論文は、追加の白色雑音が、従来の安定性解析で予測されるよりも著しく高い結合強度で混沌の発生を遅らせる動的抑制を、無作為に結合されたニューラルネットワークにおいて示している。ダイナミカル平均場理論を用いて、混沌への遷移の正確な条件を導出し、雑音が拡張的ダイナミクスと安定した長期的挙動の共存を可能にし、時間相関が臨界結合強度のわずか上でのピークを示すことを示している。

ABSTRACT

Noise is ubiquitous in neural systems due to intrinsic stochasticity or external drive. For deterministic dynamics, randomly coupled neural networks display a transition to chaos at a critical coupling strength. Here, we investigate the effect of additive white noise on the onset of chaos. We develop the dynamical mean-field theory yielding the statistics of the activity and the maximum Lyapunov exponent. An exact condition determines the transition from stable to chaotic dynamics. Noise suppresses chaos by a dynamic mechanism, shifting the transition to significantly larger coupling strengths than predicted by local stability analysis. A regime emerges, where expansive dynamics and stable long-term behavior coexist. Furthermore, the time scale of the temporal correlations does not diverge at the transition, but peaks slightly above the critical coupling strength.

研究の動機と目的

• 追加の白色雑音が無作為に結合されたニューラルネットワークにおける混沌の発生に与える影響を理解すること。
• 神経活動の統計と雑音下での最大リャプノフ指数を捉えるダイナミカル平均場理論を構築すること。
• 雑音が存在する状況での安定から混沌への遷移の正確な条件を特定すること。
• 局所的安定性解析が不安定性を予測するにもかかわらず、雑音が混沌としての挙動を示すシステムを安定化させうるかどうかを調査すること。
• 雑音条件下での遷移点付近における時間相関時間スケールの挙動を検討すること。

提案手法

• 著者らは、追加の白色雑音下での大規模な無作為ネットワークにおける神経活動の統計的性質を解析的に記述するために、ダイナミカル平均場理論を用いる。
• 安定性と混沌の評価のため、結合強度と雑音強度の関数として最大リャプノフ指数を導出する。
• 理論を用いて、局所線形安定性解析を超える有効な範囲で、安定から混沌への遷移の正確な解析的条件を導出する。
• 理論は神経ダイナミクスの非線形性と雑音の確率的性質を考慮し、システム挙動のグローバルな特徴付けを可能にする。
• 理論は、臨界結合強度よりもわずかに高いところで時間相関時間スケールのピークを予測する。

実験結果

リサーチクエスチョン

• RQ1 追加の白色雑音は、ランダムニューラルネットワークにおける混沌の発生臨界結合強度にどのように影響するか？
• RQ2 雑音が拡張的ダイナミクスと安定した長期的挙動の共存を誘発する状態を生じうるか？
• RQ3 混沌への遷移において、時間相関時間スケールは発散するのか、それとも臨界点付近でピークを示すのか？
• RQ4 ダイナミカル平均場理論は、有限サイズだが大規模なニューラルネットワークにおける雑音、結合強度、混沌の相互作用をどのように捉えているか？
• RQ5 雑音が存在する場合の混沌への遷移の正確な条件は何か？ また、局所的安定性解析に基づく予測とはどのように異なるか？

主な発見

• 雑音は、局所的安定性解析で予測されるよりも著しく高い結合強度で混沌の発生を遅らせる動的抑制を実現する。
• 拡張的ダイナミクスと長期的安定性が共存する安定した領域が、雑音の存在によって生じる。
• 決定論的臨界点を過ぎた結合強度に対しても、最大リャプノフ指数は負のままであり、雑音下での持続的安定性を示している。
• 時間相関時間スケールは遷移点で発散せず、むしろ臨界結合強度のわずか上でのピークを示している。
• 混沌への遷移の正確な条件が解析的に導出され、雑音強度とネットワーク結合強度の両方に依存している。
• ダイナミカル平均場理論は、混沌を抑制する非自明な雑音、非線形性、ネットワーク構造の相互作用を的確に捉えている。