[論文レビュー] Complexity without chaos: Plasticity within random recurrent networks generates robust timing and motor control

Rodrigo Laje, Dean V. Buonomano|arXiv (Cornell University)|Oct 7, 2012

Neural dynamics and brain function参考文献 9被引用数 244

ひとこと要約

本論文は、ランダムな再帰的ネットワーク（RRNs）におけるカオス的ダイナミクスを安定化する教師あり学習ルールを提案し、タイミングおよび運動制御に不可欠な複雑で頑健な時空間パターンの生成を可能にしている。可塑性を導入することで、グローバルなカオスを排除しつつ局所的に安定した軌道を達成し、ノイズ耐性と運動パターン生成性能が著しく向上し、実験的神経可塑性データと整合的である。

ABSTRACT

It is widely accepted that the complex dynamics characteristic of recurrent neural circuits contributes in a fundamental manner to brain function. Progress has been slow in understanding and exploiting the computational power of recurrent dynamics for two main reasons: nonlinear recurrent networks often exhibit chaotic behavior and most known learning rules do not work in robust fashion in recurrent networks. Here we address both these problems by demonstrating how random recurrent networks (RRN) that initially exhibit chaotic dynamics can be tuned through a supervised learning rule to generate locally stable neural patterns of activity that are both complex and robust to noise. The outcome is a novel neural network regime that exhibits both transiently stable and chaotic trajectories. We further show that the recurrent learning rule dramatically increases the ability of RRNs to generate complex spatiotemporal motor patterns, and accounts for recent experimental data showing a decrease in neural variability in response to stimulus onset.

研究の動機と目的

• 再帰的ニューラルネットワークにおけるカオス的ダイナミクスの課題に取り組み、安定した計算と学習を妨げる要因を解消すること。
• 計算的複雑性を維持しつつ、カオス的RRNを安定化する学習ルールを開発すること。
• RRNにおける可塑性が、頑健でノイズ耐性のある時空間パターンを生成できることを実証すること。
• 神経ダイナミクスの理論的モデルと、刺激提示後に神経可塑性が低下するという実験的データを一致させること。

提案手法

• 初期段階でカオス的ダイナミクスを示すランダムな再帰的ネットワーク（RRNs）を用い、初期化時にランダムなシナプス重みを設定する。
• 教師あり学習ルールを適用してシナプス重みを調整し、全体の複雑性を保ちつつ一時的軌道を安定化させる。
• 学習ルールは、ターゲット出力パターンに基づいて重みを変更し、特定のネットワーク状態における局所的安定性を促進する。
• アトラクタのランドスケープ、軌道の安定性、ノイズ耐性メトリクスを用いてネットワークのダイナミクスを分析する。
• スパiking活動とパターン生成をシミュレートし、タイミングおよび運動制御タスクにおける性能を評価する。
• 神経可塑性に関する実験データと、シミュレートされたネットワーク応答を比較してモデルを検証する。

実験結果

リサーチクエスチョン

• RQ1 計算的複雑性を維持しつつ、学習ルールによってランダム再帰的ネットワークにおけるカオス的ダイナミクスを安定化させることは可能か？
• RQ2 RRNにおける可塑性が、ノイズに対する神経活動パターンの頑健性にどのように影響を与えるか？
• RQ3 可塑性を有するRRNは、生物学的システムに類似した複雑な時空間的運動パターンをどの程度正確に生成できるか？
• RQ4 このモデルは、刺激提示後に観察される神経可塑性の低下を説明できるか？

主な発見

• 学習ルールは、カオス的RRNを効果的に安定化させ、複雑なダイナミクスを維持しつつ局所的に安定した軌道を生成した。
• 安定化されたネットワークは、摂動に対してもパターンの忠実性を保持する高いノイズ耐性を示した。
• 可塑性を有するRRNは、非可塑性ネットワークに比べ、複雑で時間的に正確な時空間的運動パターンの生成において顕著に優れた性能を示した。
• モデルは、刺激提示後に神経可塑性が低下するという実験的観察を再現し、生体データと整合的であった。
• ネットワークのダイナミクスは、安定した軌道とカオス的軌道が共存するレジームに移行し、精度と柔軟性の両立を可能にした。