[論文レビュー] Neuronal networks and controlled symmetries, a generic framework

Léonard Gérard, Jean-Jacques Slotine|ArXiv.org|Dec 28, 2006

Neural dynamics and brain function参考文献 34被引用数 14

ひとこと要約

本稿は、入力の連続性を用いてニューロンネットワーク内の空間的および時空間的対称性を制御する汎用的なフレームワークを提示する。収縮理論を用いることで、強靭な同期化および多様な同期状態（polysynchrony）を保証する。収縮系が適切な計量を持つ場合、入力駆動ダイナミクスによって出力の対称性が強制され、系のヤコビアンおよび計量構造に対する緩い条件下で、指数的収束が対称部分空間へと保証される。

ABSTRACT

The extraordinary computational power of the brain may be related in part to the fact that each of the smaller neural networks that compose it can behave transiently in many different ways, depending on its inputs. Mathematically, input continuity helps to show how a large network, constructed recursively from smaller blocks, can exhibit robust specific properties according to its input. By extending earlier work on synchrony and symmetry, we exploit input continuity of contracting systems to ensure robust control of diverse spatial and spatio-temporal symmetries of the output signal in such a network.

研究の動機と目的

• 入力駆動ダイナミクスを用いて、ニューロンネットワーク内の空間的および時空間的対称性を制御する汎用的フレームワークを開発すること。
• 神経ネットワークが入力依存の一時的挙動を通じて行動の多様性を達成しつつも、安定性を維持する仕組みを解明すること。
• 入力連続性と収縮理論の間の明示的関係を形式化し、非線形力学系における強靭な対称性制御を実現すること。
• 収縮計量およびリー連続対称性を活用することで、既存の同期および多様な同期に関する結果を拡張すること。
• ニューラルネットワークモデルにおける対称部分空間への収束を数学的に厳密に保証する手法を提供すること。

提案手法

• 本稿は収縮理論を用いて、非線形力学系における軌道の指数的収束を、望ましい対称部分空間へ分析する。
• 収縮を決定するための一般化されたヤコビアン行列 $ F = \left(\frac{d\theta}{dt} + \theta \frac{\partial f}{\partial x}\right) \theta^{-1} $ を用いる。ここで $ \theta $ は時変変換行列である。
• 全域的指数的安定性および摂動に対するロバストネスを保証するため、収縮計量 $ M(x,t) = \theta^T \theta $ を用いる。
• フレームワークは [24] の定理2を適用して、線形かつ流れ不変部分空間 $ \mathcal{M} $ への収縮を証明する。部分空間は射影行列 $ V $ を用いて定義される。
• 循環行列構造を活用して対称系を分析し、系行列の固有値 $ \mu_j' $ が同期への収束を決定づける。
• 部分等長変換および行列変換を用いて、部分空間への射影においても収縮性質を保つ。これにより、対称性制約下でもロバストネスが保証される。

実験結果

リサーチクエスチョン

• RQ1 非線形ニューロンネットワークにおける入力連続性は、安定性を維持したまま多様な一時的挙動を生成するためにどのように活用可能か？
• RQ2 外部入力下で、ネットワークの出力が制御可能な空間的または時空間的対称性を示すために必要な条件は何か？
• RQ3 収縮理論を用いて、最小限の入力影響のもとでニューロンネットワークの対称部分空間への収束を形式的に保証できるか？
• RQ4 リー連続対称性および循環構造は、神経系における同期および多様な同期の出現とどのように関係するか？
• RQ5 一般化されたヤコビアン $ F $ および収縮計量 $ M $ は、強靭な対称性制御を保証するために果たす役割は何か？

主な発見

• 一般化されたヤコビアン $ F $ が一様に負定値である場合、系は一意の軌道へ全域的指数的収束を示し、ロバストネスおよび安定性が保証される。
• 射影系 $ \dot{y} = Vf(V^T y, t) $ が定数計量に関して収縮する限り、対称部分空間 $ \mathcal{M} $ への収縮が保証される。
• 循環系では、系行列の非ゼロ固有値 $ \mu_j' $ 全てが負であるとき、すべての同期状態への指数的収束が成立する。これは $ j = 1, \dots, n'-1 $ に対して $ \lambda_j' < 0 $ と同値である。
• フレームワークは、入力連続性を介して出力の対称性を保持・制御でき、微小な摂動やダイナミクスの変動に対しても有効である。
• 部分等長変換および行列変換の使用により、部分空間上での有効な収縮計量の構築が可能となり、対称性制約下でも収縮性質が保持される。
• 本手法はロバストかつ一般化可能であり、連続時間および離散時間系に適用可能であり、ハイブリッド系および階層的ネットワーク構造へも拡張可能である。