[論文レビュー] Randomly coupled differential equations with correlations

László Erdős, Torben Krüger+1 more|arXiv (Cornell University)|Aug 14, 2019

Quantum many-body systems参考文献 14被引用数 4

ひとこと要約

本稿は、無作為に結合された相関係数を有する大規模線形微分方程式系の長時間挙動を分析する。解析関数のランダム行列およびその随伴行列の漸近的に正確なトレース公式を用いて、非対称接続性を有するニューラルネットワークモデルにおける時間減衰率を厳密に導出し、従来の独立係数に限った結果を相関構造の一般化によって拡張する。

ABSTRACT

We consider the long time asymptotic behavior of a large system of $N$ linear differential equations with random coefficients. We allow for general correlation structures c among the coefficients, thus we substantially generalize our previous work [14] that was restricted to the independent case. In particular, we analyze a recent model in the theory of neural networks [26] that specifically focused on the effect of the distributional asymmetry in the random connectivity matrix $X$. We rigorously prove and slightly correct the explicit formula from [27] on the time decay as a function of the asymmetry parameter. Our main tool is an asymptotically precise formula for the normalized trace of $f(X) g(X^*)$, in the large $N$ limit, where $f$ and $g$ are analytic functions.

研究の動機と目的

• 従来の無相関ランダム係数に関する結果を、一般の相関構造へと大規模線形微分方程式系に拡張すること。
• 最近の理論的研究で取り上げられた非対称接続行列を有するニューラルネットワークモデルにおける時間減衰挙動を厳密に分析すること。
• 文献[27]で以前に提案された、非対称性関数としての明示的減衰率公式を是正・検証すること。
• 一般の相関構造を有するランダム行列集合に適用可能な、大N極限におけるf(X)g(X*)の正規化トレースの一般漸近公式の構築

提案手法

• 一般の相関構造を有する大規模ランダム行列Xに対して、f(X)g(X*)の正規化トレースの漸近的に正確な公式を導出する。
• 解析関数fおよびgに対して複素解析的手法を適用し、相関ランダム行列の固有値特性を活用する。
• 大N極限を用いて系のダイナミクスを近似し、時間経過に伴う解の減衰に注目する。
• 従来の研究[14]で取り上げられた独立係数の場合に限らない、一般の相関構造を許容するトレース公式の一般化。
• トレース漸近展開を用いて、文献[27]の減衰率公式を第一原理から導出し、是正する。

実験結果

リサーチクエスチョン

• RQ1 大規模線形微分方程式系の解の時間減衰は、ランダム係数の相関構造にどのように依存するか？
• RQ2 大N極限における相関ランダム行列に対して、f(X)g(X*)の正規化トレースの正確な漸近的挙動は何か？
• RQ3 接続行列の非対称性は、ニューラルネットワークモデルにおける長時間ダイナミクスにどのように影響するか？
• RQ4 文献[27]で提案された明示的減衰率公式は、ランダム行列理論を用いて厳密に導出可能かつ是正可能か？

主な発見

• 本稿は、一般の相関構造に対して有効な大N極限におけるf(X)g(X*)の正規化トレースの漸近的に正確な公式を導出する。
• 文献[27]の時間減衰率公式を厳密に証明し、わずかに是正し、減衰が接続行列の非対称性パラメータに明示的に依存することを示す。
• 導出された公式は、従来の独立係数に限った結果を一般化し、任意の相関構造を扱えるように拡張する。
• 本手法により、非対称なランダム接続性を有するニューラルネットワークモデルにおける長時間挙動を正確に予測可能となり、以前のヒューリスティックな導出における不一致を解消する。