[論文レビュー] A Large Deviation Principle and an Analytical Expression of the Rate Function for a Discrete Stationary Gaussian Process

Olivier Faugeras, James MacLaurin|arXiv (Cornell University)|Nov 18, 2013

Gene Regulatory Network Analysis被引用数 4

ひとこと要約

この論文は、ガウス型相関を持つシナプス感受性を持つ大規模な相互作用ニューロンネットワークにおける軌道の経験的測度について、大偏差原理を確立する。レート関数が一意のグローバル最小値を持つことを証明し、制限法則を変換された軌道空間上の定常ガウス測度の像として特徴づける。これにより、無限大ニューロンネットワークの厳密な漸近的記述が得られる。

ABSTRACT

We study the asymptotic law of a network of interacting neurons when the number of neurons becomes infinite. Given a completely connected network of neurons in which the synaptic weights are Gaussian correlated random variables, we describe the asymptotic law of the network when the number of neurons goes to infinity. We introduce the process-level empirical measure of the trajectories of the solutions to the equations of the finite network of neurons and the averaged law (with respect to the synaptic weights) of the trajectories of the solutions to the equations of the network of neurons. The main result of this article is that the image law through the empirical measure satisfies a large deviation principle with a good rate function which is shown to have a unique global minimum. Our analysis of the rate function allows us also to characterize the limit measure as the image of a stationary Gaussian measure defined on a transformed set of trajectories.

研究の動機と目的

• ニューロン数が無限大に近づく際の有限ネットワークの漸近的挙動を分析すること。
• ニューロン軌道のプロセスレベル経験的測度に対する大偏差原理（LDP）を導出すること。
• ネットワークの制限法則を変換された軌道空間上の定常ガウス測度の像として特徴づけること。
• LDPのレート関数が一意のグローバル最小化子を持つことを示し、一意の平衡測度への収束を保証すること。

提案手法

• 有限ネットワーク方程式の解から得られる軌道のプロセスレベル経験的測度を定義する。
• quenched シナプス感受性に対する軌道の平均化法則を導入する。
• 経験的測度写像下での平均化法則の像に大偏差理論を適用する。
• 変分的および関数解析的技法を用いて、得られたLDPのレート関数を分析する。
• レート関数の一意のグローバル最小化子を、変換された軌道空間上での定常ガウス過程の像として特徴づける。
• ガウス過程の構造と相関性質を用いて、制限測度の明示的形を導出する。

実験結果

リサーチクエスチョン

• RQ1 ガウス型シナプス感受性を持つ大規模かつ完全に接続されたネットワークにおけるニューロン軌道の経験的測度は、大偏差原理を満たすか？
• RQ2 ネットワーク軌道の大偏差挙動を支配するレート関数の構造は何か？
• RQ3 レート関数は一意のグローバル最小化子を有するか？ その場合、制限法則にどのような意味があるか？
• RQ4 制限測度は、変換下での定常ガウス過程の像として表現可能か？

主な発見

• 経験的測度の像法則は、良いレート関数を持つ大偏差原理を満たす。
• レート関数は一意のグローバル最小化子を持つため、一意の制限測度への収束が保証される。
• 制限測度は、変換された軌道空間上での定常ガウス測度の像として特徴づけられる。
• レート関数の構造は解析的に取り扱え、シナプス感受性の相関構造によって完全に決定される。
• 相関のあるシナプスを持つ無限大ニューロンネットワークの非自明な漸近的記述が得られる。