[論文レビュー] Upper and lower bounds for the mutual information in dynamical networks

Maurı́cio S. Baptista, R. M. Rubinger+4 more|arXiv (Cornell University)|Apr 18, 2011

Nonlinear Dynamics and Pattern Formation被引用数 2

ひとこと要約

本稿では、確率的計算に依存せずに、決定的または部分的に決定的な力学的ネットワークにおける相互情報量レート（MIR）の上限と下限を計算する手法を提案する。リャプノフ指数と相関次元といった、よく知られた力学的系の量を用いることで、情報交換の効率的推定が可能となり、カップリングされたマップや実験的オシレーター・ネットワークにおける同期と情報伝達の強い関連性が実証されている。

ABSTRACT

The amount of information exchanged per unit of time between two nodes in a dynamical network or between two data sets is a powerful concept for analysing complex systems. This quantity, known as the mutual information rate (MIR), is calculated from the mutual information, which is rigorously defined only for random systems. Moreover, the definition of mutual information is based on probabilities of significant events. This work offers a simple alternative way to calculate the MIR in dynamical (deterministic) networks or between two data sets (not fully deterministic), and to calculate its upper and lower bounds without having to calculate probabilities, but rather in terms of well known and well defined quantities in dynamical systems. As possible applications of our bounds, we study the relationship between synchronisation and the exchange of information in a system of two coupled maps and in experimental networks of coupled oscillators.

研究の動機と目的

• 従来の確率的定義が適用できない、決定的または部分的に決定的な力学的ネットワークにおける相互情報量レート（MIR）の推定手法を開発すること。
• まれな事象の確率推定を必要とせず、明確に定義された力学的系の量のみを用いて、MIRの上限と下限を提供すること。
• カップリングされたマップや実験的オシレーター・ネットワークを含む、複雑系における情報交換の分析のための実用的フレームワークを確立すること。
• 提案された境界を用いて、力学的ネットワークにおける同期と情報伝達の関係を調査すること。

提案手法

• 本手法は、系のアトラクタの最大リャプノフ指数や相関次元といった力学的不変量を用いて、MIRの境界を導出する。
• 位相空間内での軌道の幾何的および時間的性質に基づく境界によって、標準的な確率的定義の代わりに相互情報量を扱う。
• 上限は、系の発散率（リャプノフ指数）によって制約される、可能な最大情報フローに基づいて導出される。
• 下限は、相関次元と軌道の分離の時間スケールを用いて構築され、最小の識別可能な情報伝達を反映する。
• 本手法は、2つのカップリングされたロジスティック写像の系と、実験的オシレーター・ネットワークの両方で検証された。

実験結果

リサーチクエスチョン

• RQ1 まれな事象の確率推定に依存せずに、決定的力学的ネットワークにおける相互情報量レートをどのように境界化できるか。
• RQ2 提案されたMIR境界を用いて、カップリングされた力学的系における同期と情報交換の関係は、どのように定量的に評価できるか。
• RQ3 提案された境界は、実験的オシレーター・ネットワークにおける実世界の情報伝達を正確に反映できるか。
• RQ4 リャプノフ指数や相関次元といった力学的不変量は、複雑系における情報交換の限界とどのように関係するか。

主な発見

• 相互情報量レートの上限は、最大リャプノフ指数に比例し、近接する軌道の発散速度の最大率を反映している。
• 下限は、相関次元と軌道分離の特徴的な時間スケールによって決定され、最小の検出可能な情報フローを示している。
• カップリングされたマップ系では、境界が示すところ、情報交換は結合強度の増加に伴い増加し、同期の始まり付近でピークに達する。
• 実験的オシレーター・ネットワークでは、境界が観測された同期と強く相関しており、同期状態の間に高い情報伝達が発生していることを示唆している。