[論文レビュー] Towards an extended taxonomy of information dynamics via Integrated Information Decomposition

Pedro A. M. Mediano, Fernando E. Rosas+5 more|arXiv (Cornell University)|Sep 27, 2021

Complex Systems and Time Series Analysis参考文献 63被引用数 43

ひとこと要約

この論文はIntegrated Information Decomposition (ΦID) を紹介します。これはPIDとIITの拡張で、多変量時系列の過去と未来にまたがる情報ダイナミクスを分解し、新しい情報フローのモードを明らかにし、さまざまな情報理論的指標を調和させます。

ABSTRACT

Complex systems, from the human brain to the global economy, are made of multiple elements that interact in such ways that the behaviour of the `whole' often seems to be more than what is readily explainable in terms of the `sum of the parts.' Our ability to understand and control these systems remains limited, one reason being that we still don't know how best to describe -- and quantify -- the higher-order dynamical interactions that characterise their complexity. To address this limitation, we combine principles from the theories of Information Decomposition and Integrated Information into what we call Integrated Information Decomposition, or $Φ$ID. $Φ$ID provides a comprehensive framework to reason about, evaluate, and understand the information dynamics of complex multivariate systems. $Φ$ID reveals the existence of previously unreported modes of collective information flow, providing tools to express well-known measures of information transfer and dynamical complexity as aggregates of these modes. Via computational and empirical examples, we demonstrate that $Φ$ID extends our explanatory power beyond traditional causal discovery methods -- with profound implications for the study of complex systems across disciplines.

研究の動機と目的

• ペアワイズ因果性と単一ターゲット分解を超えた、より豊かな情報ダイナミクス分類の必要性を動機づける。
• マルチ変量時系列の過去と未来にまたがる情報フローを分解するIntegrated Information Decomposition (ΦID) フレームワークを導入する。
• ΦID がPIDとIntegrated Information の概念を統一・拡張し、新しい情報ダイナミクスのモードを明らかにする方法。
• 神経科学と生理学における理論分析と計算/経験的例を通じて ΦID の実用性を示す。

提案手法

• ΦID の原子を過去から未来へと進化するPID 原子の対として定義し、2 時系列系に対して16原子格子を生み出す。
• 16 の ΦID 原子に対して未定数の15方程式系を拘束する二重冗長性関数を導入する。
• 情報ダイナミクスを特徴づける六原子の分類法(Storage, Copy, Transfer, Erasure, Downward Causation, Upward Causation)を説明する。
• 標準的な指標 (AIS, TE, CD, ΦWMS) を ΦID 原子に分解して、捉える内容の定性的な違いを明らかにする。
• 単純な例（copy, XOR, parity-preserving）を提供して、同一の総合的な統合性にもかかわらず異なる ΦID の署名を示す。
• ΦID を模擬的な全脳活動（Dynamic Mean Field model）と実データの心–肺データ（Fantasia）に適用して、実用的な有用性を実証する。

実験結果

リサーチクエスチョン

• RQ1 過去と未来に情報を分解したとき、マルチ変量時系列系にはどんな質的に異なる情報ダイナミクスのモードが存在するのか？
• RQ2 既存の統合と情報転送の指標は ΦID の原子にどうマッピングされ、なぜ時に矛盾する解釈を生み出すのか？
• RQ3 ΦID は負の ΦWMS 値や因果密度のような指標での二重計数問題を説明できるのか？
• RQ4 ΦID の分解は神経科学と生理学の実データ（例：全脳モデルや心–呼吸相互作用）にどんな洞察をもたらすのか？

主な発見

• ΦID は過去の情報原子が二つの時系列の未来の原子へどのように発展するかを追跡する16原子情報分解格子を明らかにする。
• このフレームワークは標準的な指標（例：ΦWMS, CD, TE）が ΦID 原子の異なる組み合わせに対応しており、経験的挙動の一貫性のなさを説明する。
• TE は複数の ΦID 用語に分解され、真の転送項 Un1→Un2 を分離し、二重計数の問題（例：Syn→Red）を明らかにする。
• ΦWMS の負値は二重計数の冗長性によって説明できる；改訂指標 ΦR はこの問題を緩和できる。
• Dynamic Mean Field 脳モデルでは、ΦWMS は転換領域の近くで低下することがあるが、ΦR は正の値を保ち、ピークに達して意識様状態での結合性の増加と一致する。
• 実データの心–呼吸転送は心から呼吸へおよび呼吸から心への両方向でΦID 分解が見られ、TE のみよりもニュアンスのある解釈を提供する。