[論文レビュー] On Data-Driven Computation of Information Transfer for Causal Inference in Dynamical Systems

Subhrajit Sinha, Umesh Vaidya|arXiv (Cornell University)|Mar 22, 2018

Model Reduction and Neural Networks参考文献 18被引用数 5

ひとこと要約

本稿では、KoopmanおよびPerron-Frobenius作用素を用いて、従来の測定法（例：Granger因果）が失敗する場合でも、正確な因果推論を可能にするデータ駆動型手法を提案する。この手法は、ノイズを含む時系列データから転送作用素を近似する、耐ノイズ性の高い自然構造的動的モード分解（NSDMD）アルゴリズムを用い、線形および非線形システムの両方において真の因果構造を的確に同定する。特に、標準的手法が誤って双方向因果を推定する状況でも効果を発揮する。

ABSTRACT

In this paper, we provide a novel approach to capture causal interaction in a dynamical system from time-series data. In \cite{sinha_IT_CDC2016}, we have shown that the existing measures of information transfer, namely directed information, granger causality and transfer entropy fail to capture true causal interaction in dynamical system and proposed a new definition of information transfer that captures true causal interaction. The main contribution of this paper is to show that the proposed definition of information transfer in \cite{sinha_IT_CDC2016}\cite{sinha_IT_ICC} can be computed from time-series data. We use transfer operator theoretic framework involving Perron-Frobenius and Koopman operators for the data-driven approximation of the system dynamics and for the computation of information transfer. Several examples involving linear and nonlinear system dynamics are presented to verify the efficiency of the developed algorithm.

研究の動機と目的

• 従来の因果測定法（例：Granger因果、指向的情報量、転送エントロピー）が、単純な線形ケースですら因果構造を正しく同定できない問題に対処すること。
• 「システムの動的挙動を凍結する」という概念を用いて、真の因果的相互作用を捉える新たに定義された情報転送測定法のデータ駆動型計算を可能にすること。
• 観測データから干渉を推定するという課題に立ち向かう、耐ノイズ性の高いKoopman作用素およびPerron-Frobenius作用素の近似アルゴリズムの開発。
• 提案手法を線形および非線形動的システムに対して検証し、従来の因果測定法に比べ、正しい因果方向の同定において優れた性能を示すこと。

提案手法

• 非線形力学系の線形表現を観測関数空間で行い、情報転送を測定するための転送作用素フレームワークをKoopman作用素およびPerron-Frobenius作用素に基づいて構築する。
• ノイズ下でも安定性が向上した自然構造的動的モード分解（NSDMD）アルゴリズムの強化された実装を用い、時系列データからKoopman作用素およびP-F作用素を近似する。
• 変数xからyへの情報転送は、xが「凍結」（すなわち、システムから動的挙動が除去された状態）されたときのy(t+1), y(t)のエントロピーと、元のy(t+1), y(t)のエントロピーの差として計算される。
• 干渉に類似した解析を、システムの動的挙動のデータ駆動的再構築によってシミュレートすることで、直接的なシステム変更なしに凍結操作を実装する。
• Koopman作用素の近似に、ガウス径間基底関数を辞書として用い、ノイズ耐性を高めるパラメータを最適化する。
• 情報転送は、H(y(t+1), y(t)) − H¬x(y(t+1), y(t)) として計算され、第二項はxが分離された変更されたシステムから導出される。

実験結果

リサーチクエスチョン

• RQ1 従来の因果測定法が失敗する状況において、データ駆動型手法が動的システムにおける情報転送を正確に計算できるか？
• RQ2 直接的なシステム干渉なしに、時系列データから「動的挙動の凍結」をどのように実装できるか？
• RQ3 標準的手法が誤って双方向的影響を推定する非線形システムにおいて、本手法が一方向因果を正しく同定できるか？
• RQ4 ノイズの存在が因果推論の正確性に与える影響は何か？また、本手法は耐性を示すか？
• RQ5 線形系において、既知の解析的結果（例：影響係数の二乗）が情報転送測定法で回復されるか？

主な発見

• 2状態非線形系において、本手法はxからyへの情報転送がゼロ（T_x→y = -0.03）であることを正しく同定し、yからxへの転送（T_y→x = 1.63）が顕著であることを示した。一方、Granger因果は誤って相互影響を推定した。
• ヘノン写像において、T_x→y = 0.0982、T_y→x = -0.7246が得られ、xからyへの正の転送は、線形近似における理論値b² = 0.09に非常に近い値であった。
• ヘノン写像におけるyからxへの負の情報転送は、混合リャプノフ指数を示す複雑な力学的挙動に起因する。
• NSDMDを用いたKoopman作用素の近似は、プロセスノイズγ = 0.01に対しても耐性を示し、1000ステップの時系列データからも正確な転送計算が可能であった。
• 本手法は線形および非線形システムの両方で、正しい因果構造を回復した。Granger因果や転送エントロピーは一方向因果を検出できず、本手法に劣っていた。
• アルゴリズムは、直接的な干渉が不可能な状況においても、作用素論的手法を用いて情報転送を信頼性高く計算可能であることを示した。