[論文レビュー] Causal models for dynamical systems

Jonas Peters, Sebastian Bauer+1 more|arXiv (Cornell University)|Jan 17, 2020

Quantum Mechanics and Applications被引用数 5

ひとこと要約

本稿は、微分方程式を用いて連続時間の力学的システムに構造的因果モデルを拡張し、測定ノイズを伴う型と駆動ノイズを伴う型の2種類の因果的キネティクスモデルを提案する。介入を微分方程式そのものに直接行えるようにし、不変性の原則を用いて時間発展するシステムにおける因果推論を可能にし、構造学習や異なる実験条件間での一般化に応用可能である。

ABSTRACT

A probabilistic model describes a system in its observational state. In many situations, however, we are interested in the system's response under interventions. The class of structural causal models provides a language that allows us to model the behaviour under interventions. It can been taken as a starting point to answer a plethora of causal questions, including the identification of causal effects or causal structure learning. In this chapter, we provide a natural and straight-forward extension of this concept to dynamical systems, focusing on continuous time models. In particular, we introduce two types of causal kinetic models that differ in how the randomness enters into the model: it may either be considered as observational noise or as systematic driving noise. In both cases, we define interventions and therefore provide a possible starting point for causal inference. In this sense, the book chapter provides more questions than answers. The focus of the proposed causal kinetic models lies on the dynamics themselves rather than corresponding stationary distributions, for example. We believe that this is beneficial when the aim is to model the full time evolution of the system and data are measured at different time points. Under this focus, it is natural to consider interventions in the differential equations themselves.

研究の動機と目的

• 微分方程式に従う連続時間の力学的システムに、構造的因果モデル（SCMs）を拡張すること。
• 複数の時間点でデータが得られるような時間発展するシステムにおいて、介入をモデル化する課題に取り組むこと。
• 介入に対してモジュラリティと不変性を保つ因果的キネティクスモデルを開発し、異なる実験条件間での一般化を可能にすること。
• 静的分布ではなく動的挙動に焦点を当てた、力学的システムにおける因果推論の形式的枠組みを提供すること。
• 独立同一分布（i.i.d.）因果推論における中心的役割を果たす不変性の原則が、時間依存プロセスにどのように適合され、モデル選択や一般化を改善するかを検討すること。

提案手法

• 測定ノイズを伴う型（ノイズありの決定的ODE）と駆動ノイズを伴う型（確率的微分方程式）の2種類の因果的キネティクスモデルを提案する。
• 介入を微分方程式への直接的な修正、たとえば変数の微分を新たな関数に設定することで定義し、SCMのモジュラ構造を保持する。
• ピアールの$do$-介入形式を用いて連続時間における介入分布を定義し、因果的意味論と整合性を保つ。
• 時間系列データにおいて、同じ構造的方程式が異なる実験条件で有効であるという不変性の原則を適用し、因果的予測子を同定する。
• 複数の実験環境における予測可能性と不変性のトレードオフを考慮したモデルランク付け手順を採用し、頑健な因果的構造を同定する。
• 微分方程式への介入が時間全体の軌道に影響を与えることを利用し、比較的弱い介入からも豊富な情報が得られることを活用する。

実験結果

リサーチクエスチョン

• RQ1 構造的因果モデルは、微分方程式に従う連続時間の力学的システムにどのように拡張可能か？
• RQ2 常微分方程式で記述されるシステムにおける介入の適切な形式化は何か？
• RQ3 異なる実験条件間での不変性を活用することで、時間発展するシステムにおける因果的予測子をどのように同定できるか？
• RQ4 微分方程式のモジュラ構造が、因果的発見と一般化に与える影響は何か？
• RQ5 軌道レベルの効果などの力学的システムの性質が、i.i.d.設定と比較して因果推論の仮定と課題をどのように変えるか？

主な発見

• 測定ノイズまたは駆動ノイズを伴う因果的キネティクスモデルは、システムの時間発展を支配する微分方程式に直接介入をモデル化するための整合的枠組みを提供する。
• 微分方程式構造への介入は、時間全体の軌道に変化をもたらすため、たとえ弱い介入であっても因果的構造同定に非常に有用な情報を得られる。
• 異なる実験条件（たとえば、異なる介入設定）においても同じ構造的方程式が維持されること——つまり不変性——を活用することで、ある変数の正しい因果的予測子を同定できる。
• 予測可能性と不変性のバランスを取る構造学習手法により、標準的なi.i.d.手法よりも未観測の実験設定への一般化性能が向上する。
• 微分方程式系のモジュラ構造により、介入は特定のコンポonentにのみ影響し、因果モデルにおけるモジュラリティの核心的原則を保つ。
• 本フレームワークは、複数の時間点でのデータ収集や異なる実験条件が適用される状況（例：代謝ネットワーク実験）において、因果的発見を可能にする。