[論文レビュー] Deep Structural Causal Models for Tractable Counterfactual Inference

Nick Pawlowski, Daniel C. Castro+1 more|arXiv (Cornell University)|Jun 11, 2020

Domain Adaptation and Few-Shot Learning参考文献 65被引用数 83

ひとこと要約

本論文は、normalising flowsと変分推論により外因性ノイズを推定して解ける反事実推論を可能にするDSCMs（深層構造因果モデル）の統一フレームワークを提案し、Morpho-MNISTおよび脳MRIデータで実証する。

ABSTRACT

We formulate a general framework for building structural causal models (SCMs) with deep learning components. The proposed approach employs normalising flows and variational inference to enable tractable inference of exogenous noise variables - a crucial step for counterfactual inference that is missing from existing deep causal learning methods. Our framework is validated on a synthetic dataset built on MNIST as well as on a real-world medical dataset of brain MRI scans. Our experimental results indicate that we can successfully train deep SCMs that are capable of all three levels of Pearl's ladder of causation: association, intervention, and counterfactuals, giving rise to a powerful new approach for answering causal questions in imaging applications and beyond. The code for all our experiments is available at https://github.com/biomedia-mira/deepscm.

研究の動機と目的

• 深層学習コンポーネントを備えた構造因果モデル（SCM）への統一フレームワークを提供する。
• 変分推論または正規化フローを介して外因性ノイズを推定することを主張することで、解ける反事実推論を実現する。
• 合成データのMorpho-MNISTを用いて、本手法を示し、Pearlの因果階梯（関連、介入、反事実）における因果推論を検証する。
• 脳MRIデータを用いて実世界での適用性を示し、医用画像診断における反事実推論を説明する。

提案手法

• 逆可逆的明示尤度、アモルタイズド明示尤度、アモルタイズド暗黙尤度機構の3つの深層因果機構のクラスを導入する。
• 正規化フローを用いて可逆成分をモデル化し、アブダクションを扱うために変分/推論技術を用いる。
• 反事実推論を3段階プロセス（アブダクション、アクション、予測）として定式化し、外因性ノイズの解ける推論を可能とする。
• 条件付きフローとモジュール式深層成分を用いて親に条件付けを可能にし、スケーラブルで構造化されたDSCMsを構築する。
• 厳密計算が困難な場合に反事実サンプルを生成するためのモンテカルロサンプリング手順を提供する。

実験結果

リサーチクエスチョン

• RQ1 高次元データに対して関連、介入、反事実推論をサポートする深層構造因果モデルを構築できるか。
• RQ2 DSCMsにおいて外因性ノイズを単位レベルの反事実を可能にする形で解くように推定できるか。
• RQ3 正規化フローと変分推論で訓練されたDSCMは、画像処理タスクで妥当な反事実を生み出すか。
• RQ4 異なる深層機構アーキテクチャが、関連、介入、反事実の能力に与える影響は何か。
• RQ5 このフレームワークは、合成データと実データの医用画像データ（例：Morpho-MNISTおよび brain MRI）で実践的な因果推論を示すように検証できるか。

主な発見

• DSCMは高次元データにおける因果関係を表現でき、Pearlの因果階梯の3つのレベルすべてをサポートする。
• 変分推論や正規化フローを介した外因性ノイズの推定は、反事実のアブダクションを解けるようにする。
• Morpho-MNISTでは、完全な因果モデルが独立型および条件付きの変種を上回り、相互依存性の捕捉と正確な反事実の生成を実現する（反事実のMAEが低い）。
• 脳画像において、DSCMは年齢、性別、脳、脈絡叢体積などが介入下でどのように相互作用するかを示す、妥当な反事実を示す。
• Morpho-MNISTでの3モデル比較は、因果構造を組み込むと尤度と再構成が向上し、反事実生成を可能にするという定量的証拠を提供する。
• 厳密な反転が困難な場合、分布を近似するためにMonte Carloによる反事実サンプリングが可能である。