[論文レビュー] MissDeepCausal: Causal Inference from Incomplete Data Using Deep Latent Variable Models

Imke Mayer, Julie Josse+2 more|arXiv (Cornell University)|Feb 25, 2020

Advanced Causal Inference Techniques参考文献 40被引用数 6

ひとこと要約

MissDeepCausal は、欠損共変量を伴う観察データから因果効果を推定するため、変分オートエンコーダーを用いた深層潜在変数モデルを提案する。潜在交絡要因の事後分布からの複数のインピュテーションを活用し、欠損が at at random (MAR) であると仮定したもとで、因果推定のバイアスと平均二乗誤差において最先端の性能を達成する。特に非線形なデータ生成メカニズム下でも同様の性能を発揮する。

ABSTRACT

Inferring causal effects of a treatment, intervention or policy from observational data is central to many applications. However, state-of-the-art methods for causal inference seldom consider the possibility that covariates have missing values, which is ubiquitous in many real-world analyses. Missing data greatly complicate causal inference procedures as they require an adapted unconfoundedness hypothesis which can be difficult to justify in practice. We circumvent this issue by considering latent confounders whose distribution is learned through variational autoencoders adapted to missing values. They can be used either as a pre-processing step prior to causal inference but we also suggest to embed them in a multiple imputation strategy to take into account the variability due to missing values. Numerical experiments demonstrate the effectiveness of the proposed methodology especially for non-linear models compared to competitors.

研究の動機と目的

• 現実の観察データに存在する欠損共変量を適切に処理できない因果推定手法の重大なギャップを埋める。
• 強いパラメトリックな仮定に依存せずに、欠損データに起因する不確実性を考慮できる柔軟で非線形な因果効果推定アプローチを開発する。
• 深層潜在変数モデルと複数のインピュテーション、および二重に頑健な推定を統合し、治療効果推定の頑健性と正確性を向上させる。
• 線形モデルを超える一般化を可能にし、複雑で高次元な欠損データパターンに対応できるスケーラブルでモジュラーなフレームワークを提供する。

提案手法

• MAR 仮定の下で、不完全な共変量を潜在交絡要因のノイズ混じりの代理変数としてモデル化するため、修正された尤度関数を用いた変分オートエンコーダー（VAEs）を採用する。
• 点推定ではなく、潜在変数の完全な事後分布をステノスティックサンプリングにより活用し、欠損データに起因する不確実性を捉える。
• 潜在交絡要因の複数のサンプルを抽出し、それを下流の二重に頑健な推定器の入力として使用する複数のインピュテーション戦略を導入する。
• 潜在交絡要因のインピュテーションと二重に頑健な推定器（例：DR ログ線形モデルやDR ランダムフォレスト）を組み合わせることで、モデルの誤指定下でも一貫性を確保する。
• インピュテーションプロセスにおける選択バイアスを補正するために重要度サンプリングを適用し、欠損メカニズムへの頑健性を向上させる。
• ベイジアンプロパティススコア手法を模倣したモジュラー設計を採用し、既存の因果推定パイプラインへの即時統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 深層潜在変数モデルは、不完全な共変量から潜在交絡要因を効果的に回復でき、因果効果推定の精度を向上させることができるか？
• RQ2 非線形なデータ生成メカニズム下で、MissDeepCausal はバイアスと平均二乗誤差の観点から最先端の手法を上回る性能を示すか？
• RQ3 潜在変数の完全な事後分布を複数のインピュテーションにより活用することで、点推定に比べてより頑健で正確な治療効果推定が可能になるか？
• RQ4 特に真のデータ生成モデルが非線形である場合に、MissDeepCausal は欠損率の増加に対しても性能を維持できるか？

主な発見

• IHDP ベンチマークにおいて、MissDeepCausal は全欠損率レベルで最小の平均絶対誤差（Δ）を達成した。DR rf 推定器を用いた場合、50% 欠損率下で Δ = 0.18 ± 0.01 を記録した。
• MI（50% 欠損率下で Δ = 1.54 ± 0.03） や CEVAE（50% 欠損率下で Δ = 0.38 ± 0.02） といった競合手法に比べ、顕著に優れた性能を示した。
• 0%、10%、30%、50% の欠損率のあらゆるレベルで安定した性能を維持しており、データの不完全性に対する頑健性を示した。
• 潜在交絡要因の事後分布からのサンプルに基づく複数のインピュテーション戦略は、単一インピュテーションや完全ケース解析に比べ、より高い推定精度を達成した。
• 特に真のデータ生成プロセスが非線形である場合に、CEVAE や MI と比較して優れた性能を発揮した。これは、複雑で現実的である状況下での優位性を示している。