[論文レビュー] Causal Effect Inference with Deep Latent-Variable Models

Christos Louizos, Uri Shalit+4 more|arXiv (Cornell University)|May 24, 2017

Advanced Causal Inference Techniques参考文献 39被引用数 293

ひとこと要約

CEVAEは潜在的共因を変分オートエンコーダを用いて学習し、観測データから個人の因果効果と集団の因果効果を推定する。隠れた共因の代理変数を従来の方法よりも頑健に扱う。

ABSTRACT

Learning individual-level causal effects from observational data, such as inferring the most effective medication for a specific patient, is a problem of growing importance for policy makers. The most important aspect of inferring causal effects from observational data is the handling of confounders, factors that affect both an intervention and its outcome. A carefully designed observational study attempts to measure all important confounders. However, even if one does not have direct access to all confounders, there may exist noisy and uncertain measurement of proxies for confounders. We build on recent advances in latent variable modeling to simultaneously estimate the unknown latent space summarizing the confounders and the causal effect. Our method is based on Variational Autoencoders (VAE) which follow the causal structure of inference with proxies. We show our method is significantly more robust than existing methods, and matches the state-of-the-art on previous benchmarks focused on individual treatment effects.

研究の動機と目的

• 動機: 共因が観測されていないかノイズの多い代理変数である場合に、個人レベルの因果効果を推定する。
• 目標: 深層潜在変数法を用いた潜在共因モデルの下で、ITE/CATEとATEを推定する。
• 狙い: 既存のベンチマークと比較して、ノイズの多い代理変数や隠れた共因へのロバスト性を向上させる。
• 複数の代理変数を活用して潜在共因を特定できる、スケーラブルなアプローチを開発する。

提案手法

• データを潜在変数Zで表現し、隠れた共因を表す。
• 変分オートエンコーダを用いて、(X,t,y)からp(Z,X,t,y)を近似する。
• p(z)=N(0,I) を定義し、p(x|z)、p(t|z)、p(y|t,z) をニューラルネットワークで定義する。tは2項（二値）として扱う。
• 推論ネットワークを介して q(z|x,t,y) を推定し、治療で分割された TARnet風構造を用いる。
• 新しいサンプルに対して t と y の補助予測目的を用いて、変分下限Lを最適化する。
• 外部サンプル推定のために、補助分布 q(t|x) と q(y|x,t) を提供して t と y を予測する。

実験結果

リサーチクエスチョン

• RQ1 潜在変数を持つVAEは、観測データから因果効果を識別するために、結合分布 p(Z,X,t,y) を回復できるか？
• RQ2 隠れ共因を潜在変数としてモデル化することは、代理変数がノイズの場合に ITE/CATE および ATE の推定を改善するか？
• RQ3 IHDPとJobsデータセット、および合成データとTwinsデータにおける、CEVAEの性能は最先端のベンチマークと比較してどうか？
• RQ4 代理ノイズの増加に対してCEVAEは頑健か？
• RQ5 このアプローチは、2値と連続的なアウトカムを統一的なVAEフレームワークで扱えるか？

主な発見

• CEVAEはIHDPとJobsのベンチマークで最先端手法と競合している。
• CEVAEは合成の toy データにおいて、ノイズの多い代理変数と隠れた共因へのロバスト性を示す。
• Twinsデータセットでは、潜在空間を用いるCEVAEが、代理変数に直接依存する手法より、高い代理ノイズ下で上回る。
• このモデルは TARnet風の生成構造とブロック対応の推論ネットワークを用いて、処置特異的効果を捉える。
• 補助的予測項は、反事実推定のためのアウトオブサンプルの治療とアウトカムの信頼できる予測を可能にする。