[論文レビュー] Estimation of Individual Treatment Effect in Latent Confounder Models via Adversarial Learning

Changhee Lee, Nicholas Mastronarde+1 more|arXiv (Cornell University)|Nov 21, 2018

Advanced Causal Inference Techniques参考文献 13被引用数 12

ひとこと要約

本稿では、ノイジーサンプル変数を活用して、潜在的交絡要因が存在する状況下での個別処置効果（ITE）を推定する、CEGANと呼ばれる新しい対抗的学習フレームワークを提案する。双方向的生成対抗ネットワークにノイズ除去オートエンコーダを組み合わせることで、潜在的交絡要因の事後分布を正確に回復でき、特に高いプロキシノイズと強い潜在的交絡が存在する状況でも、最先端手法を上回る性能を発揮する。

ABSTRACT

Estimating the individual treatment effect (ITE) from observational data is essential in medicine. A central challenge in estimating the ITE is handling confounders, which are factors that affect both an intervention and its outcome. Most previous work relies on the unconfoundedness assumption, which posits that all the confounders are measured in the observational data. However, if there are unmeasurable (latent) confounders, then confounding bias is introduced. Fortunately, noisy proxies for the latent confounders are often available and can be used to make an unbiased estimate of the ITE. In this paper, we develop a novel adversarial learning framework to make unbiased estimates of the ITE using noisy proxies.

研究の動機と目的

• 測定されていない（潜在的）交絡要因が観測データにバイアスをもたらす状況下で、個別処置効果（ITE）を推定する課題に対処すること。
• 潜在的交絡要因と相関するノイジーサンプル変数を活用することで、ITE推定における交絡バイアスを克服すること。
• プロキシ変数が非常にノイジーや不完全であっても、あるいは処置割り当てが潜在的交絡要因にのみ依存する状況でも、精度を維持できる堅牢な手法を開発すること。
• 対抗的学習により、プロキシ変数と潜在的交絡要因の間の複雑で非線形な関係をモデル化することで、既存手法を改善すること。
• 実世界の医療・社会科学データにおいて一般的な交絡要因の完全な観測が不可能な状況でも、バイアスのないITE推定を可能にすること。

提案手法

• 対抗的学習を用いて、$ p({\bf z}|{\bf x}) $ と $ p({\bf y}|{\bf z},{\bf x},t) $ の両方の事後分布を同時に学習する、双方向的生成対抗ネットワーク（CEGAN）を提案する。
• 再構成ネットワークと予測ネットワークを備えた共有エンコーダ・デコーダアーキテクチャを用い、$ q_P({\bf y}|{\bf z},{\bf x},t) $ および $ q_I({\bf z}|{\bf x},t) $ を介して同時事後分布をモデル化する。
• ノイジーサンプル変数に対する耐性を高めるために、潜在的交絡要因のよりクリアな表現を学習するノイズ除去オートエンコーダのコンponentを統合する。
• 真の事後分布 $ p({\bf z}|{\bf x}) $ と推定事後分布 $ q_I({\bf z}|{\bf x},t) $ を対抗的損失により一致させるようにモデルを学習し、$ {\bf z} $ が観測不能であっても有効に機能する。
• do計算を用いて、学習済み事後分布を統合することでITEを推定する：$ {\rm ITE}({\bf x}) = \int p({\bf y}|{\bf z},{\bf x},t=1) p({\bf z}|{\bf x}) d{\bf z} - \int p({\bf y}|{\bf z},{\bf x},t=0) p({\bf z}|{\bf x}) d{\bf z} $。
• 100個の事後サンプルを用いたモンテカルロサンプリングにより、do作用素下の期待値を推定し、安定したITE推定を実現する。

実験結果

リサーチクエスチョン

• RQ1 観測データにおけるノイジーサンプル変数から、潜在的交絡要因の事後分布を対抗的学習で的確に回復できるか？
• RQ2 プロキシ変数がノイジーまたは不完全な状況下で、潜在的交絡が存在する場合、ITE推定の性能はどの程度劣化するか？
• RQ3 測定されていない交絡要因により無交絡性が成立しなくなった状況下でも、提案されたCEGANフレームワークは最先端手法を上回る性能を発揮するか？
• RQ4 CEVAE や CForest などの既存手法と比較して、CEGANはプロキシ変数のノイズ増加に対してどの程度耐性を示すか？
• RQ5 特にプロキシノイズが高く、または処置割り当てが潜在的交絡要因にのみ依存する状況下で、CEGANはどのような条件下で優れた性能を発揮するか？

主な発見

• 潜在的交絡がなく、かつプロキシノイズが小さい状況では、CEGANは最先端手法と同等の性能を発揮し、$ \sqrt{\epsilon_{\text{PEHE}}} = 0.363 \pm 0.00 $ および $ \epsilon_{\text{ATE}} = 0.018 \pm 0.01 $ を達成する。
• 高いプロキシノイズと潜在的交絡が共存する状況下では、CEGANはすべてのベンチマークを著しく上回り、$ \sqrt{\epsilon_{\text{PEHE}}} = 0.369 \pm 0.00 $ および $ \epsilon_{\text{ATE}} = 0.022 \pm 0.01 $ を達成するが、CEVAE や CForest はより高い誤差を示す。
• 半実験的TWINSデータセットでは、真の交絡要因「GESTAT」を削除してもCEGANは低誤差を維持しており、情報損失や潜在的交絡に対して高い耐性を示す。
• 処置割り当てが潜在的交絡要因にのみ依存する（TWINS設定と同様）状況下でも、CEGANの性能は安定的かつ優れている。特に高いプロキシノイズ下でも顕著な優位性を示す。
• CEGANのノイズ除去オートエンコーダコンponentは耐性を高め、プロキシ変数が潜在的交絡要因の良い指標でない場合でも、正確なITE推定を可能にする。
• BART や CMGP などのベースラインと比較して、CEGANはサンプル内およびサンプル外両方の性能で一貫した改善を示し、50回の反復においても低い分散を示す。