[論文レビュー] Treatment effect estimation with disentangled latent factors

Weijia Zhang, Lin Liu+1 more|arXiv (Cornell University)|Jan 29, 2020

Advanced Causal Inference Techniques参考文献 34被引用数 11

ひとこと要約

本稿では、観測変数から処置効果推定のための道具的要因、交絡要因、リスク要因に分離する variational inference 法である TEDVAE を提案する。これらの要因を同時に推論・分離することで、合成データ、ベンチマークデータ、実世界データのあらゆる設定で、PEHE と ATE 推定誤差が低く抑えられ、最先端の性能を達成する。

ABSTRACT

Much research has been devoted to the problem of estimating treatment effects from observational data; however, most methods assume that the observed variables only contain confounders, i.e., variables that affect both the treatment and the outcome. Unfortunately, this assumption is frequently violated in real-world applications, since some variables only affect the treatment but not the outcome, and vice versa. Moreover, in many cases only the proxy variables of the underlying confounding factors can be observed. In this work, we first show the importance of differentiating confounding factors from instrumental and risk factors for both average and conditional average treatment effect estimation, and then we propose a variational inference approach to simultaneously infer latent factors from the observed variables, disentangle the factors into three disjoint sets corresponding to the instrumental, confounding, and risk factors, and use the disentangled factors for treatment effect estimation. Experimental results demonstrate the effectiveness of the proposed method on a wide range of synthetic, benchmark, and real-world datasets.

研究の動機と目的

• 観測変数に非交絡要因、代理変数、無関係変数が含まれる状況において、処置効果推定がバイアスを受ける問題に対処すること。
• すべての観測変数を一様に扱う既存手法の限界を克服し、道具的要因、交絡要因、リスク要因を区別しないこと。
• データ駆動型のアプローチを開発し、代理変数から潜在要因を推論・分離することで、処置効果推定の効率性と正確性を向上させること。
• ハイパーパrameterのチューニングに対する感受性を低減しながら、多様なデータセットで高い性能を維持すること。
• 交絡要因が測定不能で、唯一の代替変数（プロキシ）しか利用できない高次元の実世界設定でも、頑健な処置効果推定を可能にすること。

提案手法

• 観測変数から潜在要因を同時に推論する variational autoencoder をベースにしたフレームワーク TEDVAE を提案する。
• 推論された潜在要因を、処置にのみ影響する道具的要因（処置にのみ影響）、処置とアウトカムの両方に影響する交絡要因、アウトカムにのみ影響するリスク要因の3つの互いに排他的な集合に分離する。
• 処置、アウトカム、観測変数の同時分布をモデル化するための条件付き VAE アーキテクチャを用い、各要因タイプごとに別々の潜在空間を設ける。
• トレーニング中に3つの潜在要因タイプの間の独立性を促進するため、分離正則化項を適用する。
• 分離された交絡要因を調整変数として用い、平均処置効果（ATE）および条件付き平均処置効果を推定する。
• 再パrameter化勾配を用いた確率的勾配変分推論により、モデルをエンドツーエンドでトレーニングする。

実験結果

リサーチクエスチョン

• RQ1 道具的要因、交絡要因、リスク要因に潜在要因を分離することで、観察研究における処置効果推定の性能が向上するか？
• RQ2 TEDVAE は合成データ、ベンチマークデータ、実世界データにおいて、既存の最先端手法と比較してどのように性能を発揮するか？
• RQ3 TEDVAE は深層学習ベースラインと比較して、ハイパーパrameterのチューニングに対する感受性をどの程度低減するか？
• RQ4 真の交絡要因が観測不能な状況で、TEDVAE はノイズの多いプロキシ変数から交絡要因を効果的に回復できるか？
• RQ5 分離によって、高次元設定でもより効率的かつ正確な処置効果推定が可能になるか？

主な発見

• Twins データセットでは、TEDVAE が PEHE 0.006 ± 0.002 を達成し、GANITE や CEVAE、X-RF といったすべてのベースラインを顕著に上回った。
• IHDP ベンチマークでは、設定A（0.034 ± 0.002）および設定B（0.038 ± 0.007）の両方で、TEDVAE が最低の PEHE を記録し、Wilcoxon 符番検定のp値が 0.05 未満であった。
• ハイパーパrameterのチューニングなしで、複数のデータセットにわたって一貫した性能を維持しており、頑健性と一般化能力が確認された。
• 平均処置効果（ATE）の推定誤差が顕著に低減され、Twins では最小の εATE（0.006 ± 0.002）を達成し、GANITE でさえも上回った。
• TEDVAE は合成データおよび実世界データの両方で優れた性能を示し、プロキシ変数や測定不能な交絡要因の処理において有効性を示した。
• 分離された潜在要因により、交絡要因の調整がより正確に行えるようになり、処置効果推定のバイアスが低減され、効率性が向上した。