[論文レビュー] Estimating individual treatment effect: generalization bounds and algorithms

Uri Shalit, Fredrik Johansson+1 more|arXiv (Cornell University)|Jun 13, 2016

Advanced Causal Inference Techniques参考文献 64被引用数 132

ひとこと要約

論文は観測データから個別治療効果を推定する表現学習フレームワーク（Counterfactual Regression, CFR）を導入し、IPM距離に基づく一般化境界を持ち、CFRが半合成データと実データで最先端手法に匹敵または上回ることを示す。

ABSTRACT

There is intense interest in applying machine learning to problems of causal inference in fields such as healthcare, economics and education. In particular, individual-level causal inference has important applications such as precision medicine. We give a new theoretical analysis and family of algorithms for predicting individual treatment effect (ITE) from observational data, under the assumption known as strong ignorability. The algorithms learn a "balanced" representation such that the induced treated and control distributions look similar. We give a novel, simple and intuitive generalization-error bound showing that the expected ITE estimation error of a representation is bounded by a sum of the standard generalization-error of that representation and the distance between the treated and control distributions induced by the representation. We use Integral Probability Metrics to measure distances between distributions, deriving explicit bounds for the Wasserstein and Maximum Mean Discrepancy (MMD) distances. Experiments on real and simulated data show the new algorithms match or outperform the state-of-the-art.

研究の動機と目的

• 強い無視可能性の下で個別治療効果（ITE）を推定する問題を動機づけ、形式化する。
• ITE推定の一般化誤差境界を、個別事実損失と学習表現における分布シフトをIPMで捉えた項に分解して提供する。
• 平衡表現と治療/対照の別々のアウトカムヘッドを用いて境界を最小化する表現学習アルゴリズムのファミリー（CFR）を提案する。
• CFRフレームワークは深層ネットワークとIPMペナルティ（WassersteinまたはMMD）を用いてエンドツーエンド実装可能で、IHDPおよびJobsデータセットでベースラインを上回ることを示す。

提案手法

• 表現PhiとPhi上の仮説hを定義し、治療下と対照下のアウトカムを予測する。
• 学習された表現における治療群と対照群の分布間のIPM距離に加え、実際の損失と反実仮想損失を比較する項を用いてPEHE誤差を境界付ける。
• IPMs（WassersteinまたはMMD）を用いて分布の距離を測定し、学習可能なペナルティを導出する。
• 治療用ヘッドh1と対照用ヘッドh0を持つエンドツーエンドのニューラルネットワークアーキテクチャと、Phi(X)における分布を類似させるよう促すバランス正則化項を提案する。
• ミニバッチ確率的勾配降下法で、実際の損失、モデル複雑さ、IPMベースの正則化（CFR）を組み合わせて最小化、あるいは平衡項なし（TARNet）で最小化して訓練する。
• CFRのアルゴリズム詳細（アルゴリズム1）、治療群の不均衡を補正する重み付けとIPM項の勾配計算を含む。

実験結果

リサーチクエスチョン

• RQ1 観測データからのITE推定誤差を強い無視可能性の下で境界付けできるか？
• RQ2 治療群と対照群間の分布シフトはITE推定にどのように影響し、表現学習によってそれを緩和できるか？
• RQ3 バランスの取れた表現を治療ヘッドと対照ヘッドを分けて学習することでITEとATEの推定精度は改善されるか？
• RQ4 WassersteinおよびMMD IPMは実用的で効果的な平衡ペナルティになるか？
• RQ5 CFRベースの手法は半合成・実データの両方の設定で最先端のベースラインを上回るか？

主な発見

• ITE推定の一般化境界が確立され、PEHEは実際の損失と反実仮想損失の和と治療群と対照群分布間のIPM項により境界付けられる。
• バランスの取れた表現と別々のアウトカムヘッドを学習するCFRフレームワークは、IHDPとJobsデータセットで最先端のベースラインと同等かそれを上回る。
• IPM（WassersteinまたはMMD）を用いると、ITE推定のエンドツーエンド学習を促進する計算可能なペナルティになる。
• 手法は目的関数内の重み付けとバランス正則化により治療群不均衡を明示的に考慮する。
• TARNet（バランス項なし）と比較して、CFRは表現空間における分布のズレを減らすことで一般化を改善する。
• 実験結果は半合成データと実データの両方を含み、CFRはさまざまな設定で競合的または優位な性能を示した。