[論文レビュー] Deep Counterfactual Networks with Propensity-Dropout

Ahmed M. Alaa, Michael Weisz+1 more|arXiv (Cornell University)|Jun 19, 2017

Stochastic Gradient Optimization Techniques参考文献 17被引用数 48

ひとこと要約

本稿では、選択バイアスを軽減するための感受性スコアに依存するドロップアウト方式を用いた、事実と反事実の結果を共有層と結果固有層でモデル化するマルチタスク深層学習フレームワーク、Deep Counterfactual Networks with Propensity-Dropout (DCN-PD) を提案する。この手法は、観察データにおける選択バイアスに対処し、IHDPデータセットにおいて次善のベースラインより平均二乗誤差（MSE）を21.3%低減する、最先端の性能を達成した。

ABSTRACT

We propose a novel approach for inferring the individualized causal effects of a treatment (intervention) from observational data. Our approach conceptualizes causal inference as a multitask learning problem; we model a subject's potential outcomes using a deep multitask network with a set of shared layers among the factual and counterfactual outcomes, and a set of outcome-specific layers. The impact of selection bias in the observational data is alleviated via a propensity-dropout regularization scheme, in which the network is thinned for every training example via a dropout probability that depends on the associated propensity score. The network is trained in alternating phases, where in each phase we use the training examples of one of the two potential outcomes (treated and control populations) to update the weights of the shared layers and the respective outcome-specific layers. Experiments conducted on data based on a real-world observational study show that our algorithm outperforms the state-of-the-art.

研究の動機と目的

• 実世界の治療割り当てに内在する選択バイアスに対処することで、観察データからの個別化因果効果推定を改善すること。
• 治療を特徴量として扱う直接的モデリング手法の限界を克服し、治療と共変量の間の相互作用を制限しないこと。
• 事実と反事実の結果の両方に対して共有表現と結果固有表現を同時に学習することで、モデリングの柔軟性と統計的効率性を向上させること。
• 感受性スコアに基づいてドロップアウトを動的に調整する正則化手法を開発し、選択バイアス下での一般化性能を向上させること。
• 推論段階でモンテカルロ感受性スコアドロップアウトを適用することで、治療効果推定の不確実性を定量化すること。

提案手法

• モデルは、事実と反事実の両結果に共通する層と、それぞれの結果固有の層を持つ深層マルチタスクアーキテクチャを採用している。
• ネットワークは交互に更新する訓練フェーズを経る：まず、コントロール群のデータを用いて共有層とコントロール固有層を更新し、次に治療群のデータを用いて共有層と治療固有層を更新する。
• 感受性スコアに比例するドロップアウト確率を用いて、訓練中にネットワークをスパarselyにすることで、バイアスの強いデータへの過学習を軽減する、新規の感受性スコアドロップアウト正則化方式を導入した。
• 感受性スコアは別個の順方向ニューラルネットワークで推定され、各訓練サンプルごとにドロップアウト率を動的に調整するために使用される。
• 推論段階ではモンテカルロドロップアウトを適用し、個別化された治療効果予測の不確実性を推定する。
• すべての層にAdam最適化法とXavier初期化を適用し、エポック単位で交互にミニバッチ更新を行うことで訓練を実施した。

実験結果

リサーチクエスチョン

• RQ1 治療を特徴量として扱う直接的モデリングと比較して、深層マルチタスク学習フレームワークが、事実と反事実の結果をより効果的に同時にモデル化できるか？
• RQ2 感受性スコアに依存するドロップアウト正則化方式は、観察データにおける因果推論の選択バイアスを低減し、一般化性能を向上させるか？
• RQ3 提案されたDCN-PDモデルは、実世界の観察データにおける個別化治療効果推定において、最先端の手法を上回る性能を示すか？
• RQ4 共有層と結果固有層を併用するマルチタスクアーキテクチャは、統計的効率性とモデリングの柔軟性をどの程度向上させるか？
• RQ5 モンテカルロ感受性スコアドロップアウトは、個別治療効果の不確実性推定を信頼できるものにできるか？

主な発見

• DCN-PDはIHDPデータセットで2.05 ± 0.03の最小平均二乗誤差（MSE）を達成し、BNN（次善のモデル）を含むすべてのベースラインを上回った。
• 次善のベースライン（BNN）に対する改善は21.3%であり、提案されたアーキテクチャと正則化による顕著な性能向上を示した。
• 標準ドロップアウト（確率0.2）と比較して、感受性スコアドロップアウトはMSEを20.5%低減した。これは、選択バイアスに対する有効な正則化手法であることを示している。
• MSEが2.88 ± 0.10の標準的単一出力ニューラルネットワーク（NN-4）と比較して、DCN-PDは顕著に優れており、直接モデリングに比べてマルチタスク学習の利点が明確に示された。
• 一様ドロップアウトを使用するモデルと比較して、バイアスのある観察データでもDCN-PDはより良い一般化性能を示した。これは、感受性スコアに依存する正則化の有効性を裏付けた。
• モンテカルロ感受性スコアドロップアウトの適用により、個別化治療効果予測の信頼性のある不確実性定量化が可能になった。