[論文レビュー] Counterfactual Prediction with Deep Instrumental Variables Networks

Jason Hartford, Greg Lewis+2 more|arXiv (Cornell University)|Dec 30, 2016

Machine Learning and Data Classification参考文献 29被引用数 33

ひとこと要約

この論文は、観測データにおける因果効果を推定するために道具変数を活用する深層学習フレームワーク、Deep IVを紹介している。問題を二段階の順次ニューラルネットワークタスクに構造化する：第一段階で処置の予測を行い、第二段階で処置分布の損失を統合した反事後的結果のモデリングを行う。この手法は、外挙出性能が優れており、ベイズ的および頻度主義的推論を可能にし、内生性が存在する状況で、標準的な機械学習手法や2SLSを上回る性能を発揮する。

ABSTRACT

We are in the middle of a remarkable rise in the use and capability of artificial intelligence. Much of this growth has been fueled by the success of deep learning architectures: models that map from observables to outputs via multiple layers of latent representations. These deep learning algorithms are effective tools for unstructured prediction, and they can be combined in AI systems to solve complex automated reasoning problems. This paper provides a recipe for combining ML algorithms to solve for causal effects in the presence of instrumental variables -- sources of treatment randomization that are conditionally independent from the response. We show that a flexible IV specification resolves into two prediction tasks that can be solved with deep neural nets: a first-stage network for treatment prediction and a second-stage network whose loss function involves integration over the conditional treatment distribution. This Deep IV framework imposes some specific structure on the stochastic gradient descent routine used for training, but it is general enough that we can take advantage of off-the-shelf ML capabilities and avoid extensive algorithm customization. We outline how to obtain out-of-sample causal validation in order to avoid over-fit. We also introduce schemes for both Bayesian and frequentist inference: the former via a novel adaptation of dropout training, and the latter via a data splitting routine.

研究の動機と目的

• 観測されない交絡要因のため処置割り当てが内生的となる観測データにおける因果効果推定の課題に対処すること。
• 計量経済学における道具変数理論と現代の機械学習を統合したスケーラブルで柔軟な深層学習フレームワークの開発。
• 反事後的予測のための外挙出因果的検証と不確実性の定量化（ベイズ的および頻度主義的）を可能にすること。
• 深層ニューラルネットワークが、強いパラメトリックな仮定を必要とせず、非線形かつ非一様な処置効果をIVフレームワーク内で効果的にモデル化できることを示すこと。

提案手法

• 因果推論問題を二段階に分解する：第一段階では深層ニューラルネットワークが、道具変数と共変量から処置を予測する。
• 第二段階のネットワークは、処置と共変量の関数として結果をモデリングし、条件付き処置分布の積分を損失関数に組み込むことで内生性を是正する。
• 勾配降下法を、IVモデルの構造的制約を尊重するように変更し、二つのネットワークの共同学習を可能にする。
• ドロップアウトの新規な応用によりベイズ的推論を可能にし、逆ドロップアウト率が事後不確実性の精度パラメータとして機能する。
• データ分割ルーチンを用いることで、第二段階の予測に対する条件付き推論を実現し、頻度主義的推論を達成する。
• 深層ニューラルネットワークを用いた柔軟で非パラメトリックな処置効果モデリングをサポートし、線形またはパラメトリックな仮定を回避する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、複雑で高次元の観測データにおいて、道具変数法と効果的に組み合わせて因果効果を推定できるか？
• RQ2 反事後的予測モデルにおける過学習を防ぐために、どのように外挙出因果的検証を達成できるか？
• RQ3 ベイズ的および頻度主義的推論手順の相対的利点は、Deep IVモデルの文脈でどのように評価できるか？
• RQ4 内生性が存在する状況で、Deep IVフレームワークは標準的な機械学習手法や2SLSをどの程度上回るか？

主な発見

• Deep IVは、特に高い内生性下で、標準的なフィードフォワードニューラルネットワーク（FFNet）よりも外挙出構造的平均二乗誤差で顕著に優れる。FFNetは真の反事後的効果を回復できない。
• FFNetとは異なり、内生性が高くなってもDeep IVはすべての内生性レベルで強固な性能を維持し、学習データが増えるほど性能が向上する。
• 線形性と均一性の制約がある2SLS法は、FFNetより優れるが、特に大規模データセット下ではDeep IVに劣る。
• 逆ドロップアウト率c=0.99を用いたDeep IVのベイズ的不確実性推定は、信頼性のあるカバレッジを提供し、主に真の反事後的形状を回復するが、頻度主義的手法より幅広い信頼区間となる。
• データ分割による頻度主義的推論は、ベイズ的ドロップアウトよりタイトな不確実性推定をもたらすが、両手法とも有効であり、チューニングの選択に依存する。
• 100万件の観測データを用いたテストサンプルのMSEは、c=0.99で0.026であった。これは、強い汎化性能と、データ量の増加に伴う継続的な誤差低減を示している。