[論文レビュー] Machine learning in policy evaluation: new tools for causal inference

Noémi Kreif, Karla Díaz-Ordaz|arXiv (Cornell University)|Mar 1, 2019

Advanced Causal Inference Techniques被引用数 9

ひとこと要約

本稿は、無作為化されない条件と正の性質の下で、政策評価における因果推論のための機械学習（ML）手法を導入し、平均処置効果（ATE）の推定に焦点を当てている。ML、特に二重ロバスト推定器、Super Learnerアンサンブル、およびネイジュー項の推定を通じて、モデルの不適合によるバイアスを低減し、実世界のインドネシアの保健政策データを用いた処置効果推定における柔軟性と透明性を向上させることを示している。

ABSTRACT

While machine learning (ML) methods have received a lot of attention in recent years, these methods are primarily for prediction. Empirical researchers conducting policy evaluations are, on the other hand, pre-occupied with causal problems, trying to answer counterfactual questions: what would have happened in the absence of a policy? Because these counterfactuals can never be directly observed (described as the "fundamental problem of causal inference") prediction tools from the ML literature cannot be readily used for causal inference. In the last decade, major innovations have taken place incorporating supervised ML tools into estimators for causal parameters such as the average treatment effect (ATE). This holds the promise of attenuating model misspecification issues, and increasing of transparency in model selection. One particularly mature strand of the literature include approaches that incorporate supervised ML approaches in the estimation of the ATE of a binary treatment, under the extit{unconfoundedness} and positivity assumptions (also known as exchangeability and overlap assumptions). This article reviews popular supervised machine learning algorithms, including the Super Learner. Then, some specific uses of machine learning for treatment effect estimation are introduced and illustrated, namely (1) to create balance among treated and control groups, (2) to estimate so-called nuisance models (e.g. the propensity score, or conditional expectations of the outcome) in semi-parametric estimators that target causal parameters (e.g. targeted maximum likelihood estimation or the double ML estimator), and (3) the use of machine learning for variable selection in situations with a high number of covariates.

研究の動機と目的

• 因果推論の根本的課題に取り組む：政策評価における観察されない反実仮想結果の問題。
• 従来の予測中心のMLの限界を克服し、無作為化されない条件下で因果推定に適応させる。
• データ適応的ML手法を統合することで、処置効果推定における透明性を向上させ、モデル依存性を低減する。
• 半パラメトリック推定器（例：標的最大尤度推定、二重ML）におけるMLツールの実用的実装を示す。
• 多くの共変量を含む高次元設定におけるMLの有用性を示す。これは、保健および社会政策分野のビッグデータで一般的である。

提案手法

• lasso、木ベースの手法（例：ランダムフォレスト）およびSuper Learnerによるアンサンブル学習を用いて、ネイジュー項を推定するための教師ありMLアルゴリズムを活用する。
• 二重ロバスト推定器において、MLを用いて処置確率と潜在的アウトカムを推定し、アウトカム回帰と処置確率モデルを組み合わせる。
• 標的最大尤度推定（TMLE）および二重機械学習（DML）を用いることで、MLモデルによるネイジュー項推定に対しても√n一致性と有効な推論を達成する。
• 交差検証および損失ベースのスーパー・ラーニングを用いて、複数のMLアルゴリズムを統合し、最適な予測モデルを一つにまとめる。
• 高次元ML（例：lasso）からの変数選択技術を用いて、多くの共変量（d >> n）を含むデータセットを処理する。
• Super Learnerによる半自動的なモデル選択を実装することで、主観的なモデル選択に依存するのを減らし、より強固なモデル選択を実現する。

実験結果

リサーチクエスチョン

• RQ1 機械学習手法は、観察研究における平均処置効果（ATE）のような因果効果を推定するために、どのように適合させることができるか？
• RQ2 MLは、二重ロバスト推定器におけるネイジュー項（例：処置確率、アウトカム回帰）の推定を、どのような点で改善できるか？
• RQ3 MLベースの変数選択は、多くの共変量を含む高次元設定における因果推定器の性能を向上させることができるか？
• RQ4 Super LearnerのようなアンサンブルML手法の使用は、政策評価における透明性を向上させ、モデル依存性を低減するのにどのように寄与するか？
• RQ5 インドネシアの国民健康保険制度のような実世界の政策評価にMLを適用することの実務的意義は何か？

主な発見

• 特に二重ロバスト推定器に統合された機械学習手法は、ATE推定におけるモデル不適合によるバイアスを顕著に低減する。
• Super Learnerアンサンブルアプローチは、個々のMLモデルの長所を組み合わせることで、より正確で安定したネイジュー項推定を実現し、優れた性能を発揮する。
• MLによるフィットを用いた二重機械学習（DML）および標的最大尤度推定（TMLE）は、ネイジュー項モデルが柔軟なML手法で推定されても、√n一致性と有効な推論を維持する。
• 高次元設定（d >> n）では、lassoやその他の正則化ML手法が、効果的な変数選択を可能にし、推定の効率性を向上させる。
• MLベースのアプローチにより、主観的な選択をデータ駆動型の交差検証に基づくモデル平均化に置き換えることで、モデル選択の透明性が向上する。
• インドネシアの健康保険制度への応用は、MLを強化した因果推論が、実世界の政策評価の文脈において実用的かつ効果的であることを示している。