[論文レビュー] Estimating Causal Effects with Double Machine Learning -- A Method Evaluation

Jonathan Fuhr, Philipp Berens+1 more|arXiv (Cornell University)|Mar 21, 2024

Machine Learning and Data Classification被引用数 6

ひとこと要約

本論文は原因効果推定のためのダブル/デバイド機械学習（DML）を実証評価し、従来手法と比較し実データへ適用、研究者への実践的ガイダンスを提供する。

ABSTRACT

The estimation of causal effects with observational data continues to be a very active research area. In recent years, researchers have developed new frameworks which use machine learning to relax classical assumptions necessary for the estimation of causal effects. In this paper, we review one of the most prominent methods - "double/debiased machine learning" (DML) - and empirically evaluate it by comparing its performance on simulated data relative to more traditional statistical methods, before applying it to real-world data. Our findings indicate that the application of a suitably flexible machine learning algorithm within DML improves the adjustment for various nonlinear confounding relationships. This advantage enables a departure from traditional functional form assumptions typically necessary in causal effect estimation. However, we demonstrate that the method continues to critically depend on standard assumptions about causal structure and identification. When estimating the effects of air pollution on housing prices in our application, we find that DML estimates are consistently larger than estimates of less flexible methods. From our overall results, we provide actionable recommendations for specific choices researchers must make when applying DML in practice.

研究の動機と目的

• 観測データにおける原因効果推定のためのダブル/デバイド機械学習（DML）の性能を評価する。
• シミュレーションと実世界適用を通じてDMLを従来の統計手法と比較する。
• 柔軟なMLがDMLで非線形の交絡を調整する際の利点と、どのような前提がDMLを制限するかを特定する。
• DMLにおける変数選択、アルゴリズムの選択、実装の詳細について実務者へ行動可能な推奨を提供する。

提案手法

• 部分線形モデルにおけるDMLフレームワークとその直感を概説する。
• 従来の方法と比較して広範なシミュレーション設定でDMLを評価する。
• 大気汚染と住宅価格の実データにDMLを適用し、他の方法と比較する。
• 交絡の形、交絡因子の数、モデリングの選択がDMLの性能に与える影響を評価する。
• 実務者向けにMLアルゴリズムの選択、クロスフィッティング、サンプル分割についてガイダンスを提供する。
• DMLのアルゴリズム選択を支援する単純な指標を提示する。

実験結果

リサーチクエスチョン

• RQ1 さまざまな交絡構造と次元性の下で、DMLは従来手法と比べてどのように性能を発揮するか？
• RQ2 DML内のどのMLアルゴリズムが非線形交絡を最適に扱えるか（設定間で）？
• RQ3 実務研究におけるDMLの実装（folds、 repetitions、変数選択）についてどのような実践的ガイドラインを提供できるか？
• RQ4 大気汚染と住宅価格に関する実データへ適用した場合、DML推定は他の手法とどのように比較されるか？

主な発見

• 柔軟なMLはDMLにおいて非線形交絡の調整を改善し、機能形の前提を緩和する。
• 適切な変換なしのLassoは非線形交絡下で偏ったDML推定を生みがちである。
• 勾配ブースティング（XGBoost）は設定を問わず良好な性能を示し、DMLのベースラインとして推奨される。
• DMLは正しい因果構造と同定に依存しており、観測されない交絡や悪いコントロールの救済策ではない。
• 大気汚染–住宅価格の適用におけるDML推定は、あまり柔軟性のない手法の推定より一貫して大きい。
• 研究者がDMLのMLアルゴリズムを選択するのに役立つ単純な指標を提案する。