[論文レビュー] Double Debiased Machine Learning Nonparametric Inference with Continuous Treatments

Kyle Colangelo, Ying‐Ying Lee|arXiv (Cornell University)|Apr 6, 2020

Advanced Causal Inference Techniques被引用数 8

ひとこと要約

本稿は、カーネルベースの二重にロバストなモーメント関数とクロスフィットティングを用いて、連続的処置における平均投与量応答関数および部分効果の非パラメトリック推論のための二重デビアスド機械学習（DML）手法を提案する。この手法は、最小限の正則性条件のもとで、ねずみ算的関数（条件付き平均および密度）が柔軟な非パラメトリックまたは機械学習手法によって推定されても、非パラメトリック収束速度を伴う漸近正規性を達成する。

ABSTRACT

We propose a doubly robust inference method for causal effects of continuous treatment variables, under unconfoundedness and with nonparametric or high-dimensional nuisance functions. Our double debiased machine learning (DML) estimators for the average dose-response function (or the average structural function) and the partial effects are asymptotically normal with non-parametric convergence rates. The first-step estimators for the nuisance conditional expectation function and the conditional density can be nonparametric or ML methods. Utilizing a kernel-based doubly robust moment function and cross-fitting, we give high-level conditions under which the nuisance function estimators do not affect the first-order large sample distribution of the DML estimators. We provide sufficient low-level conditions for kernel, series, and deep neural networks. We justify the use of kernel to localize the continuous treatment at a given value by the Gateaux derivative. We implement various ML methods in Monte Carlo simulations and an empirical application on a job training program evaluation

研究の動機と目的

• 連続的処置のもとでの平均投与量応答関数および部分効果の二重にロバストで非パラメトリックな推論手法の開発。
• 高次元または複雑なねずみ算的関数（条件付き平均および密度）の推定に機械学習および非パラメトリック手法を用いることを可能にし、第一順位の漸近分布に影響を与えないようにする。
• ねずみ算的推定器が連続的処置におけるDML推定器の漸近分布に影響を与えないような高レベルおよび低レベルの正則性条件を確立する。
• 連続的処置効果におけるゲートックス微分を用いたカーネルベースの局所化の正当化。
• ジョブトレーニングプログラムや需要分析などの連続的処置を伴う設定において、クロスフィットティングと柔軟な機械学習手法を用いた推論の実用的フレームワークを提供する。

提案手法

• カーネルベースの二重にロバストなモーメント関数を採用：$ \gamma(t,X_i) + \frac{K_h(T_i - t)}{f_{T|X}(t|X_i)}(Y_i - \gamma(t,X_i)) $、ここで $ \gamma $ は条件付き平均、$ f_{T|X} $ は一般化された投与スコア。
• L-分割クロスフィットティングを用いて、アウトオブサンプルデータ上でねずみ算的関数を推定し、バイアスを低減するとともに漸近正規性を達成する。
• クロスフィットティングを適用して、ねずみ算的関数推定器がDML推定器の第一順位漸近分布に影響を与えないように保証する。
• 非パラメトリックおよび機械学習手法（カーネル、系列、深層ニューラルネットワーク）を用いて $ \gamma(t,X) $ および $ f_{T|X}(t|X) $ を推定する。
• 固定された処置値 $ t $ における部分的 $ L_2 $ ノルムに基づき、収束速度に関する高レベルの条件を導出する。
• 推定された平均投与量応答関数の微分を用いて数値的に部分効果を推定する。

実験結果

リサーチクエスチョン

• RQ1 二重デビアスド機械学習は、高次元または非パラメトリックなねずみ算的関数を伴う連続的処置変数の非パラメトリック推論に拡張可能か？
• RQ2 ねずみ算的関数推定器が連続的処置におけるDML推定器の第一順位漸近分布に影響を与えない条件は何か？
• RQ3 連続的処置効果の文脈において、ゲートックス微分によるカーネルベースの局所化はどのように正当化できるか？
• RQ4 このDMLフレームワークにおけるカーネル、系列、深層ニューラルネットワーク推定器の十分な低レベル正則性条件は何か？
• RQ5 アウトカムおよび処置がともに非パラメトリックにモデル化される場合、提案手法は漸近正規性および有効な推論を達成できるか？

主な発見

• 提案された平均投与量応答関数 $ \beta_t $ に対するDML推定器は、ねずみ算的関数が機械学習によって推定されても、非パラメトリック収束速度 $ \sqrt{n h^{d_T}} $ を伴い、漸近正規性を示す。
• 本手法は二重ロバスト性を達成する：条件付き平均または密度のいずれか一方が誤指定されても、漸近正規性は保たれる。
• ねずみ算的推定器の収束速度が第一順位漸近分布に影響を与えないような高レベルの条件を提示し、固定された $ t $ における部分的 $ L_2 $ ノルムに依存する。
• カーネル、系列、深層ニューラルネットワーク推定器のための低レベル条件を確立し、標準的な正則性仮定のもとで高レベル条件が満たされることを保証する。
• ゲートックス微分解析を用いてカーネルベースの局所化の正当化がなされ、連続的処置効果のモーメント関数の有効性が裏付けられる。
• モンテカルロシミュレーションおよびジョブトレーニングプログラムへの実応用を通じて、有限標本における性能と実用的有用性が示された。