[論文レビュー] Estimation of Conditional Average Treatment Effects with High-Dimensional Data

Qingliang Fan, Yu‐Chin Hsu+2 more|arXiv (Cornell University)|Aug 6, 2019

Advanced Causal Inference Techniques参考文献 29被引用数 13

ひとこと要約

本稿は、共変量の数が標本サイズに比べて大きい状況下で、unconfoundednessのもとで条件付き平均処置効果（CATE）を推定する二段階の機械学習アプローチを提案する。高次元のノイズ関数推定に機械学習を用い、その後に低次元の局所線形回帰を適用して、次元削減されたCATE関数を生成する。理論的保証と乗数ブートストラップによる一様推論を備え、シミュレーションおよび母体の喫煙が出生体重に与える影響への実応用において、頑健な性能を示す。

ABSTRACT

Given the unconfoundedness assumption, we propose new nonparametric estimators for the reduced dimensional conditional average treatment effect (CATE) function. In the first stage, the nuisance functions necessary for identifying CATE are estimated by machine learning methods, allowing the number of covariates to be comparable to or larger than the sample size. The second stage consists of a low-dimensional local linear regression, reducing CATE to a function of the covariate(s) of interest. We consider two variants of the estimator depending on whether the nuisance functions are estimated over the full sample or over a hold-out sample. Building on Belloni at al. (2017) and Chernozhukov et al. (2018), we derive functional limit theory for the estimators and provide an easy-to-implement procedure for uniform inference based on the multiplier bootstrap. The empirical application revisits the effect of maternal smoking on a baby's birth weight as a function of the mother's age.

研究の動機と目的

• 標本サイズに比べて共変量の数が多い状況における異質的処置効果の推定という課題に対処すること。
• 高次元の共変量を、関心のある共変量の関数に簡略化する非パラメトリックなCATE推定量の開発。
• 高次元のノイズパラメータが存在する状況でも、CATE関数に対する有効な一様推論を保証すること。
• 異なる次元とスパarsity状態における、全標本推定量とクロスフィット推定量の性能を比較すること。
• CATE関数のための一様信頼区間を構築するための実用的かつ実装可能な手順の提供。

提案手法

• 第一段階：Lassoやその他の正則化推定量を含む機械学習手法を用いて、高次元のノイズ関数（例：アウトカムおよび感受性スコア回帰）を推定し、高次元の共変量を扱う。
• 第二段階：推定されたノイズ関数に基づき、関心のある変数の関数として次元削減されたCATE関数を求めるために、低次元の局所線形回帰を実行する。
• 二つのバリエーションを提案：両段階で全標本を用いるものと、バイアス低減および推論の改善を目的としたクロスフィット（標本分割）を用いるもの。
• 理論的枠組みはBelloni et al. (2017) および Chernozhukov et al. (2018) に拠拠り、推定量の関数的極限定理を確立する。
• 乗数ブートストラップ手順により、CATE関数全体に対する有効な信頼区間を構築する一様推論が可能になる。
• 二重ロバスト性によりモデルの誤指定に対しても頑健であり、高次元データにおける厳密および近似的なスパarsityに対応可能。

Figure 1: CATE for the effect of smoking on birth weights conditional on mother’s age, 99% confidence bands.

実験結果

リサーチクエスチョン

• RQ1 共変量の数が多すぎて、場合によっては標本サイズを上回る状況下で、条件付き平均処置効果（CATE）を一貫して推定する方法は何か？
• RQ2 ノイズ関数推定に機械学習を用いることで、高次元設定下でのCATE推定量の有限標本性能にどのような影響を与えるか？
• RQ3 クロスフィットは、全標本推定と比較して、CATE関数の一様推論の有限標本特性と妥当性をどのように改善するか？
• RQ4 提案手法の推定量は、スパarsityの程度やデータ次元が変化する状況下でも、一様信頼区間の正しいカバレッジをどの程度維持できるか？
• RQ5 既存の二重ロバスト手法と比較して、提案手法は実証的カバレッジおよび臨界値推定においてどのように異なるか？

主な発見

• クロスフィット推定量は、p=30、N=500のシナリオにおいても、すべてのシミュレーション設計で名目水準（例：95%および99%）に近い実証的カバレッジを達成する。
• 全標本推定量は、高次元設定（p=30、N=500）においてやや低い実証的カバレッジを示すが、特に90%信頼水準で顕著であり、それでも名目水準に近い。
• 乗数ブートストラップ手順により、一様信頼区間の臨界値が正確に推定され、平均臨界値が理論的分位数に近く、臨界値の標準偏差も小さい。
• 高次元設定下ではGumbel近似による臨界値が良好に機能し、ほとんどのケースでカバレッジ確率が1.000に近い。
• 二重ロバスト手法（LOW）は高次元モデルにおいて著しいサイズの歪みを示し、p=30、N=2000のとき99%信頼水準で実証的カバレッジが0.014にまで低下する。
• 母体の喫煙と出生体重への実応用において、本手法は母の年齢に応じて有意義に変化する解釈可能で滑らかなCATE曲線を生成し、実用的有用性を裏付ける。

Figure 2: CATE for the effect of smoking on birth weights conditional on mother’s age, 95% confidence bands.