[論文レビュー] Minimax rates for heterogeneous causal effect estimation

Edward H. Kennedy, Sivaraman Balakrishnan+2 more|arXiv (Cornell University)|Mar 2, 2022

Advanced Causal Inference Techniques被引用数 5

ひとこと要約

この論文は、ホルダー滑らかさを満たす非パラメトリックモデル下での不均一因果効果推定のミニマックスレートを確立し、高階のインパクト関数に基づく局所多項式R-Learner推定量を導入する。主な貢献は、非標準的な肘現象を明らかにするミニマックス下界であり、非パラメトリック回帰と関数推定のレートの間で異常な補間が生じることを示し、CATEを回帰/関数推定ハイブリッドとして定量化する。

ABSTRACT

Estimation of heterogeneous causal effects - i.e., how effects of policies and treatments vary across subjects - is a fundamental task in causal inference. Many methods for estimating conditional average treatment effects (CATEs) have been proposed in recent years, but questions surrounding optimality have remained largely unanswered. In particular, a minimax theory of optimality has yet to be developed, with the minimax rate of convergence and construction of rate-optimal estimators remaining open problems. In this paper we derive the minimax rate for CATE estimation, in a Holder-smooth nonparametric model, and present a new local polynomial estimator, giving high-level conditions under which it is minimax optimal. Our minimax lower bound is derived via a localized version of the method of fuzzy hypotheses, combining lower bound constructions for nonparametric regression and functional estimation. Our proposed estimator can be viewed as a local polynomial R-Learner, based on a localized modification of higher-order influence function methods. The minimax rate we find exhibits several interesting features, including a non-standard elbow phenomenon and an unusual interpolation between nonparametric regression and functional estimation rates. The latter quantifies how the CATE, as an estimand, can be viewed as a regression/functional hybrid.

研究の動機と目的

• 非パラメトリックホルダー滑らかさモデル下での条件付き平均処置効果（CATE）推定のミニマックス収束レートを確立すること。
• ややきめの正則性条件の下で、このミニマックスレートを達成する理論的に最適な推定量を開発すること。
• ミニマックスレートがねじれ関数（回帰および挿入確率）の滑らかさにどのように依存するかを特定すること。
• CATEを非パラメトリック回帰と関数推定の特徴を併せ持つハイブリッド推定量として形式化すること。
• 非パラメトリック回帰と関数推定の構成を組み合わせた局所化されたファジー仮説法を用いて、ミニマックス下界を形式化すること。

提案手法

• 非パラメトリック回帰と関数推定の下界技術を組み合わせた、ファジー仮説法の局所化されたバージョンを用いてミニマックス下界を導出する。
• 高階のインパクト関数に基づく新しい局所多項式R-Learner推定量を提案し、CATEの効率的推定を可能にする。
• CATE推定量の非パラメトリック構造に対処するため、高階インパクト関数法の局所化された修正を実装する。
• テンソル積とU統計量の項を推定量に組み込み、高階の滑らかさとバイアス補正を捉える。
• 行列 $\widehat{Q}$ と $\widehat{\Omega}$ を逆行列化してインパクト関数の成分を推定し、ねじれ関数の推定誤差に対してロバスト性を確保する。
• バイアスと分散のバランスをとるために、調整パrameter $h$ と $k$ を適用し、ミニマックスレートを達成する最適な値を導出する。

実験結果

リサーチクエスチョン

• RQ1 ホルダー滑らかさを満たす非パラメトリックモデル下での条件付き平均処置効果（CATE）推定のミニマックス収束レートは何か？
• RQ2 ミニマックスレートは、回帰および挿入確率関数の滑らかさにどのように依存するか？
• RQ3 CATE推定レートは、非パラメトリック回帰と関数推定のレートの間で補間されるのか？ もしそうなら、どのような条件下でそうなるか？
• RQ4 適切な滑らかさおよび正則性条件の下で、局所多項式R-Learner推定量はミニマックスレートに達することができるか？
• RQ5 高階インパクト関数は、CATE推定のレート最適推定量を構築する上で果たす役割は何か？

主な発見

• ミニマックスレートは非標準的な肘現象を示す：ねじれ関数が十分に滑らかであれば、レートは標準的な非パラメトリック回帰と一致するが、そうでない場合は遅くなる。
• 低滑らかさ領域では、ミニマックスレートは非パラメトリック回帰と関数推定のレートの混合であり、CATEを回帰/関数推定ハイブリッドとして定量化する。
• 滑らかさの高いインパクト関数に基づく、ミニマックスレートを達成する局所多項式R-Learner推定量が構築され、ややきめの条件の下で導出されたミニマックス下界に一致する。
• ミニマックスレートは、アウトカム回帰 $\mu_a(x)$ および挿入確率 $\pi(x)$ の滑らかさに依存し、臨界閾値はパrameter $M_{\alpha,\beta,\gamma,d}$ によって決定される。
• 平均ねじれ関数の滑らかさが臨界閾値を下回ると、ミニマックスレートは標準的な非パラメトリック回帰より遅くなり、これは次元 $d$ および滑らかさパrameter $\alpha$, $\beta$, $\gamma$ に依存する。
• 理論的結果から、最適な調整パrameter $h$ と $k$ は未知の滑らかさに依存することが示唆され、Lepskiの原理を用いた適応的調整パrameter選択の今後の研究を促進する。