[論文レビュー] Semiparametric doubly robust targeted double machine learning: a review

Edward H. Kennedy|arXiv (Cornell University)|Mar 12, 2022

Machine Learning and Algorithms被引用数 39

ひとこと要約

因果推論におけるターゲット機能の非パラメトリック推定の効率性に関する包括的なレビューで、半パラメトリック効率、影響関数、および二重機械学習の概念を用いた実用的推定器に焦点を当てる。

ABSTRACT

In this review we cover the basics of efficient nonparametric parameter estimation (also called functional estimation), with a focus on parameters that arise in causal inference problems. We review both efficiency bounds (i.e., what is the best possible performance for estimating a given parameter?) and the analysis of particular estimators (i.e., what is this estimator's error, and does it attain the efficiency bound?) under weak assumptions. We emphasize minimax-style efficiency bounds, worked examples, and practical shortcuts for easing derivations. We gloss over most technical details, in the interest of highlighting important concepts and providing intuition for main ideas.

研究の動機と目的

• 因果推論および関連する機能的のための非パラメトリックモデルにおけるターゲットパラメータ推定問題を説明する。
• パスワイズ微分可能な機能的について、ミニマックス効率境界と効率影響関数を特徴づける。
• 影響関数に基づく推定量の構築と性質を論じる。DR（双重機械学習）およびターゲット型アプローチを含む。
• 高次元設定で影響関数を導出するための実践的戦略を提供し、理論と推定量を結びつける。

提案手法

• 効率境界と影響関数の基礎として、von Mises展開とパスワイズ微分可能性を提示する。
• 非パラメトリックなクレーマー–ラオの境界のアナログとしての効率影響関数を説明し、効率境界の達成性におけるその利用を説明する。
• 影響関数を導出するための2つの戦略の概要。離散データ下のガトー微分法アプローチと単純な微分則（戦略1および戦略2）を含む。
• パラメトリック部分モデルと、それらが接空間とパスワイズ微分可能性を介して非パラメトリックモデルに拡張される下限をどのように生み出すかを説明する。
• 影響関数が、プラグイン推定量を補正し、残差のバイアス項を制御する推定量の構築にどのように役立つかを論じる。

実験結果

リサーチクエスチョン

• RQ1 非パラメトリックモデルにおけるターゲット機能の推定に対する効率境界とは何か？
• RQ2 効率影響関数を導出・活用して、因果推論機能的の最適推定量を構築するにはどうすればよいか？
• RQ3 さまざまな機能的（例：ATE、密度/エントロピー）に対して影響関数を導出する実践的戦略は何があり、それらは推定量設計をどのように導くか？
• RQ4 影響関数ベースの推定量が非パラメトリック効率境界を達成する条件は何か？

主な発見

• 効率影響関数は、滑らかな機能の推定における非パラメトリックな最小分散の基準を提供する。
• パスワイズ微分可能性と von Mises 展開は、下界と効率推定量の構築の両方を支える。
• 影響関数を導出するための2つの実践的戦略が提案されており、離散データのゲータックス微分と単純な影響関数からの構築要素を含む。
• パラメトリック部分モデルは古典的クレーマー–ラオ境界を非パラメトリックモデルに橋渡しし、複雑な機能的に対するミニマックス様の下限を可能にする。
• この枠組みは、効率性理論を、プラグイン推定量を補正し、残差のバイアス項を管理する具体的な推定手順へと結びつける。