[論文レビュー] Higher Order Targeted Maximum Likelihood Estimation

Mark van der Laan, Zeyi Wang+1 more|arXiv (Cornell University)|Jan 15, 2021

Statistical Methods and Inference参考文献 26被引用数 4

ひとこと要約

本稿では、標準TMLEにおける1階剰余項をk+1階剰余項に置き換えることで、有限標本における推論を改善する高階の標的最大尤度推定法（k階TMLE）を提案する。この手法は、バイアスを制御するために高適応ラッソ（HAL）正則化を活用する。本手法は、より弱い正則性条件のもとで漸近的線形性を保証し、有効な推論を可能にする。シミュレーションにより、1階TMLEに比べて被覆率の向上とバイアス低減が確認された。

ABSTRACT

Asymptotic efficiency of targeted maximum likelihood estimators (TMLE) of target features of the data distribution relies on a a second order remainder being asymptotically negligible. In previous work we proposed a nonparametric MLE termed Highly Adaptive Lasso (HAL) which parametrizes the relevant functional of the data distribution in terms of a multivariate real valued cadlag function that is assumed to have finite variation norm. We showed that the HAL-MLE converges in Kullback-Leibler dissimilarity at a rate n-1/3 up till logn factors. Therefore, by using HAL as initial density estimator in the TMLE, the resulting HAL-TMLE is an asymptotically efficient estimator only assuming that the relevant nuisance functions of the data density are cadlag and have finite variation norm. However, in finite samples, the second order remainder can dominate the sampling distribution so that inference based on asymptotic normality would be anti-conservative. In this article we propose a new higher order TMLE, generalizing the regular first order TMLE. We prove that it satisfies an exact linear expansion, in terms of efficient influence functions of sequentially defined higher order fluctuations of the target parameter, with a remainder that is a k+1th order remainder. As a consequence, this k-th order TMLE allows statistical inference only relying on the k+1th order remainder being negligible. We also provide a rationale for the higher order TMLE that it will be superior to the first order TMLE by (iteratively) locally minimizing the exact finite sample remainder of the first order TMLE. The second order TMLE is demonstrated for nonparametric estimation of the integrated squared density and for the treatment specific mean outcome. We also provide an initial simulation study for the second order TMLE of the treatment specific mean confirming the theoretical analysis.

研究の動機と目的

• 非無視可能な2階剰余項によって引き起こされる標的最大尤度推定（TMLE）における有限標本バイアスを是正すること。
• 正確な線形展開を有するk階TMLEフレームワークを構築し、k+1階剰余項を伴うことで、アンダースムージングに依存せずに有効な推論を可能とすること。
• HAL正則化された高階TMLEが、アンダースムージングがなくても、正則化バイアスが無視できるほど小さくなることを示すこと。これはHAL-MLEのL1ノルムの制御によって達成される。
• 初期推定量の周囲で1階TMLEの正確な剰余項を繰り返し最小化することにより、有限標本的根拠を提示すること。
• 真の値における1階正規化勾配が0となる状況でも、2階インパクトカーブを用いて推論を可能とすること。

提案手法

• 標的パrameterの高階フラクチュエーションを、HAL正則化付きMLEを用いて最小不利パスに沿って逐次標的化するk階TMLEを提案する。
• 各段階でのスコアが変更されたパrameterの正規化勾配に等しくなるよう、普遍的な最小不利パス構成を採用する。
• 高階フラクチュエーションの有効インパクト関数を用いて、k階TMLEの正確な展開を導出し、剰余項の次数をk+1とする。
• HAL正則化バイアスを制御するため、HAL-MLEのL1ノルムを束縛することで、アンダースムージングなしに漸近的に無視できる大きさに保証する。
• 経験過程理論とエントロピーの上限を用いて、k+1階剰余項が最小限の滑らかさ仮定のもとで無視可能であることを確立する。
• アドジョイント作用素と対称行列の逆行列を用いた構成的アルゴリズムを提供し、標準ソフトウェアを用いた自動実装を可能にする。

実験結果

リサーチクエスチョン

• RQ1 k階TMLEを構築可能であり、その剰余項がk+1階であるようにできるか。これにより、アンダースムージングに依存せずに有効な推論が可能になるか。
• RQ2 ネイズィエスティメーターのHAL正則化が、有限標本において正則化バイアスが無視できるほど小さくなることを保証するか。
• RQ3 有限標本において、1階TMLEに比べて被覆率を向上させ、バイアスを低減できるか。
• RQ4 真の値における1階正規化勾配が0となる状況でも、2階インパクトカーブを用いて推論が可能か。
• RQ5 標準的な回帰または行列逆行列計算ツールを用いて、高階正規化勾配を体系的に計算可能か。

主な発見

• k階TMLEは正確な線形展開を満たし、剰余項がk+1階であるため、この剰余項の無視可能性に基づく推論が可能である。
• HAL正則化バイアスは、HAL-MLEのL1ノルムの制御のおかげで、アンダースムージングなしに十分に小さい次数に保証される。
• 密度の二乗の積分および処置別平均アウトカムの非パラメトリック推定に関するシミュレーションにより、2階TMLEが1階TMLEに比べてバイアス低減と信頼区間被覆率の向上を達成することが確認された。
• 経験的高階TMLEは、アンダースムージングされたバージョンと同等の性能を達成しており、頑健で推奨される選択肢である。
• 真の値における1階正規化勾配が0であっても、2階インパクトカーブを用いることで非退化な極限分布が得られ、推論が可能になる。
• アドジョイント作用素と行列逆行列を用いた構成的アルゴリズムが提供され、標準ソフトウェアを用いた実装が可能になった。