[論文レビュー] Time-uniform central limit theory and asymptotic confidence sequences

Ian Waudby-Smith, David Arbour+3 more|arXiv (Cornell University)|Mar 11, 2021

Probability and Risk Models被引用数 4

ひとこと要約

本稿では、漸近的信頼区間と時間一様推論の間のギャップを埋めるために、漸近的信頼系列（AsympCSs）と呼ばれる、時間一様なフレームワークを導入する。古典的中心極限定理（CLT）推論を逐次的設定に拡張するもので、Strassen や Komlós-Major-Tusnády の強いかい性原理を活用することで、CLT と同一の弱いモーメント条件のもとで普遍的に有効な信頼系列を構築する。これにより、因果推論における観察的研究および無作為化比較試験の両方で、継続的モニタリングと適応的停止が可能になり、漸近的効率性を損なわずに実現できる。

ABSTRACT

Confidence intervals based on the central limit theorem (CLT) are a cornerstone of classical statistics. Despite being only asymptotically valid, they are ubiquitous because they permit statistical inference under weak assumptions and can often be applied to problems even when nonasymptotic inference is impossible. This paper introduces time-uniform analogues of such asymptotic confidence intervals, adding to the literature on confidence sequences (CS) -- sequences of confidence intervals that are uniformly valid over time -- which provide valid inference at arbitrary stopping times and incur no penalties for "peeking" at the data, unlike classical confidence intervals which require the sample size to be fixed in advance. Existing CSs in the literature are nonasymptotic, enjoying finite-sample guarantees but not the aforementioned broad applicability of asymptotic confidence intervals. This work provides a definition for "asymptotic CSs" and a general recipe for deriving them. Asymptotic CSs forgo nonasymptotic validity for CLT-like versatility and (asymptotic) time-uniform guarantees. While the CLT approximates the distribution of a sample average by that of a Gaussian for a fixed sample size, we use strong invariance principles (stemming from the seminal 1960s work of Strassen) to uniformly approximate the entire sample average process by an implicit Gaussian process. As an illustration, we derive asymptotic CSs for the average treatment effect in observational studies (for which nonasymptotic bounds are essentially impossible to derive even in the fixed-time regime) as well as randomized experiments, enabling causal inference in sequential environments.

研究の動機と目的

• 古典的中心極限定理（CLT）の推論を時間一様な推論に拡張することで、漸近的信頼系列（AsympCSs）を定義すること。
• 古典的中心極限定理が要請するのと同じ弱いモーメント仮定のもとで有効性を保つ普遍的な AsympCS を開発すること。
• 非漸近的境界が得られない観察的研究など、因果推論問題において、継続的かつデータ適応的なモニタリングと推論を可能にすること。
• 漸近的推論の広範な適用性と信頼系列の柔軟性を組み合わせ、覗き見や早期停止に対するペナルティを回避するフレームワークを提供すること。

提案手法

• Strassen や Komlós-Major-Tusnády の強いかい性原理を用いて、時間経過にわたる標本平均過程をガウス過程で一様に近似する。
• Robbins の正規混合境界を適用して、正確な第一種誤り率制御を達成する時間一様信頼系列を構築する。
• 逐次的サンプル分割とクロスフィットリングを用いて、半パラメトリックモデルにおけるヌイランス関数を推定し、漸近的有効性を維持する。
• 有効なインフルエンス関数を用いて平均処置効果のための漸近的信頼系列を導出し、分散推定には $σ^2_t = \widehat{\mathrm{var}}_t(\widehat{f})$ を用いる。
• AsympCS の幅が、有効なインフルエンス関数の推定標準誤差に比例することを確立し、非漸近的状況でも分散適応性を達成すること。
• 得られた AsympCS が、核心的要素（正規混合境界、近似誤差率、標準誤差推定）において、強いかい性原理による根本的制限のため、改善不能であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 古典的中心極限定理と同一の弱いモーメント条件のもとで漸近的に有効な、時間一様な信頼系列を構築することは可能か？
• RQ2 非漸近的境界を必要とせず、データ依存の停止時刻においても有効性を保つ漸近的信頼系列を構築することは可能か？
• RQ3 非漸近的境界が存在しない観察的研究において、因果推論の逐次的設定への漸近的推論の拡張はどのように可能か？
• RQ4 時間一様なカバレッジを保ちながら、古典的CLT区間と同様に、推定分散に応じて信頼系列の幅を適応的にスケーリングすることは可能か？
• RQ5 信頼系列の幅をさらに狭める根本的限界は存在するか？ そして、提案手法はミニマックス意味で最適か？

主な発見

• 提案された漸近的信頼系列は、古典的中心極限定理が要請するのと同じモーメント条件のもとで普遍的に有効であり、広範な適用性を有する。
• 信頼系列の幅は、有効なインフルエンス関数の推定標準誤差に比例し、非漸近的状況でも分散適応性を達成する。
• 固定サンプルサイズを要件とせず、継続的モニタリングと適応的停止が可能であり、第一種誤り率の上昇なしに時間一様なカバレッジを達成する。
• 強いかい性原理による根本的制限のため、核心的要素（正規混合境界、近似誤差率、標準誤差推定）において、この構成は改善不能である。
• 非漸近的境界が得られない状況において、観察的研究および無作為化比較試験の両方で、平均処置効果の因果推論が可能になる。
• Robbins の正規混合境界および標本平均のブラウン運動による確実な近似から導かれる最適性を継承しており、逐次的設定においてミニマックス最適である。