[論文レビュー] Admissible anytime-valid sequential inference must rely on nonnegative martingales

Aaditya Ramdas, Johannes Ruf+2 more|arXiv (Cornell University)|Sep 7, 2020

Statistical Methods and Inference参考文献 20被引用数 30

ひとこと要約

この論文は、anytime-valid sequential inference における confidence sequences、p-processes、e-processes、および sequential tests の admissible 構成は nonnegative martingales に依存する必要があることを証明しており、composite settings に対する max-martingales および Snell envelopes の拡張を含む。

ABSTRACT

Confidence sequences, anytime p-values (called p-processes in this paper), and e-processes all enable sequential inference for composite and nonparametric classes of distributions at arbitrary stopping times. Examining the literature, one finds that at the heart of all these (quite different) approaches has been the identification of nonnegative (super)martingales. Thus, informally, nonnegative (super)martingales are known to be sufficient for \emph{anytime-valid} sequential inference, even in composite and nonparametric settings. Our central contribution is to show that nonnegative martingales are also universal -- after appropriately defining \emph{admissibility}, we show that all admissible constructions of confidence sequences, p-processes, or e-processes must necessarily utilize nonnegative martingales. Our proofs utilize several modern mathematical tools for composite testing and estimation problems: max-martingales, Snell envelopes, transfinite induction, and new Doob-Lévy martingales make appearances in previously unencountered ways. Informally, if one wishes to perform anytime-valid sequential inference, then any existing approach can be recovered or dominated using nonnegative martingales. We provide several nontrivial examples, with special focus on testing symmetry, where our new constructions render past methods inadmissible. We also prove the subGaussian supermartingale to be admissible.

研究の動機と目的

• anytime-valid sequential inference ツール (p-processes、confidence sequences、e-processes、sequential tests) を動機づけて形式化する。
• 複合と点仮説設定のすべての admissible 構成に対して nonnegative martingales が必要であることを特徴づけ、適性を示す。
• 適性を確立するための必要十分条件を Doob–Lévy max-martingales と Snell envelope の分解を用いて開発し、削減とツールを提供する。
• prior methods の適合性と不適合性を示す例（ Gaussian、subGaussian、対称性）を提供する。
• confidence sequences および複合仮説を介した推定タスクへの適性分析を拡張する。

提案手法

• p-processes、e-processes、confidence sequences、Robbins-style sequential tests を統一的な time-uniform フレームワークで定義・関連付ける。
• 非負 (super)martingales、max-martingales、Ville’s inequality を用いて適性基準を導出する。
• Doob–Lévy max-martingales と Snell envelope decomposition を用いて点仮説・複合仮説設定での適性の必要十分条件を確立する。
• 複合から点仮説への削減を示すことで、confidence sequences および推定（confidence sequences）への適性結果を拡張する。
• 例示的な指数族の例（Gaussian、subGaussian、対称性）を用いて、適性のある構成が以前の方法を上回り得ることを示す。

実験結果

リサーチクエスチョン

• RQ1 複合的な null に対する適切な p-processes の必要十分条件は何か。
• RQ2 nonnegative martingales は、すべての admissible な anytime-valid sequential inference ツール（p-processes、e-processes、confidence sequences、sequential tests）にとって必要か。
• RQ3 max-martingales と Snell envelopes を複合設定の適性結果を確立するためにどう用いるか。
• RQ4 複合から点仮説への削減は、confidence sequences および e-processes の一般的な適性結論を導くか。
• RQ5 標準的な構成（例：subGaussian martingales）は適性を達成するか、対称性の検定などで従来法が新たな適性構成に対して不適切になる箇所はどこか。

主な発見

• 非負マルチンゲールは、p-processes、e-processes、confidence sequences、sequential tests を横断して、適性な anytime-valid sequential inference に対して普遍的に必要である。
• max-martingales と Doob–Lévy 構成、Snell envelopes は、複合設定での必要十分な適性条件を証明する枠組みを提供する。
• 複合から点仮説への推定（confidence sequences）への削減は、信頼区間と推定の一般的な適性結果を可能にする。
• Robbins’ subGaussian martingale は適性であることが示され、一方でいくつかの対称性ベースの検定は新たな適性構成に対して不適切であることが示される。
• 本論文は新しい Doob-Lévy max-martingale ツールと anti-concentration bounds を提案し、適性分析を深める。