[論文レビュー] Minimax optimality of permutation tests

Ilmun Kim, Sivaraman Balakrishnan+1 more|arXiv (Cornell University)|Mar 30, 2020

Bayesian Methods and Mixture Models参考文献 65被引用数 13

ひとこと要約

本稿は、U統計量と指数的集中不等式を用いた包括的なフレームワークを構築し、新規のカップリング技法を用いて、非漸近的設定における順列検定のパワーを分析することで、順列検定が二標本検定および独立性検定において、滑らかさパラメータが未知である場合を含め、離散的および連続的分布の下で最小最大レート最適パワーを達成することを確立した。

ABSTRACT

Permutation tests are widely used in statistics, providing a finite-sample guarantee on the type I error rate whenever the distribution of the samples under the null hypothesis is invariant to some rearrangement. Despite its increasing popularity and empirical success, theoretical properties of the permutation test, especially its power, have not been fully explored beyond simple cases. In this paper, we attempt to partly fill this gap by presenting a general non-asymptotic framework for analyzing the minimax power of the permutation test. The utility of our proposed framework is illustrated in the context of two-sample and independence testing under both discrete and continuous settings. In each setting, we introduce permutation tests based on U-statistics and study their minimax performance. We also develop exponential concentration bounds for permuted U-statistics based on a novel coupling idea, which may be of independent interest. Building on these exponential bounds, we introduce permutation tests which are adaptive to unknown smoothness parameters without losing much power. The proposed framework is further illustrated using more sophisticated test statistics including weighted U-statistics for multinomial testing and Gaussian kernel-based statistics for density testing. Finally, we provide some simulation results that further justify the permutation approach.

研究の動機と目的

• 有限標本設定における順列検定のパワーに関する理論的理解の不足、特に単純なケースを超えた状況を解決すること。
• 順列検定の最小最大型第二種誤り率を非漸近的に分析するフレームワークを開発すること。
• 離散的および連続的分布の下で、二標本検定および独立性検定における順列検定の最小最大レート最適性を確立すること。
• 滑らかさパラメータの事前知識がなくても、近似的に最適なパワーを達成する適応的順列検定を構築すること。
• 重み付きU統計量および密度検定に用いられるカーネルベースの統計量といった複雑な検定統計量へフレームワークを拡張すること。

提案手法

• U統計量に基づく順列検定の最小最大パワーを非漸近的に分析する包括的なフレームワークを提案する。
• 新しいカップリングに基づく手法を導入し、順列されたU統計量の指数的集中不等式を導出する。
• 得られた集中不等式を用いて、順列検定の確率的臨界値を制御し、パワー分析を可能にする。
• 離散的および連続的分布の下で、二標本検定および独立性検定にこのフレームワークを適用する。
• Dvoretzky–Kiefer–Wolfowitz不等式を用いて、有限標本誤差の境界を伴う順列分布のモンテカルロ近似を構築する。
• 滑らかさの事前知識がなくても、最小最大最適性を維持するテストを構築することで、未知の滑らかさパラメータへの適応性を示す。

実験結果

リサーチクエスチョン

• RQ1 二標本検定および独立性検定において、順列検定は非漸近的設定で最小最大レート最適パワーを達成できるか？
• RQ2 順列検定の確率的臨界値をどのように制御すれば、有限標本パワー分析が可能になるか？
• RQ3 U統計量およびその順列化されたバージョンが最小最大最適性を達成するために果たす役割は何か？
• RQ4 滑らかさパラメータが未知であっても、パワーを損なわずに順列検定を適応的にできるか？
• RQ5 順列U統計量の指数的集中不等式は、順列検定の理論的分析にどのように寄与するか？

主な発見

• U統計量に基づく順列検定は、離散的および連続的分布の下で、二標本検定および独立性検定において最小最大レート最適性を達成する。
• 提案されたフレームワークにより、帰無分布が正規でなく高次元であっても、順列検定が最小最大パワーを維持することが示された。
• 新規のカップリング技法を用いて、順列U統計量の指数的集中不等式が導出され、これは独立した理論的関心を有する。
• このフレームワークにより、滑らかさパラメータの事前知識がなくても、近似的に最小最大パワーを維持する順列検定の構築が可能になった。
• モンテカルロ近似による順列分布の近似は、弱い条件下でも第二種誤差を高い確率で制御できることを示した。
• シミュレーション結果は理論的発見を支持しており、提案された順列検定の有効性とロバストネスを確認した。