[論文レビュー] Robust Hypothesis Testing with Wasserstein Uncertainty Sets

Liyan Xie, Rui Gao+1 more|arXiv (Cornell University)|May 29, 2021

Advanced Statistical Process Monitoring被引用数 6

ひとこと要約

本稿では、Wasserstein不確実性集合を用いた頑健な非パrametric仮説検定を提案し、統計的検定における限られた標本サイズの状況に対処する。分布に頼らない最適化と強い双対性を活用することで、計算が容易かつ統計的に信頼性のある検定を実現する、取り扱い可能な凸最適化問題に定式化される。これは、経験的分布が疎であったり、サポートの不一致が生じたりする場合でも有効である。

ABSTRACT

We consider a data-driven robust hypothesis test where the optimal test will minimize the worst-case performance regarding distributions that are close to the empirical distributions with respect to the Wasserstein distance. This leads to a new non-parametric hypothesis testing framework based on distributionally robust optimization, which is more robust when there are limited samples for one or both hypotheses. Such a scenario often arises from applications such as health care, online change-point detection, and anomaly detection. We study the computational and statistical properties of the proposed test by presenting a tractable convex reformulation of the original infinite-dimensional variational problem exploiting Wasserstein's properties and characterizing the radii selection for the uncertainty sets. We also demonstrate the good performance of our method on synthetic and real data.

研究の動機と目的

• 訓練標本が1つ以上の仮説において限られている場合に生じる信頼性の低い仮説検定の課題に対処する。
• 高次元またはスパースなデータ環境下で、従来のGLRT や密度比推定法に見られる制限を克服する。
• 経験的分布が非ゼロ確率領域にサポートを持たない場合でも有効な、非パラメトリックで分布に頼らない頑健な検定フレームワークを開発する。
• 無限次元のミニマックス問題を扱いやすい凸最適化問題に再定式化することで、頑健な検定の計算可能性を保証する。
• 頑健性と統計的パワーのバランスを取るために、最適な不確実性集合半径を特定する。

提案手法

• 経験的分布の周囲にWasserstein距離の球で定義された不確実性集合を用いた、分布に頼らない最適化問題を定式化する。
• 強い双対性を用いてミニマックス問題を2つの部分問題に分離する：固定された分布に対する最適な検定の特定、次に最も不利な分布（LFD）の同定。
• Kantorovich双対性を適用して、Wassersteinあいまいさ集合を有限次元の凸最適化問題に再定式化する。
• 双対定式化から得られるLFDに基づいて最適な検定を構築し、分布シフトに対して頑健であることを保証する。
• 複数の標本にわたる検定統計量を統合することで、バッチ検定への拡張を実現する。
• 最適輸送の漸近的解析から導かれる理論的境界を用いて、Wasserstein不確実性集合の最適半径を特徴付ける。

実験結果

リサーチクエスチョン

• RQ1 1つ以上の仮説の訓練標本が少ない状況においても有効な、頑健な仮説検定をどのように設計できるか？
• RQ2 KLダイバージェンス や全変動距離とは異なり、異なるサポートを持つ分布を許容するWasserstein距離を用いた不確実性集合を構築できるか？
• RQ3 頑健なミニマックス仮説検定を解く計算複雑度は何か？ また、取り扱いやすい凸計画問題に低減可能か？
• RQ4 頑健性と統計的パワーのバランスを取るために、Wasserstein不確実性集合の半径はどのように選択すべきか？
• RQ5 標本サイズが増加する条件下でのテストの漸近的挙動は何か？ また、古典的検定と比較してどうなるか？

主な発見

• 強い双対性とKantorovich双対性を用いることで、元の無限次元ミニマックス問題が取り扱いやすい凸最適化問題に再定式化された。
• 最も不利益な分布（LFD）は、有限次元の凸最適化問題を解くことで計算可能であり、実装が可能である。
• 特に経験的分布のサポートが疎または不一致を示す場合に、古典的検定よりも本手法が優れた性能を示す。
• 頑健性を保ちつつ統計的パワーを維持するため、Wasserstein不確実性集合の半径を理論的に特徴付けることができる。
• 合成データおよび実データに対する実験結果から、異常検知および変化点検知タスクにおいて本手法が優れた性能を発揮することが示された。
• 漸近的解析により、ポisson過程の結合に関する弱大数法則から導かれるテスト統計量の収束が確認された。