[論文レビュー] Two-sample tests for high-dimension, strongly spiked eigenvalue models

Makoto Aoshima, Kazuyoshi Yata|arXiv (Cornell University)|Feb 8, 2016

Random Matrices and ApplicationsMathematics参考文献 24被引用数 20

ひとこと要約

本稿は、強いスプライク固有値（SSE）および非SSEモデルの下で、正定値行列 A を用いた一般化された検定統計量に基づく、高次元データに対する新しい二標本検定を提案する。弱い条件下でも漸近的正規性および一致性を確立し、非SSEモデル下での最適性を導出するとともに、スプライク固有値構造を活用してSSEモデルに特化した新しい効果的プロシージャーを提案し、高次元・小標本設定における性能を著しく向上させる。

ABSTRACT

We consider two-sample tests for high-dimensional data under two disjoint models: the strongly spiked eigenvalue (SSE) model and the non-SSE (NSSE) model. We provide a general test statistic as a function of a positive-semidefinite matrix. We give sufficient conditions for the test statistic to satisfy a consistency property and to be asymptotically normal. We discuss an optimality of the test statistic under the NSSE model. We also investigate the test statistic under the SSE model by considering strongly spiked eigenstructures and create a new effective test procedure for the SSE model. Finally, we discuss the performance of the classifiers numerically.

研究の動機と目的

• 高次元データにおける強いスプライク固有値（SSE）および非SSE（NSSE）の2つの異なる固有構造モデルの下で、統一的な二標本検定を開発すること。
• 正定値行列 A を用いた一般化された検定統計量が漸近的に正規的かつ一貫的であるための十分条件を確立すること。
• 非SSEモデル下での検定統計量の最適性を調査すること。
• スプライク固有値構造を活用して、SSEモデルに特化した新しい効果的検定プロシージャーを設計すること。
• 高次元・小標本（HDLSS）設定における提案分類器の性能を数値的に評価すること。

提案手法

• 検定統計量は $ T(\mathbf{A}) = (\bar{\mathbf{x}}_{1n_1} - \bar{\mathbf{x}}_{2n_2})^T \mathbf{A} (\bar{\mathbf{x}}_{1n_1} - \bar{\mathbf{x}}_{2n_2}) - \sum_{i=1}^2 \mathrm{tr}(\mathbf{S}_{in_i} \mathbf{A}) / n_i $ で定義され、ここで $ \mathbf{A} $ は正定値行列である。
• 一般行列 $ \mathbf{A} $ を用いることで、異なる固有構造に対応する柔軟性を確保し、$ \mathbf{A} = \mathbf{I}_p $ の場合、距離ベースの検定に帰着する。
• 高次元漸近的理論を用いて、$ \lambda_{i1}^2 / \mathrm{tr}(\boldsymbol{\Sigma}_i^2) \to 0 $ が $ p \to \infty $ の下で成り立つ条件の下で $ T(\mathbf{A}) $ の漸近的正規性を確立し、HDLSS設定でも有効であることを保証する。
• SSEモデルでは、少数の大きな固有値の存在を活用し、固有構造に適合した設計によって検出力が向上する新しい検定プロシージャーを構築する。
• 理論的結果は、分布収束および固有値の減衰条件を含む、高次元漸近理論を用いて導出される。
• 数値的性能は、さまざまな高次元設定下での分類精度と頑健性を評価するためのシミュレーションを通じて評価される。

実験結果

リサーチクエスチョン

• RQ1 一般化された検定統計量 $ T(\mathbf{A}) $ が高次元二標本検定において、どのような条件下で漸近的に正規的かつ一貫的となるか。
• RQ2 非SSEモデル下での検定の最適性に、行列 $ \mathbf{A} $ の選択がどのように影響するか。
• RQ3 SSEモデルに対して、スプライク固有値構造を効果的に活用する新しい検定プロシージャーを構築できるか。
• RQ4 提案された検定の有限標本性能は、HDLSS設定下で既存手法と比較してどのように異なるか。
• RQ5 固有値に関する理論的条件、たとえば $ \lambda_{i1}^2 / \mathrm{tr}(\boldsymbol{\Sigma}_i^2) \to 0 $ が、検定の有効性にどのように影響するか。

主な発見

• 条件 $ \lambda_{i1}^2 / \mathrm{tr}(\boldsymbol{\Sigma}_i^2) \to 0 $ が $ p \to \infty $ の下で成り立つとき、検定統計量 $ T(\mathbf{A}) $ は漸近的に正規的であり、高次元設定下での有効な推論を保証する。
• 行列 $ \mathbf{A} = \mathbf{I}_p $ の距離ベースの検定は、非SSEモデル下で最適であり、弱い正則性条件の下で可能な限り高い検出力を達成することが示された。
• SSEモデルでは、スプライク固有値構造を明示的に活用する新しい検定プロシージャーが開発され、標準的手法よりも顕著に性能が向上した。
• 理論的分析により、検定統計量が $ p/n_i \to \infty $ でさえも一貫性および漸近的正規性を保つことが確認され、HDLSS領域をカバーしている。
• 数値結果により、提案された分類器が、固有構造が強くスプライクされている場合を除き、既存手法を上回る分類精度を示した。
• 本稿では、検定統計量の漸近的分布が非正規性および異分散性に対して頑健であることが確立され、実世界の高次元データへの応用範囲を広げた。