[論文レビュー] Energy Landscape for large average submatrix detection problems in Gaussian random matrices

Shankar Bhamidi, Partha S. Dey+1 more|arXiv (Cornell University)|Nov 10, 2012

Random Matrices and Applications参考文献 31被引用数 8

ひとこと要約

この論文は、$n \times n$ ガウス確率行列における大規模な平均部分行列について、漸近的解析を厳密に行い、グローバル最大値とローカル最大値に焦点を当てる。著者らは、スティン法の新規変種を用いて、ローカル最大値の数に対する中心極限定理を確立し、その平均数が $\Theta(n^k / (\log n)^{(k-1)/2})$ のスケーリングを示す。また、典型的な平均値はグローバル最大値の $1/\sqrt{2}$ 倍の範囲内に収まることが判明した。

ABSTRACT

The problem of finding large average submatrices of a real-valued matrix arises in the exploratory analysis of data from a variety of disciplines, ranging from genomics to social sciences. In this paper we provide a detailed asymptotic analysis of large average submatrices of an $n imes n$ Gaussian random matrix. The first part of the paper addresses global maxima. For fixed $k$ we identify the average and the joint distribution of the $k imes k$ submatrix having largest average value. As a dual result, we establish that the size of the largest square sub-matrix with average bigger than a fixed positive constant is, with high probability, equal to one of two consecutive integers that depend on the threshold and the matrix dimension $n$. The second part of the paper addresses local maxima. Specifically we consider submatrices with dominant row and column sums that arise as the local optima of iterative search procedures for large average submatrices. For fixed $k$, we identify the limiting average value and joint distribution of a $k imes k$ submatrix conditioned to be a local maxima. In order to understand the density of such local optima and explain the quick convergence of such iterative procedures, we analyze the number $L_n(k)$ of local maxima, beginning with exact asymptotic expressions for the mean and fluctuation behavior of $L_n(k)$. For fixed $k$, the mean of $L_{n}(k)$ is $Θ(n^{k}/(\log{n})^{(k-1)/2})$ while the standard deviation is $Θ(n^{2k^2/(k+1)}/(\log{n})^{k^2/(k+1)})$. Our principal result is a Gaussian central limit theorem for $L_n(k)$ that is based on a new variant of Stein's method.

研究の動機と目的

• $n \times n$ ガウス確率行列における最大平均 $k \times k$ 部分行列の漸近的挙動を分析すること。
• 固定された $k$ に対して、グローバル最大値部分行列の連関分布および極限平均値を特徴付けること。
• 反復的探索アルゴリズムに関連する、支配的行および列和を持つローカル最大値を研究すること。
• ローカル最大値の期待値および分散 $L_n(k)$ の正確な漸近的表現を導出すること。
• 強い依存構造を有するにもかかわらず、複雑な相関構造を克服する新しいスティン法の変種を用いて、$L_n(k)$ に対する中心極限定理を確立すること。

提案手法

• グローバル最大値部分行列の分布を解析するため、洗練されたガウス比較不等式を用いる。
• 極値理論を適用し、固定しきい値を超える最大部分行列のサイズが二点集中を示すことを証明する。
• ローカル最大値を、支配的行および列和を持つ部分行列として定義し、反復的バイクラスタリングアルゴリズムの不動点をモデル化する。
• 長距離相関のための非標準的スケーリングを示す、$\mathbb{E}[L_n(k)]$ および $\mathrm{Var}(L_n(k))$ の正確な漸近的表現を導出する。
• 強い依存性を持つローカル最適解間の相関構造を克服するため、スティン法の新規変種を導入し、$L_n(k)$ に対する中心極限定理を証明する。
• 条件付きモーメント計算と、重なりが異なる部分行列間の共分散バウンドを用いて、分散項を制御する。

実験結果

リサーチクエスチョン

• RQ1 $n \times n$ ガウス確率行列における平均が最大の $k \times k$ 部分行列の極限平均値および連関分布は何か？
• RQ2 固定された正の定数を超える平均を持つ最大の $k \times k$ 部分行列の典型的なサイズは何か？
• RQ3 $n \times n$ ガウス確率行列にローカル最大値はいくつ存在するのか？ また、それらはどのように分布しているか？
• RQ4 ローカル最大値の数 $L_n(k)$ の漸近的挙動は何か？ また、中心極限定理を満たすか？
• RQ5 典型的なローカル最大値の平均値は、グローバル最大値の平均値にどの程度近いか？

主な発見

• 固定された $k$ に対して、ローカル最大値の期待値 $\mathbb{E}[L_n(k)]$ は $\Theta\left(\frac{n^k}{(\log n)^{(k-1)/2}}\right)$ のスケーリングを示す。
• 分散 $\mathrm{Var}(L_n(k))$ は $\mathrm{Var}(L_n(k)) = \Theta\left(\left(\frac{n}{\sqrt{\log n}}\right)^{2k^2/(k+1)}\right)$ のスケーリングを示し、ローカル最適解間の強い相関を反映している。
• 複雑な依存構造を有するにもかかわらず、スティン法の新規変種を用いて $L_n(k)$ に対する中心極限定理が成立することが証明された。
• 典型的なローカル最大値の平均値は、グローバル最大値の平均値の $1/\sqrt{2}$ 倍の範囲内に収まる。
• 共通の行や列を持たないローカル最適な部分行列の数は、分散にほとんど寄与せず、主な寄与は重なりを持つペアに由来する。
• 本研究では、固定しきい値を超える最大部分行列のサイズに対して二点集中が確立され、それがほとんど確実に連続する二つの整数のいずれかであることが示された。