[論文レビュー] Eigenvector Under Random Perturbation: A Nonasymptotic Rayleigh-Schrödinger Theory

Yiqiao Zhong|arXiv (Cornell University)|Feb 1, 2017

Random Matrices and Applications参考文献 19被引用数 13

ひとこと要約

この論文は、ランダム行列の摂動下における固有ベクトルの非漸近的レイリー・シュレーディンガー摂動理論を展開し、$ A $ がエルミート行列で、$ E $ が非対角成分が独立で中心化されたサブガウスィアン分布に従うランダムエルミート行列であるとき、すべての $ j > 1 $ に対して高確率で $ |π ⌣π \widetilde{u}_1, u_j \rangle| \leq O(\sqrt{\log n}/(\lambda_1 - \lambda_j)) $ が成り立つことを示している。これは $ \|E\|_2 \gg \lambda_1 - \lambda_2 $ であっても成り立つ。この結果は、第一固有値ギャップのみに依存するデイヴィス＝カハンの定理を、すべての固有値ギャップに依存する形に改善したものである。

ABSTRACT

Rayleigh-Schrödinger perturbation theory is a well-known theory in quantum mechanics and it offers useful characterization of eigenvectors of a perturbed matrix. Suppose $A$ and perturbation $E$ are both Hermitian matrices, $A^t = A + tE$, $\{λ_j\}_{j=1}^n$ are eigenvalues of $A$ in descending order, and $u_1, u^t_1$ are leading eigenvectors of $A$ and $A^t$. Rayleigh-Schrödinger theory shows asymptotically, $\langle u^t_1, u_j angle \propto t / (λ_1 - λ_j)$ where $ t = o(1)$. However, the asymptotic theory does not apply to larger $t$; in particular, it fails when $ t \| E \|_2 > λ_1 - λ_2$. In this paper, we present a nonasymptotic theory with $E$ being a random matrix. We prove that, when $t = 1$ and $E$ has independent and centered subgaussian entries above its diagonal, with high probability, \begin{equation*} | \langle u^1_1, u_j angle | = O(\sqrt{\log n} / (λ_1 - λ_j)), \end{equation*} for all $j>1$ simultaneously, under a condition on eigenvalues of $A$ that involves all gaps $λ_1 - λ_j$. This bound is valid, even in cases where $\| E \|_2 \gg λ_1 - λ_2$. The result is optimal, except for a log term. It also leads to an improvement of Davis-Kahan theorem.

研究の動機と目的

• 小さな摂動の範囲を超える非漸近的レイリー・シュレーディンガー摂動理論の拡張を構築すること。
• 特に $ \|E\|_2 \gg \lambda_1 - \lambda_2 $ のような非小規模な摂動下でも、エルミート行列 $ A $ の固有ベクトル $ \widetilde{u}_1 $ の摂動を特徴づけること。
• すべての固有値ギャップ $ \lambda_1 - \lambda_j $ に依存する、$ |\langle \widetilde{u}_1, u_j \rangle| $ の高確率的バウンドを導出すること。
• デイヴィス＝カハンの定理を、第一固有値ギャップ $ \delta = \lambda_1 - \lambda_2 $ に依存するのではなく、すべてのギャップに依存するより洗練された依存関係に改善すること。

提案手法

• 非対角成分が独立で中心化されたサブガウスィアン分布に従うランダムエルミート行列 $ E $ を用いた摂動 $ \widetilde{A} = A + E $ の主固有ベクトル $ \widetilde{u}_1 $ を分析することにより、固有ベクトル摂動の非漸近的枠組みを導入する。
• レイリー・シュレーディンガー級数による摂動展開を行うが、$ t \to 0 $ の漸近的領域を超えて $ t = 1 $ まで拡張し、ランダム行列理論を活用する。
• 摂動固有ベクトルを $ \widetilde{u}_1 = u_1 + U_{\bot} q^\infty $ の形に分解し、$ q^\infty $ を $ E $ の非対角ブロックを含む射影固有値問題の解とみなす。
• ホルダーの不等式とランダム行列成分の尾確率バウンドを用いて $ q^\infty $ の大きさを制御し、固有値ギャップとサブガウスィアンノルムに関する仮定を用いる。
• 重要な不等式 $ E_{11} + E_{12} q^\infty < \delta/2 $ が高確率で成り立つことを示し、主固有値が支配的であることを保証する。
• 変分的議論により候補ベクトルのレイリー商をバウンドし、$ \widetilde{u}_1 $ に直交する単位ベクトルがレイリー商を $ \lambda_2 + \delta/2 $ 超えることはないことを証明することで、$ \widetilde{u}_1 $ の支配的性質を確認する。

実験結果

リサーチクエスチョン

• RQ1 ランダム行列摂動下における固有ベクトルの非漸近的レイリー・シュレーディンガー摂動理論を構築することは可能か？
• RQ2 すべての $ j > 1 $ に対して、$ \|E\|_2 \gg \lambda_1 - \lambda_2 $ であっても、$ |\langle \widetilde{u}_1, u_j \rangle| $ を一様にバウンドすることは可能か？
• RQ3 第一固有値ギャップ $ \lambda_1 - \lambda_2 $ のみに依存するのではなく、すべての固有値ギャップ $ \lambda_1 - \lambda_j $ に依存する形に、デイヴィス＝カハンの定理を改善することは可能か？
• RQ4 特にランダムノイズが存在する状況において、固有ベクトル摂動の最適なスペクトル依存性は何か？

主な発見

• 高確率で、$ t = 1 $ かつ $ E $ が独立で中心化されたサブガウスィアン成分を持つとき、すべての $ j > 1 $ に対して $ |\langle \widetilde{u}_1, u_j \rangle| = O(\sqrt{\log n}/(\lambda_1 - \lambda_j)) $ が一様に成り立つ。
• このバウンドは $ \|E\|_2 \gg \lambda_1 - \lambda_2 $ のような領域でも有効であり、古典的な漸近的摂動理論が失敗する領域でも成立する。
• 与えられた仮定のもとでは $ \sqrt{\log n} $ 項は除去できないため、この結果は対数要因を除いて最適である。
• 解析により、すべての固有値ギャップ $ \lambda_1 - \lambda_j $ に依存する、デイヴィス＝カハンの定理の洗練版が得られた。
• 証明により、$ \widetilde{A} $ の主固有値が高確率で $ (\lambda_1 + \lambda_2)/2 $ を上回ることを示し、$ \widetilde{u}_1 $ の支配的性質を保証した。
• モーメントバウンドとホルダーの不等式を用いて、射影固有値方程式の解 $ q^\infty $ を効果的に制御でき、すべての $ j > 1 $ に対して一様バウンドを達成した。