[論文レビュー] Investigate Invertibility of Sparse Symmetric Matrix

Wei Feng|arXiv (Cornell University)|Dec 10, 2017

Random Matrices and Applications参考文献 10被引用数 3

ひとこと要約

本稿では、i.i.d. ベルヌーイ分布に従うスパース性と、平均0、分散1、有限な四次モーメントをもつサブガウスィアンエントリを持つ $n \times n$ スパース対称ランダム行列 $A$ が、スパースパラメータ $p \geq n^{-c}$（$c$ はエントリの四次モーメントに依存する定数）の下で高確率で正則であることを確立する。組合せ的アプローチと対称的スパース性に適応されたデコネキシング技術を用いて、最小特異値に対する定量的下界 $s_{\text{min}}(A) > \varepsilon \sqrt{p/n}$ を示している。

ABSTRACT

In this paper, we investigate the invertibility of sparse symmetric matrices. We show that for an $n imes n$ sparse symmetric random matrix $A$ with $A_{ij} = δ_{ij} ξ_{ij}$ is invertible with high probability. Here, $δ_{ij}$s, $i\ge j$ are i.i.d. Bernoulli random variables with $\mathbb{P} \left(ξ_{ij}=1 ight) =p \ge n^{-c}$, $ξ_{ij}, i\ge j$ are i.i.d. random variables with mean 0, variance 1 and finite forth moment $M_4$, and $c$ is constant depending on $M_4$. More precisely, $$ s_{ m min} (A) > \varepsilon \sqrt{\frac{p}{n}}. $$ with high probability.

研究の動機と目的

• スパース対称ランダム行列の定量的正則性を、一般のサブガウスィアンエントリの仮定のもとで確立すること。
• 非スパースな正則性結果を、組合せ的および集中不等式技術を用いてスパース対称ケースに拡張すること。
• このような行列の最小特異値 $s_{\text{min}}(A)$ に対して、高確率的下界を導出すること。
• 標準的手法がi.i.d. 非対称構造に依存するのを困難にする、対称的スパース性の課題に対処すること。

提案手法

• 行列 $A$ を $A_{ij} = \delta_{ij} \xi_{ij}$ としてモデル化し、$\delta_{ij}$ をパラメータ $p$ のi.i.i.d. ベルヌーイ分布、$\xi_{ij}$ を平均0、分散1、有限な四次モーメントをもつi.i.d. サブガウスィアン分布とする。
• スパースネスパターン $\bm{\delta}$ を条件付きで扱い、$A$ をランダムなサポート上でのi.i.d. エントリを持つランダム行列とみなす。
• ガウス型濃度不等式を用いて、$\bm{\delta}$ 条件付きで作用素ノルム $\|A\|$ を制御し、ガウス測度におけるノルムの $\sqrt{2}$-リプシッツ性を応用する。
• スパースなベクトル $x$ に対する $Ax$ のノルムを制御するための組合せ的補題を、対称的スパース性に適応して用いる。
• $\|A\|$ の $pn$ 乗モーメントにマルコフの不等式を適用し、作用素ノルムの尾確率を導出する。
• 濃度不等式とモーメントの境界を組み合わせることで、$\|A\| \leq C_{\text{op}} \sqrt{pn}$ および $s_{\text{min}}(A) > \varepsilon \sqrt{p/n}$ が高確率で成り立つことを示す。

実験結果

リサーチクエスチョン

• RQ1 サブガウスィアンエントリの仮定のもとで、スパース対称ランダム行列の正則性は高確率で成立するか？
• RQ2 このような行列の最小特異値 $s_{\text{min}}(A)$ の最良の下界は何か？
• RQ3 スパースレベル $p$ は、対称ランダム行列の正則性と条件数にどのように影響するか？
• RQ4 非ヘルミートスパース行列に用いられる技術を、対称ケースに適応できるか？

主な発見

• エントリの四次モーメントに依存する定数 $c$ に対して $p \geq n^{-c}$ の下で、行列 $A$ は高確率で正則である。
• 任意の $\varepsilon > 0$ に対して、最小特異値は高確率で $s_{\text{min}}(A) > \varepsilon \sqrt{p/n}$ を満たす。
• 作用素ノルム $\|A\|$ は高確率で $C_{\text{op}} \sqrt{pn}$ で有界である。
• 同じスパース条件のもとで、条件数 $\sigma(A) = s_{\text{max}}(A)/s_{\text{min}}(A)$ は高確率で $O(n)$ で有界である。
• 組合せ的アプローチの対称的変種を用いることで、非ヘルミートスパース行列に関する先行研究を対称ケースに拡張した。
• 証明は、スパースネスパターンの条件付き処理、モーメント推定、ガウス型濃度不等式を用いて作用素ノルムと特異値を制御することに依存している。