[論文レビュー] Spectral Graph Matching and Regularized Quadratic Relaxations II: Erdős-Rényi Graphs and Universality

Zhou Fan, Cheng Mao+2 more|arXiv (Cornell University)|Jul 20, 2019

Random Matrices and Applications参考文献 15被引用数 21

ひとこと要約

本稿は、一般のウィグナー行列モデル下での相関付き Erdős-Rényi グラフにおける GRAMPA スペクトルグラフマッチングアルゴリズムの普遍的かつ正確な回復保証を確立する。リゾルベント表現とスパースなウィグナー行列に対する局所法則を活用することで、エッジ相関が $1 - \sigma^2$ であり、かつ $\sigma \lesssim 1/\operatorname{polylog}(n)$ であるとき、平均次数が $\operatorname{polylog}(n)$ 以上であれば、GRAMPA が高確率で隠れた頂点対応を正確に回復することを証明する。

ABSTRACT

We analyze a new spectral graph matching algorithm, GRAph Matching by Pairwise eigen-Alignments (GRAMPA), for recovering the latent vertex correspondence between two unlabeled, edge-correlated weighted graphs. Extending the exact recovery guarantees established in the companion paper for Gaussian weights, in this work, we prove the universality of these guarantees for a general correlated Wigner model. In particular, for two Erdős-Rényi graphs with edge correlation coefficient $1-σ^2$ and average degree at least $\operatorname{polylog}(n)$, we show that GRAMPA exactly recovers the latent vertex correspondence with high probability when $σ\lesssim 1/\operatorname{polylog}(n)$. Moreover, we establish a similar guarantee for a variant of GRAMPA, corresponding to a tighter quadratic programming relaxation of the quadratic assignment problem. Our analysis exploits a resolvent representation of the GRAMPA similarity matrix and local laws for the resolvents of sparse Wigner matrices.

研究の動機と目的

• ガウス分布モデルを超えたスペクトルグラフマッチングの正確な回復保証の普遍性を確立すること。
• 一般のウィグナー行列モデル下での相関付き Erdős-Rényi グラフにおける GRAMPA の性能を分析すること。
• ノイズレベル $\sigma$ が $O(1/\operatorname{polylog}(n))$ のとき、GRAMPA が高確率で正確な回復を達成することを証明すること。
• 同伴論文 [FMWX19] の理論枠組みを、より広いクラスの重めの尾を持つ分布および離散的重み分布へと拡張すること。
• より良い理論的保証を得られる、GRAMPA のタイトな二次計画法緩和の変種を開発すること。

提案手法

• ペアワイズ固有値アライメントと正則化パrameter $\eta$ を用いて類似度行列を構築する、GRAMPA と呼ばれるスペクトルグラフマッチングアルゴリズムを提案する。
• GRAMPA 類似度行列のリゾルベント表現を用いて、摂動下でのその構造と安定性を分析する。
• 集中不等式、スティルチェス変換、リゾルベントの境界など、確率行列理論の道具を用いて類似度行列の挙動を制御する。
• シュール補行列の恒等式と包含除算の議論を用いて、リゾルベント行列の成分を分解・評価する。
• モーメント条件の下で、スパースなウィグナー行列のリゾルベントの成分ごとの境界およびノルム境界を導出する。
• QAP のよりタイトな正則化された二次計画法緩和を導入し、リゾルベントに基づく解析により、理論的性能の向上を示す。

実験結果

リサーチクエスチョン

• RQ1 GRAMPA の正確な回復保証は、ガウス分布モデルを超えて、ベルヌーイ分布や有界成分を含むより一般の分布へと拡張可能か？
• RQ2 相関付き Erdős-Rényi グラフにおける GRAMPA が隠れたマッチングを正確に回復するためのノイズレベル $\sigma$ の正確な閾値は何か？
• RQ3 グラフのスパarsity は GRAMPA の性能にどのように影響するか。特に平均次数が $\operatorname{polylog}(n)$ のように増加する場合に注目する。
• RQ4 QAP のよりタイトな二次計画法緩和は、元の GRAMPA 定式化よりも良い正確な回復保証を達成可能か？
• RQ5 モーメント条件を満たすさまざまな分布（サブガウス分布や有界成分を含む）に対して、理論的結果がどの程度普遍的に成り立つか？

主な発見

• エッジ相関が $1 - \sigma^2$ であり、$\sigma \lesssim 1/\operatorname{polylog}(n)$ である場合、相関付き Erdős-Rényi モデル下で GRAMPA は高確率で隠れた頂点対応を正確に回復する。
• 正確な回復の閾値は、有界、サブガウス、Erdős-Rényi 成分を含む、モーメント条件を満たす広範なウィグナー行列のクラスにおいて普遍的である。
• GRAMPA 類似度行列のリゾルベント表現により、スパースなウィグナー行列に対する局所法則を用いて、非対角成分および対角成分の精密な制御が可能である。
• よりタイトな正則化された QP 缶体の QAP は、類似した正確な回復保証を達成するが、理論的安定性と収束性が向上している。
• スパースなウィグナー行列のリゾルベントに対する成分ごとの境界およびノルム境界を確立し、高確率で $\|R - m_0 \mathbf{1} \mathbf{1}^\top\|$ と $\|R\|_{\mathrm{op}}$ を制御した。
• 結果は確率 $1 - e^{-c(\log n)(\log \log n)}$ 以上で成り立つため、指定されたモーメント条件の下で強い集中性が示された。