[論文レビュー] Limit theorems for eigenvectors of the normalized Laplacian for random graphs

Minh Tang, Carey E. Priebe|arXiv (Cornell University)|Jul 28, 2016

Random Matrices and Applications参考文献 40被引用数 5

ひとこと要約

本稿は、ランダムドットプロダクトグラフおよびストークスティックブロックモデルグラフにおける正規化ラプラシアン行列の固有ベクトルに関する中心極限定理を確立し、スペクトル埋め込みがブロック所属に依存する平均および分散を持つ多変量正規分布に収束することを示している。埋め込み手法の比較にチェルノフ情報を利用する。ブロック回復において、隣接行列埋め込みと正規化ラプラシアン埋め込みの間に明確な優位性は認められない。

ABSTRACT

We prove a central limit theorem for the components of the eigenvectors corresponding to the $d$ largest eigenvalues of the normalized Laplacian matrix of a finite dimensional random dot product graph. As a corollary, we show that for stochastic blockmodel graphs, the rows of the spectral embedding of the normalized Laplacian converge to multivariate normals and furthermore the mean and the covariance matrix of each row are functions of the associated vertex's block membership. Together with prior results for the eigenvectors of the adjacency matrix, we then compare, via the Chernoff information between multivariate normal distributions, how the choice of embedding method impacts subsequent inference. We demonstrate that neither embedding method dominates with respect to the inference task of recovering the latent block assignments.

研究の動機と目的

• グラフ推論における隣接行列と正規化ラプラシアンスペクトル埋め込みの間の原理的比較の欠如に取り組む。
• 有限次元のランダムドットプロダクトグラフにおける正規化ラプラシアン行列の固有ベクトルに関する分布極限理論を構築する。
• ストークスティックブロックモデルグラフにおけるスペクトル埋め込みの漸近的分布を、多変量正規極限を用いて特徴付ける。
• クラスタリングアルゴリズムに依存しない埋め込み手法の比較のためのモデルに依存しない指標としてチェルノフ情報を提案する。
• スペクトル埋め込みを用いた潜在的ブロック割り当ての回復における、最適誤差率の観点から、1つの埋め込み手法が他より優位であるかどうかを評価する。

提案手法

• 有限次元のランダムドットプロダクトグラフにおける正規化ラプラシアン行列の固有ベクトルに関する中心極限定理を導出する。
• ブロック所属に条件づけた場合、正規化ラプラシアンのスケーリングされた固有ベクトルが、頂点数の増加に伴い多変量正規分布に収束することを確立する。
• 多変量正規分布間のチェルノフ情報を利用して、ブロック条件付き分布の統計的区別可能性を定量化する。
• 隣接行列と正規化ラプラシアンスペクトル埋め込みのチェルノフ情報を比較し、潜在的ブロック回復における相対的性能を評価する。
• 固有ベクトルの漸近的正規性を活用して、ブロック所属を関数として、スペクトル埋め込みの平均および共分散行列を計算する。
• 固有ベクトル極限定理から導かれる漸近的共分散行列を用いて、チェルノフ情報を定式化する。

実験結果

リサーチクエスチョン

• RQ1 ストークスティックブロックモデルグラフにおける正規化ラプラシアン行列の固有ベクトルは、頂点数の増加に伴い多変量正規分布に分布収束するか？
• RQ2 スペクトル埋め込みの各行の平均および共分散は、頂点の潜在的ブロック所属にどのように依存するか？
• RQ3 スペクトル埋め込みを用いたブロック割り当て回復のための漸近的最適誤差率は何か？
• RQ4 ブロック回復において、正規化ラプラシアン埋め込みは隣接行列埋め込みよりも低い最適誤差率を提供するか？
• RQ5 ブロック識別において、チェルノフ情報の観点から、優位な埋め込み手法は存在するか？

主な発見

• ストークスティックブロックモデルグラフにおける正規化ラプラシアン行列の固有ベクトルは、頂点数の増加に伴い分布収束し、多変量正規分布に近づく。
• 各埋め込み頂点行の平均および共分散行列は、そのブロック所属の関数として表され、埋め込み分布のパrametric特徴付けが可能になる。
• スペクトル埋め込みのブロック条件付き分布間のチェルノフ情報は、ブロック回復の最小達成可能誤差率を定量化する。
• 二ブロックのストークスティックブロックモデルでは、正規化ラプラシアン埋め込みが隣接行列埋め込みをチェルノフ情報の観点から一貫して上回らない。
• 最適誤差率がすべてのパrameter領域で1つの埋め込み手法に厳密に低いわけではないため、モデルパラメータに応じた性能のトレードオフが存在する。
• 隣接行列埋め込みに関する先行研究を拡張し、正規化ラプラシアンの同等の極限定理および比較フレームワークを提供する。