[論文レビュー] Universally Consistent Latent Position Estimation and Vertex Classification for Random Dot Product Graphs

Daniel L. Sussman, Minh Tang+1 more|arXiv (Cornell University)|Jul 29, 2012

Bayesian Methods and Mixture Models参考文献 20被引用数 8

ひとこと要約

本稿では、隣接行列の固有値分解を用いて、ランダムドットプロダクトグラフにおける潜在的位置の普遍的整合性のある推定手法を提案し、これらの推定値を用いたk近傍法分類がグラフサイズが増加するにつれてベイズ最適誤差率に収束することを示している。本手法は、潜在的位置が観測不能であり、グラフ構造のみが観測可能な状況においても、未知の潜在分布に対して頑健であり、一貫性を保つ。

ABSTRACT

In this work we show that, using the eigen-decomposition of the adjacency matrix, we can consistently estimate latent positions for random dot product graphs provided the latent positions are i.i.d. from some distribution. If class labels are observed for a number of vertices tending to infinity, then we show that the remaining vertices can be classified with error converging to Bayes optimal using the $k$-nearest-neighbors classification rule. We evaluate the proposed methods on simulated data and a graph derived from Wikipedia.

研究の動機と目的

• 隣接行列のみが観測可能である状況下で、ランダムドットプロダクトグラフにおける潜在的位置の一貫性のある推定手法の開発。
• 推定された潜在的位置に基づくk近傍法による頂点分類の普遍的整合性の確立。
• 潜在ベクトルの背後にある分布が未知であっても、本手法が一貫性を保つことの証明。
• シミュレーションデータおよびWikipediaハイパーリンクグラフを用いた実験的妥当性の検証。

提案手法

• 隣接行列の固有値分解を用いて潜在的位置を推定し、期待される隣接行列の固有値分解が直交変換を除いて真の潜在ベクトルを回復できることを利用。
• 得られた推定潜在ベクトルをk近傍法分類の特徴量として使用。
• 両方のシミュレーションおよび実世界のグラフにおいて、分類誤差率の評価に留め置き交差検証（leave-one-out cross-validation）を適用。
• 頂点数の増加に伴い潜在位置の推定誤差がゼロに収束することを示すことにより、一貫性を保証。
• 潜在ベクトルの分布にかかわらず、推定位置を用いた分類誤差がベイズ最適誤差率に収束することを証明。
• モンテカルロシミュレーションおよび実データ（Wikipediaハイパーリンクグラフ）を用いて、さまざまな次元および近傍数における性能の妥当性を検証。

実験結果

リサーチクエスチョン

• RQ1 真の位置が未知の分布に従って独立同分布に生成されている場合、隣接行列からの潜在位置の推定が一貫性を保つか。
• RQ2 推定された潜在位置に基づくk近傍法分類が、普遍的整合性（すなわちベイズ最適誤差に収束する）を満たすか。
• RQ3 シミュレーションおよび実世界の設定において、グラフサイズの増加に伴い、本手法の性能はどのように変化するか。
• RQ4 実用的応用において、埋め込み次元および近傍数の変動に対して、本手法は頑健であるか。

主な発見

• 隣接行列の固有値分解により、潜在位置が一貫して推定され、頂点ごとの平均二乗誤差は頂点数の増加に伴い減少する。
• 推定された潜在位置を用いた分類誤差は、シミュレーションおよびWikipediaグラフの留め置き交差検証により、ベイズ最適誤差率に収束することが確認された。
• 1382頂点および5クラスのWikipediaグラフでは、分類誤差率は偶然よりも著しく低く（約0.688）、d ≈ 10およびk ≈ 9のとき最良の性能が得られた。
• kおよびdの変動に対して本手法は頑健であり、さまざまな埋め込み次元および近傍数において安定した誤差率を示した。
• シミュレーション結果から、推定位置を用いた分類誤差の収束速度は、真の潜在位置を用いた場合と同程度であることが示された。
• 潜在ベクトルの分布にかかわらず結果が成り立つことから、本手法の普遍的整合性が確認された。