[論文レビュー] On the Consistency of the Likelihood Maximization Vertex Nomination Scheme: Bridging the Gap Between Maximum Likelihood Estimation and Graph Matching

Vince Lyzinski, Keith Levin+2 more|arXiv (Cornell University)|Jul 5, 2016

Complex Network Analysis Techniques参考文献 37被引用数 9

ひとこと要約

本稿は、ストークスティックブロックモデル（SBM）における最尤（ML）ベースの頂点ノミネーション手法の一貫性を確立し、MLノミネーションが漸近的にベイズ最適分類器の性能に達することを証明している。また、スケーラブルな制限的焦点MLの変種を導入し、モデルパラメータが未知であり、シードがグラフ全体に占める割合が減少する場合でも一貫性が保たれることを示している。

ABSTRACT

Given a graph in which a few vertices are deemed interesting a priori, the vertex nomination task is to order the remaining vertices into a nomination list such that there is a concentration of interesting vertices at the top of the list. Previous work has yielded several approaches to this problem, with theoretical results in the setting where the graph is drawn from a stochastic block model (SBM), including a vertex nomination analogue of the Bayes optimal classifier. In this paper, we prove that maximum likelihood (ML)-based vertex nomination is consistent, in the sense that the performance of the ML-based scheme asymptotically matches that of the Bayes optimal scheme. We prove theorems of this form both when model parameters are known and unknown. Additionally, we introduce and prove consistency of a related, more scalable restricted-focus ML vertex nomination scheme. Finally, we incorporate vertex and edge features into ML-based vertex nomination and briefly explore the empirical effectiveness of this approach.

研究の動機と目的

• ストークスティックブロックモデル（SBM）における最尤（ML）ベースの頂点ノミネーション手法の理論的一貫性を確立し、性能がベイズ最適分類器に近づくことを保証すること。
• 理論的一貫性を維持しながら、よりスケーラブルなML頂点ノミネーションの変種である制限的焦点ML手法を開発すること。
• モデルパラメータが未知であり、シード頂点から推定される場合でも、シード数がグラフサイズに対して部分的に増加する場合に一貫性が保たれるかを証明すること。
• 頂点および辺の特徴をMLベースの頂点ノミネーションフレームワークに統合し、実用的応用性を高めること。
• 最尤推定とグラフマッチングの間のギャップを埋めるために、頂点ノミネーションタスクにおける一貫性を形式化すること。

提案手法

• SBMの仮定に基づき、関心のあるコミュニティに属する可能性の高い頂点をランキングする最尤頂点ノミネーション手法（ML-VN）を提案する。
• コア部分グラフに焦点を絞ることで計算複雑性を低減し、正確かつ効率的な解法が可能な制限的焦点ML-VN（$\mathcal{L}^{\text{ML}}_R$）を導入する。
• 集中不等式とBorel-Cantelliの補題を用いて、ノミネーション性能が最適水準にほとんど確実に収束することを証明する。
• 候補順列間の尤度差を分析するために、コアブロックの主成分置換行列$\tilde{P}$を用いる。
• 行列$A$、$B$および置換行列を含むトレースに基づく表現を用いて、期待尤度差の下界を導出する。
• SBMフレームワークを拡張し、追加の特徴依存エッジ確率を含めることで、頂点および辺の特徴を尤度モデルに統合する。

実験結果

リサーチクエスチョン

• RQ1 最尤頂点ノミネーション手法は、ストークスティックブロックモデル（SBM）において、ベイズ最適分類器に漸近的に一致する性能を達成できるか？
• RQ2 制限的焦点ML頂点ノミネーション手法は、計算スケーラビリティを向上させつつも一貫性を維持できるか？
• RQ3 モデルパラメータが未知であり、少数のシード頂点から推定される場合でも、一貫性が保たれるか？
• RQ4 理論的保証を損なわずに、頂点および辺の特徴をMLベースの頂点ノミネーションフレームワークに統合する方法は何か？
• RQ5 弱いSBM仮定の下で、MLベースのノミネーションとベイズ最適手法との間の理論的性能差は何か？

主な発見

• 最尤頂点ノミネーション手法は、弱いSBM仮定のもとで一貫性を示し、その性能が漸近的にベイズ最適分類器に一致する。
• 制限的焦点ML頂点ノミネーション手法（$\mathcal{L}^{\text{ML}}_R$）は一貫性を示し、計算的にもより効率的であり、実用的に正確な解法が可能である。
• モデルパラメータが未知であり、シード頂点から推定される場合でも、シード数がグラフサイズに対して部分的に増加する限り、一貫性が保たれる。
• ML手法における非最適ノミネーションの確率は、$\exp\{-c_2 n^{7/4} \log n\}$で抑えられ、指数的かつ高速に減少するため、ほとんど確実な収束が保証される。
• シード数が$o(n)$であっても理論的保証が成立し、スパarsな監視のもとでも頑健であることが示された。
• 合成データおよび実データにおける実験結果が理論的予想を裏付け、特徴を含む・含まないにかかわらず、MLベースの手法が優れた性能を示している。