[论文解读] On the Consistency of the Likelihood Maximization Vertex Nomination Scheme: Bridging the Gap Between Maximum Likelihood Estimation and Graph Matching

Vince Lyzinski, Keith Levin+2 more|arXiv (Cornell University)|Jul 5, 2016

Complex Network Analysis Techniques参考文献 37被引用 9

一句话总结

本文在随机块模型中建立了基于最大似然（ML）的顶点提名方案的一致性，证明了ML提名在渐近意义上可达到贝叶斯最优分类器的性能。本文提出了一种可扩展的受限关注ML变体，并证明即使在模型参数未知且种子顶点占图的比例趋于零的情况下，仍保持一致性。

ABSTRACT

Given a graph in which a few vertices are deemed interesting a priori, the vertex nomination task is to order the remaining vertices into a nomination list such that there is a concentration of interesting vertices at the top of the list. Previous work has yielded several approaches to this problem, with theoretical results in the setting where the graph is drawn from a stochastic block model (SBM), including a vertex nomination analogue of the Bayes optimal classifier. In this paper, we prove that maximum likelihood (ML)-based vertex nomination is consistent, in the sense that the performance of the ML-based scheme asymptotically matches that of the Bayes optimal scheme. We prove theorems of this form both when model parameters are known and unknown. Additionally, we introduce and prove consistency of a related, more scalable restricted-focus ML vertex nomination scheme. Finally, we incorporate vertex and edge features into ML-based vertex nomination and briefly explore the empirical effectiveness of this approach.

研究动机与目标

• 在随机块模型（SBMs）中建立基于最大似然（ML）的顶点提名方案的理论一致性，确保其性能趋近于贝叶斯最优分类器。
• 开发一种更具可扩展性的ML顶点提名变体——受限关注ML方案，同时保持理论一致性。
• 证明当模型参数未知且从种子顶点估计时，一致性依然成立，即使种子数量随图大小亚线性增长。
• 将顶点和边特征整合到ML基顶点提名框架中，提升实际适用性。
• 通过在顶点提名任务中形式化一致性，弥合最大似然估计与图匹配之间的差距。

提出的方法

• 提出一种基于最大似然的顶点提名方案（ML-VN），在SBM假设下，根据顶点属于目标社区的可能性对顶点进行排序。
• 引入一种受限关注ML-VN方案（$\mathcal{L}^{\text{ML}}_R$），通过聚焦于核心子图降低计算复杂度，实现精确且高效的求解。
• 利用集中不等式和Borel-Cantelli论证，证明提名性能几乎必然收敛至最优水平。
• 利用核心块的主排列子矩阵$\tilde{P}$分析候选排列之间的似然差异。
• 通过涉及$A$、$B$和排列矩阵的迹表达式，推导出期望似然差异的下界。
• 通过将SBM框架扩展为包含额外依赖特征的边概率，将顶点和边特征整合到似然模型中。

实验结果

研究问题

• RQ1 在随机块模型中，最大似然顶点提名方案能否实现渐近性能与贝叶斯最优分类器相匹配？
• RQ2 受限关注ML顶点提名方案是否在提升计算可扩展性的同时保持一致性？
• RQ3 当模型参数未知且从少量、比例趋于零的种子顶点中估计时，一致性是否仍然成立？
• RQ4 如何在不牺牲理论保证的前提下，将顶点和边特征整合到ML基顶点提名框架中？
• RQ5 在较弱的SBM假设下，ML基提名与贝叶斯最优方案之间的理论性能差距是多少？

主要发现

• 在较弱的SBM假设下，最大似然顶点提名方案具有一致性，即其性能渐近匹配贝叶斯最优分类器。
• 受限关注ML顶点提名方案（$\mathcal{L}^{\text{ML}}_R$）具有一致性且计算效率更高，可在实际中实现精确求解。
• 即使模型参数未知且从种子顶点估计，只要种子数量随图大小亚线性增长，一致性依然成立。
• ML方案下次优提名的概率以指数速度衰减，其上界为$\exp\{-c_2 n^{7/4} \log n\}$，确保几乎必然收敛。
• 即使种子数量为$o(n)$，理论保证依然成立，表明对稀疏监督具有鲁棒性。
• 在合成数据和真实数据上的实证结果验证了理论发现，表明ML基方案在有无特征的情况下均表现出色。