[论文解读] Optimal Bipartite Network Clustering

Zhixin Zhou, Arash Amini|arXiv (Cornell University)|Mar 15, 2018

Complex Network Analysis Techniques参考文献 58被引用 9

一句话总结

该论文提出了一种两阶段谱聚类算法，用于在广义二部随机块模型下实现最优二部网络聚类。通过结合谱初始化与迭代伪似然分类，该方法在广泛的网络稀疏度水平（包括稀疏至中等密度网络）下实现了弱一致性和最优收敛速率，并通过理论下界建立了极小极大最优性。

ABSTRACT

We study bipartite community detection in networks, or more generally the network biclustering problem. We present a fast two-stage procedure based on spectral initialization followed by the application of a pseudo-likelihood classifier twice. Under mild regularity conditions, we establish the weak consistency of the procedure (i.e., the convergence of the misclassification rate to zero) under a general bipartite stochastic block model. We show that the procedure is optimal in the sense that it achieves the optimal convergence rate that is achievable by a biclustering oracle, adaptively over the whole class, up to constants. This is further formalized by deriving a minimax lower bound over a class of biclustering problems. The optimal rate we obtain sharpens some of the existing results and generalizes others to a wide regime of average degree growth, from sparse networks with average degrees growing arbitrarily slowly to fairly dense networks with average degrees of order $\sqrt{n}$. As a special case, we recover the known exact recovery threshold in the $\log n$ regime of sparsity. To obtain the consistency result, as part of the provable version of the algorithm, we introduce a sub-block partitioning scheme that is also computationally attractive, allowing for distributed implementation of the algorithm without sacrificing optimality. The provable algorithm is derived from a general class of pseudo-likelihood biclustering algorithms that employ simple EM type updates. We show the effectiveness of this general class by numerical simulations.

研究动机与目标

• 开发一种计算高效且统计最优的二部网络聚类算法。
• 在广义二部随机块模型下建立弱一致性和最优收敛速率。
• 推导出刻画二部聚类问题基本统计极限的极小极大下界。
• 将现有关于精确恢复阈值的结果推广至更广泛的平均度增长区间，包括缓慢增长至√n度的范围。
• 通过一种新颖的子块划分方案，实现在不损失统计最优性前提下的分布式实现。

提出的方法

• 两阶段算法：首先使用谱聚类进行初始化，随后通过EM型更新进行两轮伪似然分类。
• 采用可证明的子块划分方案，实现在保持最优性的同时支持分布式计算。
• 应用伪似然最大化并引入替代似然函数，以避免在SBM中计算不可行的似然函数。
• 基于Chernoff散度的理论分析，确保聚类可区分性与一致性。
• 推导极小极大下界，以建立所提方法的统计最优性。
• 利用泊松近似与集中不等式，界定似然比检验中的误差概率。

实验结果

研究问题

• RQ1 是否存在一种计算高效算法，可在二部网络聚类中实现最优统计性能？
• RQ2 在广义SBM假设下，二部网络中二部聚类的基本统计极限（极小极大速率）是什么？
• RQ3 所提方法是否在广泛的网络稀疏度水平下均达到最优收敛速率？
• RQ4 该算法能否在不损失最优性的情况下实现分布式计算？
• RQ5 该方法在簇大小不平衡及非对称网络设置下的表现如何？

主要发现

• 所提算法实现了弱一致性，且在温和正则性条件下，误分类率收敛于零。
• 该方法在常数因子范围内达到最优收敛速率，与整个二部聚类问题类的极小极大下界一致。
• 最优速率进一步细化并推广了先前结果，覆盖平均度可任意缓慢增长至√n的范围，包括精确恢复的log n区间。
• 该算法在log n稀疏度区间下可恢复已知的精确恢复阈值，作为特例。
• 子块划分方案实现了不损失统计最优性的分布式实现。
• 数值模拟验证了该框架所导出的一般类伪似然二部聚类算法的有效性。