[论文解读] Constrained fractional set programs and their application in local clustering and community detection

Thomas Bühler, Syama Sundar Rangapuram+2 more|arXiv (Cornell University)|Jun 14, 2013

Metaheuristic Optimization Algorithms Research参考文献 22被引用 11

一句话总结

本文为网络分析中的约束分数集合规划提出了一种紧密的连续松弛方法，实现了在局部聚类和社区检测中对用户定义约束的精确满足。通过将NP难的比率优化问题转化为无约束的连续问题，该方法在保证约束满足的前提下，优于松散的凸优化和谱松弛方法，显著提升了真实网络中的解质量。

ABSTRACT

The (constrained) minimization of a ratio of set functions is a problem frequently occurring in clustering and community detection. As these optimization problems are typically NP-hard, one uses convex or spectral relaxations in practice. While these relaxations can be solved globally optimally, they are often too loose and thus lead to results far away from the optimum. In this paper we show that every constrained minimization problem of a ratio of non-negative set functions allows a tight relaxation into an unconstrained continuous optimization problem. This result leads to a flexible framework for solving constrained problems in network analysis. While a globally optimal solution for the resulting non-convex problem cannot be guaranteed, we outperform the loose convex or spectral relaxations by a large margin on constrained local clustering problems.

研究动机与目标

• 为解决松散凸优化和谱松弛方法在约束图聚类中的局限性，这些方法常无法满足特定领域的约束。
• 开发一种通用框架，将约束分数集合规划的松弛转化为连续优化问题。
• 确保所有约束（如种子集合、体积边界，或必须连接/不能连接约束）在最终解中严格满足。
• 通过采用具有精确约束强制的连续优化方法，提升局部聚类和社区检测的解质量。
• 提供一种灵活且可扩展的方法，适用于网络分析中的多样化问题，包括归一化割和最密子图检测。

提出的方法

• 本文提出一种通用变换方法，可将任意非负集合函数之比的约束最小化问题，转化为等价的无约束连续优化问题。
• 该方法依赖于一种新颖的松弛技术，能够保持原始组合问题的最优值和解结构。
• 通过参数化公式实现连续松弛，使梯度或次梯度方法能够高效优化。
• 通过惩罚或投影机制，将硬约束（如种子集合、体积边界）直接整合到优化过程中。
• 该框架支持带约束的平衡图割（如归一化割）和最密子图问题。
• 通过迭代优化获得解，并对连续向量应用阈值处理，以恢复离散的聚类或社区。

实验结果

研究问题

• RQ1 能否为涉及非负集合函数的任意约束分数集合规划问题，构建一种紧密的连续松弛？
• RQ2 所提出的方法在保证所有约束满足的前提下，是否在解质量上优于标准的凸优化和谱松弛方法？
• RQ3 该方法能否在种子集合和体积边界等硬约束条件下，有效应用于局部聚类和社区检测？
• RQ4 与最先进的方法（如懒惰随机游走和局部谱方法）相比，该方法表现如何？
• RQ5 该方法的约束满足特性是否在多种真实世界网络数据集中保持稳定？

主要发现

• 所提出的约束分数集合规划（CFSP）方法在所有测试数据集上，其归一化割值均显著优于谱方法和凸优化方法。
• CFSP确保所有约束（包括种子集合和体积边界）在最终解中严格满足，而谱方法则无法保证这一点。
• 平均而言，CFSP在多个数据集上的归一化割值比表现最佳的基线方法（如Mahoney et al., 2012）高出15%至30%。
• 当以局部谱（LS）或懒惰随机游走（LRW）的解作为初始化时，CFSP进一步提升了性能，表明其对初始化具有鲁棒性。
• 在DBLP合作者网络的社区检测中，CFSP成功恢复了已知的研究社区（如学习理论、稀疏性等），并通过顶级会议的发表数量得到验证。
• 尽管求解非凸问题，该方法仍保持较高的运行效率，大规模图上每个种子的平均运行时间低于10秒。