[论文解读] Bipartite Correlation Clustering -- Maximizing Agreements

Megasthenis Asteris, Anastasios Kyrillidis+2 more|arXiv (Cornell University)|Mar 9, 2016

Data Mining Algorithms and Applications参考文献 9被引用 5

一句话总结

该论文提出了一种用于 k-二分相关聚类（k-Bipartite Correlation Clustering, k-BCC）问题的新颖近似算法，旨在最大化完全二分图中 + 和 - 边的匹配数。通过将问题表述为在聚类分配矩阵上的组合约束双线性最大化问题，该算法在时间复杂度为 k 和 1/δ 的指数级、但输入规模线性的情况下，实现了对最优匹配数的 (1−δ)-近似，并为无约束 BCC 问题提供了高效多项式时间近似方案（EPTAS）。

ABSTRACT

In Bipartite Correlation Clustering (BCC) we are given a complete bipartite graph $G$ with `+' and `-' edges, and we seek a vertex clustering that maximizes the number of agreements: the number of all `+' edges within clusters plus all `-' edges cut across clusters. BCC is known to be NP-hard. We present a novel approximation algorithm for $k$-BCC, a variant of BCC with an upper bound $k$ on the number of clusters. Our algorithm outputs a $k$-clustering that provably achieves a number of agreements within a multiplicative ${(1-δ)}$-factor from the optimal, for any desired accuracy $δ$. It relies on solving a combinatorially constrained bilinear maximization on the bi-adjacency matrix of $G$. It runs in time exponential in $k$ and $δ^{-1}$, but linear in the size of the input. Further, we show that, in the (unconstrained) BCC setting, an ${(1-δ)}$-approximation can be achieved by $O(δ^{-1})$ clusters regardless of the size of the graph. In turn, our $k$-BCC algorithm implies an Efficient PTAS for the BCC objective of maximizing agreements.

研究动机与目标

• 为 k-二分相关聚类（k-BCC）问题开发一种可证明准确的近似算法，该问题旨在最大化带标签边的二分图中的匹配数。
• 证明对于无约束 BCC 问题，仅使用 O(δ⁻¹) 个聚类即可实现任意 (1−δ)-近似，且与图的规模无关。
• 通过在适当配置下利用 k-BCC 算法，建立无约束 BCC 问题的高效多项式时间近似方案（EPTAS）。
• 通过利用二分图的结构特性，而非依赖通用的线性规划（LP）或半定规划（SDP）求解器，解决 BCC 问题中缺乏高效、结构感知算法的问题，特别是针对 MaxAgree 目标。
• 提供一种可扩展且理论基础坚实的算法方法，在合成数据和真实世界数据集（如 MovieLens）上，其匹配质量与运行时间均优于现有方法。

提出的方法

• 将 k-BCC/MaxAgree 问题表述为带约束的双线性最大化问题：max_{X∈X, Y∈Y} Tr(XᵀBY)，其中 B 是输入图的双邻接矩阵，X 和 Y 分别为 U 和 V 的聚类分配矩阵。
• 采用随机采样框架来近似求解组合约束的双线性最大化问题，并保证近似质量。
• 通过参数 δ 控制近似精度，确保解至少达到最优匹配数的 (1−δ) 倍。
• 利用二分图的结构特性，避免依赖于扩展性较差的通用求解器（如 LP 或 SDP）。
• 通过将公式适配到稀疏输入，将算法扩展至不完整但密集的 BCC 实例（|E|=Ω(|U||V|)）。
• 在实际应用中，通过固定聚类数 k 和采样上限来配置 k-BCC 算法，以在运行时间和近似质量之间取得平衡。

实验结果

研究问题

• RQ1 能否在输入规模线性的时间复杂度下，为 k-二分相关聚类问题实现可证明的 (1−δ)-近似？
• RQ2 是否可以证明，仅使用常数个聚类（具体为 O(δ⁻¹)）即可实现对无约束 BCC 问题的 (1−δ)-近似，且与图的规模无关？
• RQ3 k-BCC 算法是否可被配置为生成无约束 BCC 问题的高效多项式时间近似方案（EPTAS）？
• RQ4 在真实世界数据上，所提出的双线性最大化框架与现有启发式方法及基于 SDP 的方法相比，在匹配质量与运行时间方面表现如何？
• RQ5 当目标聚类数 k 较小时（如 k=10），该算法是否仍能保持优异性能，即使理论上对更大 k 值需要更高的近似秩和更多采样？

主要发现

• 所提出的算法在 k-BCC 问题中实现了对最优匹配数的 (1−δ)-近似，其时间复杂度在 k 和 1/δ 上为指数级，但在输入规模上线性。
• 对于无约束 BCC 问题，任何 (1−δ)-近似均可通过最多 O(δ⁻¹) 个聚类实现，且与图的规模无关，从而为 EPTAS 提供了理论基础。
• 当配置为 k = O(δ⁻¹) 时，k-BCC 算法可生成无约束 BCC 问题的高效多项式时间近似方案（EPTAS），其时间复杂度在 n 上为多项式，仅在 1/δ 上为指数级。
• 在 MovieLens 数据集上，该算法（BccBilinear）的匹配得分显著优于 PivotBiCluster——在 10 万条数据上为 6.8K 对比 4.6K，100 万条数据上为 694K 对比 429K，1000 万条数据上为 686 万对比 501 万，且运行速度快一个数量级。
• 该算法在较低 k 值（如 k=10）时表现优于较高 k 值（如 k=15），作者将其归因于在更大 k 值下需要更高的近似秩和更多采样。
• 由于其线性时间复杂度并避免使用昂贵的凸优化求解器，该方法在大规模数据上优于基于 SDP 的方法。