[论文解读] k-medoids and p-median clustering are solvable in polynomial time for a 2d Pareto front

Nicolas Dupin, Frank Nielsen+1 more|arXiv (Cornell University)|Jun 6, 2018

Facility Location and Emergency Management参考文献 35被引用 4

一句话总结

本文证明了在二维帕累托前沿上，k-medoids 和 p-median 聚类问题可通过动态规划算法在多项式时间内求解。主要贡献在于提出了一种时间复杂度为 O(N³)、空间复杂度为 O(KN) 的算法（当 K ≥ 3 时），以及 K=2 时时间复杂度为 O(N²) 的算法，该算法利用了基于区间聚类和代价单调性特性的最优聚类新表征方式。

ABSTRACT

This paper examines a common extension of k-medoids and k-median clustering in the case of a two-dimensional Pareto front, as generated by bi-objective optimization approaches. A characterization of optimal clusters is provided, which allows to solve the optimization problems to optimality in polynomial time using a common dynamic programming algorithm. More precisely, having $N$ points to cluster in $K$ subsets, the complexity of the algorithm is proven in $O(N^3)$ time and $O(K.N)$ memory space when $K\geqslant 3$, cases $K=2$ having a time complexity in $O(N^2)$. Furthermore, speeding-up the dynamic programming algorithm is possible avoiding useless computations, for a practical speed-up without improving the complexity. Parallelization issues are also discussed, to speed-up the algorithm in practice.

研究动机与目标

• 为解决在生物目标优化中从大量非支配解集中选取 K 个代表性解的挑战。
• 证明尽管在一般平面上为 NP-难问题，k-medoids 和 p-median 聚类在二维帕累托前沿上仍可多项式时间求解。
• 为该特殊情况开发一种高效的动态规划算法，以计算全局最优解。
• 通过剪枝策略和并行化实现实际运行速度的提升，而不改变其渐近时间复杂度。
• 为未来在更高维帕累托前沿上设计启发式与近似算法奠定基础。

提出的方法

• 作者提出了一种统一的 k-medoids 和 p-median 聚类在二维帕累托前沿上的公式化方法，使用一个通用代价函数 fα，该函数可推广两种问题。
• 证明在二维帕累托前沿中，最优聚类必须是按点排序顺序的连续区间，从而支持动态规划方法。
• 定义了一个基于聚类数 K 和点数 N 的动态规划递推关系，其中状态 M_{k,i} 表示将前 i 个点划分为 k 个聚类的最小代价。
• 该算法利用一个关键性质：代价函数 fα 在聚类边界处具有单调性，从而可在内层循环中实现早期终止。
• 通过利用引理 7 和引理 8 推导出的上下界，应用剪枝策略以避免不必要的 fα 代价计算。
• 通过识别内层循环中独立的计算任务（特别是在代价计算阶段），利用 OpenMP 等框架实现并行化。

实验结果

研究问题

• RQ1 尽管在一般平面情况下为 NP-难问题，k-medoids 和 p-median 聚类在二维帕累托前沿上是否可多项式时间求解？
• RQ2 二维帕累托前沿的何种结构特性使得动态规划方法成为可能？
• RQ3 如何在不改善渐近时间复杂度的前提下，对动态规划算法进行实际优化？
• RQ4 允许计算提前终止的最优聚类分离索引的最紧边界是什么？
• RQ5 该算法能否被高效并行化，以在大规模帕累托前沿上提升实际运行时间？

主要发现

• 在二维帕累托前沿上，k-medoids 和 p-median 聚类问题可通过动态规划在多项式时间内求解。
• 时间复杂度为 K ≥ 3 时 O(N³)，K = 2 时 O(N²)，空间复杂度为 O(KN)。
• 该算法利用了区间聚类特性，证明了最优聚类在帕累托前沿点的排序顺序中为连续区间。
• 基于最优聚类分离索引的上下界所设计的剪枝策略，显著减少了昂贵的 fα 计算次数。
• 在代价计算阶段的内层循环中实现并行化是可行且高效的，尤其在 N 较大时效果显著，且不改变渐近时间复杂度。
• 当 K=1 且 α>1 时，若二维帕累托前沿为凸或凹，则问题可在 O(N log N) 时间内求解。