[论文解读] On Geometric Prototype And Applications

Hu Ding, Manni Liu|arXiv (Cornell University)|Jan 1, 2018

3D Shape Modeling and Analysis参考文献 11被引用 2

一句话总结

本文在欧几里得空间中提出了几何原型问题，其目标是计算一个k点集，使其与一组输入的k点集的总匹配成本最小化。该文提出了一种核心集构建方法，可在保持解质量的同时实现高效近似，在2D图像（Wasserstein均值）和高维（集成聚类）数据集上均实现了显著加速——运行时间最高减少90%，且精度损失极小。

ABSTRACT

In this paper, we propose to study a new geometric optimization problem called the "geometric prototype" in Euclidean space. Given a set of patterns, where each pattern is represented by a (weighted or unweighted) point set, the geometric prototype can be viewed as the "average pattern" minimizing the total matching cost to them. As a general model, the problem finds many applications in real-world, such as Wasserstein barycenter and ensemble clustering. The dimensionality could be either constant or high, depending on the applications. To our best knowledge, the general geometric prototype problem has yet to be seriously considered by the theory community. To bridge the gap between theory and practice, we first show that a small core-set can be obtained to substantially reduce the data size. Consequently, any existing heuristic or algorithm can run on the core-set to achieve a great improvement on the efficiency. As a new application of core-set, it needs to tackle a couple of challenges particularly in theory. Finally, we test our method on both image and high dimensional clustering datasets; the experimental results remain stable even if we run the algorithms on core-sets much smaller than the original datasets, while the running times are reduced significantly.

研究动机与目标

• 将几何原型问题形式化并研究，作为欧几里得空间中模式表示的通用模型。
• 通过核心集方法实现高效算法，弥合理论计算与实际应用之间的差距。
• 解决为几何原型问题构建小型、代表性核心集的挑战，同时提供可证明的近似保证。
• 在真实世界应用中评估该方法，包括低维和高维设置下的Wasserstein均值和集成聚类。
• 证明核心集可在大幅降低计算成本的同时保持解的质量，适用于大规模模式分析任务。

提出的方法

• 将几何原型定义为最小化与n个输入k点集之间使用地球移动距离（EMD）度量的匹配成本总和的k点集。
• 提出一种核心集构建方法，通过选择输入模式的小子集来近似完整数据集，且误差有界。
• 利用匈牙利算法计算点集之间的精确匹配成本，并在低维情况下使用高效的EMD算法（如网络单纯形法和快速EMD）。
• 在高维集成聚类任务中，应用Johnson-Lindenstrauss变换在核心集构建前降低维度。
• 将核心集作为输入，用于现有最先进算法（如[46]用于Wasserstein均值，[21]用于集成聚类），以实现加速。
• 通过比较原始解与基于核心集的解在目标值、运行时间和与真实值接近程度方面的表现，验证该方法。

实验结果

研究问题

• RQ1 能否为几何原型问题构建一个小型核心集，在减小数据规模的同时保持解的质量？
• RQ2 现有算法在核心集上的性能与在完整数据集上的性能相比，在目标值和运行时间方面如何？
• RQ3 核心集在高维应用（如集成聚类）和低维任务（如Wasserstein均值）中能在多大程度上保持精度？
• RQ4 在几何原型计算中，核心集大小与近似质量之间的权衡如何？
• RQ5 所提出的核集方法能否有效应用于图像平均和共识聚类等实际问题？

主要发现

• 在原始数据大小5%的核心集下，归一化目标值低于1.2（与完整数据集相比），表明近似质量优异。
• 在5%核心集大小下，总运行时间（包括核心集构建）减少至原始运行时间的10–17%，表明效率显著提升。
• 在集成聚类中，即使在5%核心集大小下，误分类项的比例仍保持在8–12%左右，显示出对数据缩减的鲁棒性。
• 在Wasserstein均值任务中，匹配成本与真实值的比值（x/Ave）约为0.25，表明与真实原型高度一致。
• 快速EMD算法在解质量上几乎与网络单纯形法相同，但运行速度快40%，因此在大规模应用中更具实用性。
• 核心集方法在多次试验中保持稳定性能，两次应用在50次运行中均表现出一致结果。