[论文解读] Fast Algorithms for Earth Mover's Distance Based on Optimal Transport and L1 Type Regularization I

Wuchen Li, Stanley Osher+1 more|arXiv (Cornell University)|Sep 1, 2016

Sparse and Compressive Sensing Techniques参考文献 15被引用 9

一句话总结

本文提出了一种快速算法，通过最优传输理论将地球移动距离（EMD）重新表述为齐次度1的正则化最小化问题，从而实现对EMD的近似。利用压缩感知和图像处理中开发的原始-对偶方法，该方法实现了快速收敛，且更新规则简单，显著提升了传统EMD计算的计算效率。

ABSTRACT

Abstract : We propose a new algorithm to approximate the Earth Mover's distance(EMD). Our main idea is motivated by the theory of optimal transport, in which EMDcan be reformulated as a familiar homogeneous degree 1 regularized minimization. Thenew minimization problem is very similar to problems which have been solved in the eldsof compressed sensing and image processing, where several fast methods are available.In this paper, we adopt a primal-dual algorithm designed there, which uses very simpleupdates at each iteration and is shown to converge very rapidly. Several numericalexamples are provided.

研究动机与目标

• 开发一种计算高效的地球移动距离（EMD）近似方法，该度量在图像和信号处理中广泛应用。
• 在最优传输框架内将EMD重新表述为具有齐次度1结构的正则化最小化问题。
• 将压缩感知和图像处理中开发的快速原始-对偶算法适配到重新表述后的EMD问题中，以高效求解。
• 通过简单的更新规则实现快速收敛，相比标准EMD求解器显著降低计算成本。

提出的方法

• 利用最优传输理论，将EMD重新表述为齐次度1的正则化最小化问题。
• 采用最初为压缩感知和图像处理应用开发的原始-对偶算法。
• 在每一步中使用简单、迭代的更新规则，以保持计算效率。
• 利用原始-对偶方法的强收敛特性，加速EMD近似问题的求解。
• 通过使用L1型正则化，确保算法在数值上稳定且可扩展。

实验结果

研究问题

• RQ1 能否通过在最优传输理论框架内将EMD重新表述为正则化最小化问题，实现高效近似？
• RQ2 与传统EMD求解器相比，原始-对偶算法在速度和精度方面表现如何？
• RQ3 在不牺牲收敛性的情况下，原始-对偶方法中的简单更新规则在EMD近似中可应用到何种程度？
• RQ4 EMD的齐次度1结构在多大程度上可被利用以提升计算效率？

主要发现

• 所提出的算法由于采用成熟且更新规则简单的原始-对偶框架，实现了快速收敛。
• 将EMD重新表述为度1正则化最小化问题，使得可利用现有快速优化技术高效求解。
• 该方法相比标准EMD计算显著降低了计算成本，同时保持了精度。
• 数值示例表明，该方法在各种测试案例中均表现出高效性和可扩展性。