[论文解读] Geodesic Distance Function Learning via Heat Flow on Vector Fields

Binbin Lin, Yang Ji+2 more|arXiv (Cornell University)|May 1, 2014

Topological and Geometric Data Analysis参考文献 22被引用 6

一句话总结

该论文提出了一种新颖方法，可在不将流形嵌入欧几里得空间的情况下，直接在流形上学习测地距离函数。通过其梯度场表征距离函数，并利用向量场上的热流演化初始局部向量场，该方法将测地距离视为基于PDE的优化问题的解，从而在合成数据和真实数据上实现了对内在距离的忠实近似。

ABSTRACT

Learning a distance function or metric on a given data manifold is of great importance in machine learning and pattern recognition. Many of the previous works first embed the manifold to Euclidean space and then learn the distance function. However, such a scheme might not faithfully preserve the distance function if the original manifold is not Euclidean. Note that the distance function on a manifold can always be well-defined. In this paper, we propose to learn the distance function directly on the manifold without embedding. We first provide a theoretical characterization of the distance function by its gradient field. Based on our theoretical analysis, we propose to first learn the gradient field of the distance function and then learn the distance function itself. Specifically, we set the gradient field of a local distance function as an initial vector field. Then we transport it to the whole manifold via heat flow on vector fields. Finally, the geodesic distance function can be obtained by requiring its gradient field to be close to the normalized vector field. Experimental results on both synthetic and real data demonstrate the effectiveness of our proposed algorithm.

研究动机与目标

• 解决现有流形学习方法依赖欧几里得嵌入的局限性，因为这可能导致非欧几里得流形上内在测地距离的失真。
• 提出一种直接在流形上学习测地距离函数的方法，而无需全局等距嵌入。
• 通过其梯度场对测地距离函数进行理论表征，建立函数为真实距离函数的充要条件。
• 提出一种实用算法，通过向量场上的热流学习梯度场，并通过施加单位范数和平行性约束来恢复距离函数。

提出的方法

• 理论基础：证明当函数 $ r_p(x) $ 的梯度场 $ \nabla r_p $ 具有单位范数且沿通过 $ p $ 的测地线平行时，该函数即为从基点 $ p $ 出发的测地距离。
• 将梯度场初始化为基点 $ p $ 的局部邻域内的单位法向量场，以表示局部距离函数。
• 利用向量场上的热流在整个流形上传播初始向量场，该过程在保持几何结构的同时平滑并传播场。
• 通过热核的渐近分析表明，演化后的向量场近似于测地距离函数的真实梯度场。
• 将优化问题公式化，以恢复距离函数 $ r(x) $，使其梯度接近归一化后的热演化向量场。
• 求解得到的稀疏线性系统，以获得最终的测地距离函数，避免使用基于网格的方法和高维嵌入。

实验结果

研究问题

• RQ1 能否在不将流形嵌入欧几里得空间的情况下，直接学习流形上的测地距离函数？
• RQ2 函数表示真实测地距离的梯度场所需满足的充要条件是什么？
• RQ3 向量场上的热流能否有效传播局部梯度场，以近似测地距离的全局梯度场？
• RQ4 与现有的基于PDE或基于嵌入的方法相比，该方法在保持非线性流形上的内在距离方面表现如何？

主要发现

• 理论分析表明，若函数 $ r_p(x) $ 的梯度场具有单位范数且沿通过 $ p $ 的测地线平行，则该函数即为从 $ p $ 出发的测地距离，从而为距离函数提供了基于PDE的表征。
• 向量场上的热流成功地将局部梯度场传播至整个流形，渐近地与测地距离函数的真实梯度场对齐。
• 恢复的距离函数满足对所有 $ x \in \mathcal{M} \setminus \{p\} \cup \mathrm{Cut}(p) $ 有 $ r(x) = d(p,x) $，并通过连续性将结果扩展至切点。
• 在合成数据和真实数据集上的实验结果表明，该方法在保持内在测地距离方面优于传统的基于嵌入的方法。
• 该方法避免了快速行进等基于网格求解器的计算负担，使其可扩展至高维环境空间。
• 基于稀疏线性系统的优化框架使得无需显式参数化流形即可高效计算距离函数。