[论文解读] Riemannian Manifold Kernel for Persistence Diagrams

Tam Le, Makoto Yamada|arXiv (Cornell University)|Feb 10, 2018

Topological and Geometric Data Analysis参考文献 43被引用 4

一句话总结

该论文通过利用费雪信息度量定义测地距离，提出了一种基于黎曼流形的持久图核，从而实现了正定核的构建。该方法在泛化性能和计算效率方面优于现有的基于Wasserstein距离的核方法，在多个基准任务中取得了最先进结果。

ABSTRACT

Algebraic topology methods have recently played an important role for statistical analysis with complicated geometric structured data. Among them, persistent homology is a well-known tool to extract robust topological features, and outputs as persistence diagrams. Unfortunately, persistence diagrams are point multi-sets which can not be used in machine learning algorithms for vector data. To deal with it, an emerged approach is to use kernel methods. Besides that, geometry for persistence diagrams is also an important factor. A popular geometry for persistence diagrams is the Wasserstein metric. However, Wasserstein distance is not negative definite. Thus, it is limited to build positive definite kernels upon the Wasserstein distance without approximation. In this work, we explore an alternative Riemannian manifold geometry, namely the Fisher information metric. By building upon the geodesic distance on the Riemannian manifold, we propose a positive definite kernel, namely Riemannian manifold kernel. Then, we analyze eigensystem of the integral operator induced by the proposed kernel for kernel machines. Based on that, we conduct generalization error bounds via covering numbers and Rademacher averages for kernel machines using the Riemannian manifold kernel. Additionally, we also show some nice properties for the proposed kernel such as stability, infinite divisibility and comparative time complexity with other kernels for persistence diagrams in term of computation. Throughout experiments with many different tasks on various benchmark datasets, we illustrate that the Riemannian manifold kernel improves performances of other baseline kernels.

研究动机与目标

• 解决Wasserstein距离在构建持久图正定核方面的局限性。
• 基于黎曼流形结构，开发一种支持正定核构建的几何框架。
• 分析所提核的理论性质，包括基于覆盖数和Rademacher平均值的泛化误差界。
• 在基准数据集上，通过多种机器学习任务实证评估核的性能。
• 建立相对于现有持久图核方法的计算优势。

提出的方法

• 论文利用费雪信息度量将持久图建模为黎曼流形上的点，通过该度量定义测地距离。
• 基于从黎曼流形几何导出的测地距离，构建正定核。
• 分析由核诱导的积分算子，利用覆盖数和Rademacher平均值推导泛化误差界。
• 证明了所提核的理论性质，如稳定性与无限可分性。
• 在多个基准数据集上，通过多种机器学习任务评估该方法，比较其性能与计算复杂度。
• 分析并对比了该核的时间复杂度与其他最先进持久图核方法。

实验结果

研究问题

• RQ1 基于费雪信息度量的黎曼流形几何能否为持久图生成正定核？
• RQ2 使用所提核的核机的泛化误差与现有方法相比如何？
• RQ3 在时间复杂度方面，黎曼流形核相较于其他核方法具有哪些计算优势？
• RQ4 所提核是否表现出稳定性与无限可分性等理想理论性质？
• RQ5 在标准基准数据集的多样化机器学习任务中，黎曼流形核的性能如何？

主要发现

• 所提的黎曼流形核在多个基准数据集和机器学习任务中均达到最先进性能。
• 该核被证明是正定、稳定且无限可分的，确保了理论上的鲁棒性。
• 通过覆盖数和Rademacher平均值建立了泛化误差界，支持其理论可靠性。
• 与其它持久图核相比，该方法在计算效率方面表现出显著优势。
• 在预测准确率与泛化能力方面，该核在多样化的拓扑数据分析任务中均优于基线方法。
• 利用费雪信息度量构建的几何框架，克服了非负定Wasserstein距离的局限性。