[论文解读] Learning metrics for persistence-based summaries and applications for graph classification

Qi Zhao, Yusu Wang|arXiv (Cornell University)|Nov 1, 2019

Topological and Geometric Data Analysis被引用 32

一句话总结

该论文提出WKPI，一种用于持久性图的可学习加权核函数，通过有标签数据优化度量学习，从而提升图分类性能。通过为持久性特征学习数据特定的权重函数，WKPI在基准图数据集上实现了最先进或具有竞争力的性能，在关键情况下优于先前方法。

ABSTRACT

Recently a new feature representation and data analysis methodology based on a topological tool called persistent homology (and its persistence diagram summary) has gained much momentum. A series of methods have been developed to map a persistence diagram to a vector representation so as to facilitate the downstream use of machine learning tools. In these approaches, the importance (weight) of different persistence features are usually pre-set. However often in practice, the choice of the weight-function should depend on the nature of the specific data at hand. It is thus highly desirable to learn a best weight-function (and thus metric for persistence diagrams) from labelled data. We study this problem and develop a new weighted kernel, called WKPI, for persistence summaries, as well as an optimization framework to learn the weight (and thus kernel). We apply the learned kernel to the challenging task of graph classification, and show that our WKPI-based classification framework obtains similar or (sometimes significantly) better results than the best results from a range of previous graph classification frameworks on a collection of benchmark datasets.

研究动机与目标

• 解决持久性图向量化中固定预设权重函数的局限性，这些权重函数可能无法反映数据特定的特征重要性。
• 开发一种基于有标签训练数据自适应调整持久性特征权重的度量学习框架。
• 实现持久性图核函数的端到端优化，以增强下游机器学习性能。
• 将学习到的核函数应用于具有挑战性的图分类任务，提升准确率和鲁棒性。
• 证明学习到的度量优于手工设计或默认的权重分配，在真实世界图分类基准中表现更优。

提出的方法

• 提出WKPI，一种为持久性特征分配可学习权重的加权核函数，基于其与学习任务的相关性。
• 构建一个优化框架，从有标签数据中学习最优权重函数，使用可微分的目标函数。
• 将学习到的核函数集成到图分类流程中，利用基于持久性特征的摘要作为输入表示。
• 使用基于梯度的优化方法在训练过程中更新权重参数，实现度量的端到端学习。
• 从图数据构建持久性图，并使用学习到的核函数将它们映射为向量表示以进行分类。
• 使用标准监督学习协议训练模型，通过反向传播更新核函数的权重以最小化分类误差。

实验结果

研究问题

• RQ1 与固定或启发式权重相比，基于数据驱动的、可学习的持久性图权重函数是否能提升图分类性能？
• RQ2 在基准图数据集上，WKPI中学习到的度量与现有核方法相比，在分类准确率方面表现如何？
• RQ3 从有标签数据中进行度量学习在多大程度上增强了持久性图在下游任务中的表征能力？
• RQ4 所提出的框架在具有不同拓扑复杂度的多样化图分类基准上是否具备泛化能力？
• RQ5 优化框架对学习到的核函数的稳定性和收敛性有何影响？

主要发现

• WKPI框架在多个基准数据集上实现了与最先进图分类方法相当或显著更优的分类准确率。
• 学习到的权重函数通过适应数据的内在拓扑结构，持续提升性能，优于固定权重基线。
• 优化框架成功学习到有意义且具有判别性的持久性特征权重，增强了核函数的判别能力。
• 该方法在多种图类型和拓扑复杂度下表现出鲁棒性，表明具备良好的泛化能力。
• 结果证实，从有标签数据中学习度量对于最大化持久性图在机器学习流程中的实用性至关重要。