[论文解读] GPU-Accelerated Computation of Vietoris-Rips Persistence Barcodes

Simon Zhang, Mengbai Xiao+1 more|arXiv (Cornell University)|Jan 1, 2020

Topological and Geometric Data Analysis参考文献 34被引用 18

一句话总结

本文提出 Ripser++，一种用于计算 Vietoris-Rips 持久同调条形码的 GPU 加速软件，通过利用明显对并采用大规模并行算法，相较于原始 Ripser 实现了高达 30 倍的加速。该工作为明显对提供了理论边界，并针对 GPU 执行优化了过滤构造、矩阵约化和内存管理，使得在有利条件下 CPU 内存使用量最高可减少 2.0 倍。

ABSTRACT

The computation of Vietoris-Rips persistence barcodes is both execution-intensive and memory-intensive. In this paper, we study the computational structure of Vietoris-Rips persistence barcodes, and identify several unique mathematical properties and algorithmic opportunities with connections to the GPU. Mathematically and empirically, we look into the properties of apparent pairs, which are independently identifiable persistence pairs comprising up to 99% of persistence pairs. We give theoretical upper and lower bounds of the apparent pair rate and model the average case. We also design massively parallel algorithms to take advantage of the very large number of simplices that can be processed independently of each other. Having identified these opportunities, we develop a GPU-accelerated software for computing Vietoris-Rips persistence barcodes, called Ripser++. The software achieves up to 30x speedup over the total execution time of the original Ripser and also reduces CPU-memory usage by up to 2.0x. We believe our GPU-acceleration based efforts open a new chapter for the advancement of topological data analysis in the post-Moore's Law era.

研究动机与目标

• 解决拓扑数据分析中 Vietoris-Rips 持久同调条形码计算带来的高计算与内存需求。
• 克服 CPU 上矩阵约化与过滤构造中的顺序瓶颈，以提升性能。
• 利用 GPU 硬件，挖掘单纯形处理与明显对识别中的大规模并行性。
• 构建一个理论基础坚实、高性能的软件栈，在有利采样条件下实现高效扩展。
• 为神经科学、生物信息学与机器学习中的大规模数据集提供更快、更内存高效的 TDA 工作流。

提出的方法

• 识别并利用数学性质‘明显对’——可独立检测的持久同调对，其占比可达所有对的 99%，从而实现 GPU 并行检测。
• 设计大规模并行的过滤构造与矩阵约化算法，结合 GPU 优化的数据结构与内存访问模式。
• 实现子矩阵约化策略，高效追踪持久同调对，减少冗余计算与内存压力。
• 采用混合方法：在稀疏情况下使用基于 warp 的过滤，在密集情况下使用完整排序，具体取决于待约化的列数。
• 应用明显对发生率的理论边界以指导算法设计，并验证经验行为。
• 将所有组件集成至 Ripser++，一个基于优化 CUDA 内核与内存管理的开源 GPU 加速软件栈。

实验结果

研究问题

• RQ1 在 Vietoris-Rips 过滤中，明显对的理论与经验频率如何？能否用于 GPU 并行计算？
• RQ2 如何重构过滤构造与矩阵约化的计算瓶颈，以实现大规模 GPU 并行？
• RQ3 在均匀采样条件下，GPU 优化的 Vietoris-Rips 条形码计算的预期工作量与深度复杂度是多少？
• RQ4 与纯 CPU 方法相比，GPU 加速在减少执行时间与 CPU 内存使用量方面能达到多大程度？
• RQ5 所提出的方法能否推广至 Vietoris-Rips 过滤之外的其他类型过滤，如旗状复形或立方复形？

主要发现

• 在测试数据集中，明显对占所有持久同调对的高达 99%，为大规模并行化提供了巨大机会。
• 本文证明了明显对发生率的紧致上下界，概率下界支持其高频出现。
• 在均匀采样下，Ripser++ 的预期工作复杂度在单纯形数量上接近线性，预期深度复杂度仅依赖于 p 维同调循环。
• Ripser++ 在代表性数据集（包括真实世界与合成点云）上相较原始 Ripser 软件实现高达 30 倍加速。
• 该软件将 CPU 内存使用量最高减少 2.0 倍，即使在将计算卸载至 GPU 设备内存时，也仅需 Ripser 所用 CPU 内存的最多 60%。
• 大量实验表明，经验的明显对发生率与理论上限高度吻合，验证了模型的预测能力。