[论文解读] Geomstats: A Python Package for Riemannian Geometry in Machine Learning

Nina Miolane, Brigant, Alice Le+17 more|arXiv (Cornell University)|Apr 7, 2020

Morphological variations and asymmetry参考文献 41被引用 97

一句话总结

Geomstats 是一个用于在非线性流形上的计算与统计的开源 Python 工具箱，结合向量化操作和 GPU 后端，支持几何感知的 ML。

ABSTRACT

We introduce Geomstats, an open-source Python toolbox for computations and statistics on nonlinear manifolds, such as hyperbolic spaces, spaces of symmetric positive definite matrices, Lie groups of transformations, and many more. We provide object-oriented and extensively unit-tested implementations. Among others, manifolds come equipped with families of Riemannian metrics, with associated exponential and logarithmic maps, geodesics and parallel transport. Statistics and learning algorithms provide methods for estimation, clustering and dimension reduction on manifolds. All associated operations are vectorized for batch computation and provide support for different execution backends, namely NumPy, PyTorch and TensorFlow, enabling GPU acceleration. This paper presents the package, compares it with related libraries and provides relevant code examples. We show that Geomstats provides reliable building blocks to foster research in differential geometry and statistics, and to democratize the use of Riemannian geometry in machine learning applications. The source code is freely available under the MIT license at \url{geomstats.ai}.

研究动机与目标

• 通过提供可重复使用的底层实现，促进微分几何和几何统计的研究。
• 通过类似 Scikit-Learn 的 API 提供易于使用的算法，民主化几何统计。
• 提供教育工具和可视化，促进对微分几何的动手学习。
• 提供模块化、经过测试的基础，以将流形计算整合到更广泛的 ML 工作流中。

提出的方法

• 两大模块：面向对象设计的几何模块用于黎曼几何，面向基于流形的统计与学习算法的学习模块。
• 流形继承自基类 Manifold；RiemannianMetric 提供距离、指数映射/对数映射等；若干度量（例如 HyperbolicMetric、StiefelCanonicalMetric）扩展此基类。
• 自动微分（autograd）使在没有封闭表达式时也可通过 Connection 类进行计算。
• 学习模块实现弗雷歇均值、KMeans、TangentPCA，以及其他对流形敏感的算法，具有 Scikit-Learn 风格的 API。
• 代码向量化用于批量运算，支持后端 NumPy、PyTorch、TensorFlow 以实现 GPU 加速，并包含可视化工具。

实验结果

研究问题

• RQ1 应支持哪些流形和度量以覆盖常见的 ML 与几何需求？
• RQ2 如何通过直观的 API 将流形计算集成到标准 ML 流水线中？
• RQ3 在为流形运算使用多种后端（NumPy、PyTorch、TensorFlow）时，性能与易用性之间的权衡如何？
• RQ4 基于流形的学习算法（如弗雷歇均值、KMeans、TangentPCA）在不同几何下的表现与行为如何？

主要发现

• Geomstats 提供了一个开源的面向对象的黎曼几何与几何统计学基础。
• 该包提供多种流形和黎曼度量族，附带指数映射/对映映射、测地线以及平行运输。
• 基于流形的学习算法（如弗雷歇均值估计、KMeans、TangentPCA）以与 Scikit-Learn 兼容的 API 实现。
• 操作经过向量化以实现批量计算，后端包括 NumPy、PyTorch、TensorFlow，支持 GPU 加速。
• 通过广泛的单元测试和持续集成（CI）确保代码质量。
• Geomstats 旨在具有教育性和可访问性，提供可视化工具和文档，并在 geomstats.ai 上以 MIT 许可证发布。