[論文レビュー] Geomstats: A Python Package for Riemannian Geometry in Machine Learning

Nina Miolane, Brigant, Alice Le+17 more|arXiv (Cornell University)|Apr 7, 2020

Morphological variations and asymmetry参考文献 41被引用数 97

ひとこと要約

Geomstatsは、非線形多様体上の計算と統計のためのオープンソースのPythonツールボックスで、ベクトル化演算とGPUバックエンドを用いた幾何学認識MLを可能にします。

ABSTRACT

We introduce Geomstats, an open-source Python toolbox for computations and statistics on nonlinear manifolds, such as hyperbolic spaces, spaces of symmetric positive definite matrices, Lie groups of transformations, and many more. We provide object-oriented and extensively unit-tested implementations. Among others, manifolds come equipped with families of Riemannian metrics, with associated exponential and logarithmic maps, geodesics and parallel transport. Statistics and learning algorithms provide methods for estimation, clustering and dimension reduction on manifolds. All associated operations are vectorized for batch computation and provide support for different execution backends, namely NumPy, PyTorch and TensorFlow, enabling GPU acceleration. This paper presents the package, compares it with related libraries and provides relevant code examples. We show that Geomstats provides reliable building blocks to foster research in differential geometry and statistics, and to democratize the use of Riemannian geometry in machine learning applications. The source code is freely available under the MIT license at \url{geomstats.ai}.

研究の動機と目的

• 再利用可能な低レベル実装を提供することで、微分幾何学と幾何統計学の研究を促進する。
• Scikit-Learn風の API を通じて使いやすいアルゴリズムを提供し、幾何統計学を民主化する。
• 微分幾何学の実践的学習を促進する教育ツールと可視化を提供する。
• 多様体計算をより広いMLワークフローに統合するためのモジュール化され、検証済みの基盤を提供する。

提案手法

• 2つの主要モジュール: オブジェクト指向設計を用いたリーマン幾何のジオメトリと、多様体ベースの統計と学習アルゴリズムの学習。
• 多様体は基本クラス Manifold から継承する。RiemannianMetric は距離、指数写像・対数写像などを提供する。いくつかの計量（例: HyperbolicMetric, StiefelCanonicalMetric）はこの基本を拡張する。
• 自動微分（autograd）により、閉形式の表現が利用できない場合の計算を Connection クラスを介して可能にする。
• 学習モジュールは Fréchet 平均、KMeans、TangentPCA など、Scikit-Learn風の API を持つ多様体対応アルゴリズムを実装している。
• コードはバッチ演算のためにベクトル化され、NumPy、PyTorch、TensorFlow のバックエンドをGPU加速に対応し、可視化ツールを含む。

実験結果

リサーチクエスチョン

• RQ1 共通のMLと幾何ニーズを満たすために、どの多様体と計量をサポートすべきか？
• RQ2 直感的な API を通じて、多様体計算を標準的な ML パイプラインにどのように統合できるか？
• RQ3 多様体操作のために複数のバックエンド（NumPy、PyTorch、TensorFlow）を使用する場合の性能と使いやすさのトレードオフは何か？
• RQ4 多様体ベースの学習アルゴリズム（例: Fréchet 平均、KMeans、TangentPCA）は、異なる幾何学的構造でどのように性能・挙動を示すか？

主な発見

• Geomstats はリーマン幾何学と幾何統計のためのオープンソースのオブジェクト指向基盤を提供する。
• このパッケージは、複数の多様体とリーマン計量のファミリーと、それに関連する exponential/log 写像、測地線、並行搬送を提供する。
• 多様体上の学習アルゴリズム（例: Fréchet 平均推定、KMeans、TangentPCA）は Scikit-Learn互換の API で実装されている。
• 演算はバッチ計算のためにベクトル化され、バックエンドには NumPy、PyTorch、TensorFlow が含まれ、GPU加速を可能にする。
• コード品質は広範なユニットテストと継続的インテグレーション（CI）により保証されている。
• Geomstats は教育的でアクセスしやすいよう設計されており、可視化ツールとドキュメントを備え、MITライセンスの下で geomstats.ai で提供されている。