[論文レビュー] RipsNet: a general architecture for fast and robust estimation of the persistent homology of point clouds

Thibault de Surrel, Felix Hensel+6 more|arXiv (Cornell University)|Feb 3, 2022

Topological and Geometric Data Analysis参考文献 31被引用数 7

ひとこと要約

RipsNet は DeepSets をインspired したディープラーニングアーキテクチャであり、点群からベクトル化されたパーシステンス図（PDs）を推定する能力を学習し、高速かつロバストなトポロジカル特徴抽出を可能にする。ノイズが多い設定でも正確な PD 計算を上回る O(λ) の入力摂動に対するロバスト性を達成するとともに、計算時間を3桁減少させる。

ABSTRACT

The use of topological descriptors in modern machine learning applications, such as Persistence Diagrams (PDs) arising from Topological Data Analysis (TDA), has shown great potential in various domains. However, their practical use in applications is often hindered by two major limitations: the computational complexity required to compute such descriptors exactly, and their sensitivity to even low-level proportions of outliers. In this work, we propose to bypass these two burdens in a data-driven setting by entrusting the estimation of (vectorization of) PDs built on top of point clouds to a neural network architecture that we call RipsNet. Once trained on a given data set, RipsNet can estimate topological descriptors on test data very efficiently with generalization capacity. Furthermore, we prove that RipsNet is robust to input perturbations in terms of the 1-Wasserstein distance, a major improvement over the standard computation of PDs that only enjoys Hausdorff stability, yielding RipsNet to substantially outperform exactly-computed PDs in noisy settings. We showcase the use of RipsNet on both synthetic and real-world data. Our open-source implementation is publicly available at https://github.com/hensel-f/ripsnet and will be included in the Gudhi library.

研究の動機と目的

• 大規模またはノイズの多い点群における正確なパーシステンス図計算の高コストと不安定性に対処する。
• 現実世界のデータにおける微小な摂動や外れ値に対して感受性の高い標準的なパーシステンス図の問題を克服する。
• データから直接有限次元の埋め込みを学習することで、機械学習パイプラインへのトポロジカル特徴の効率的統合を可能にする。
• 多様な点群データに一般化し、ノイズ下でもトポロジカル忠実性を維持するニューラルネットワークアーキテクチャの開発。
• 学習されたトポロジカル記述子が、特にノイズが多い条件下で、下流の分類タスクにおいて正確な PD よりも優れた性能を示すことを実証する。

提案手法

• 点群特徴を可学習埋め込み関数 φ₁ で処理し、置換不変演算子（例：平均）で集約し、φ₂ によりベクトル出力にマッピングする DeepSets に類似したアーキテクチャを採用する。
• ラベル付きの真値ベクトル化（例：パーシステンス画像）を教師として、ネットワークをエンドツーエンドで訓練し、入力点群からベクトル化されたパーシステンス図を予測する。
• ロバスト性を評価する指標として 1- Wasserstein 距離を用い、λ 確率の点群が摂動された場合に RipsNet の出力が O(λ) に比例して変化することを証明する。
• 標準的なディープラーニング最適化（Adam）と交差検証を用いてハイパーパramータを調整し、集約演算子やネットワークの深さを最適化する。
• 分類タスクにおける正確な PD 計算の代わりに、RipsNet を下流の機械学習パイプラインの特徴抽出器として統合する。
• 設計上、置換不変性と安定性を確保し、ネットワークのインダクティブバイアスを PD のトポロジカル不変性と一致させる。

実験結果

リサーチクエスチョン

• RQ1 ディープラーニングモデルは、正確な計算と同等またはそれ以上の精度で、点群からベクトル化されたパーシステンス図を推定できるか？
• RQ2 ノイズレベルが上昇する条件下でも、RipsNet の入力摂動に対するロバスト性は、正確なパーシステンス図計算と比べてどのように異なるか？
• RQ3 RipsNet の出力を用いることで、正確な PD や PointNet などの標準的なディープラーニングモデルと比較して、下流分類性能がどの程度向上するか？
• RQ4 RipsNet の一般化能力は、合成的および実世界の点群データを含む未観測のデータ分布に対しても優れた性能を発揮できるか？
• RQ5 RipsNet は、解釈可能性とトポロジカル忠実性を保持したまま、トポロジカル特徴抽出の計算時間を著しく短縮できるか？

主な発見

• RipsNet は、Gudhi ライブラリを用いた正確な計算と比較して、パーシステンス図のベクトル化にかかる実行時間を3桁短縮した。
• 全テストノイズレベル（λ ∈ {0.02, 0.05, 0.1, 0.25, 0.5}）において、RipsNet 特徴を用いたニューラルネットワーク分類器が、正確な PD や PointNet を用いた分類器よりも高い平均正解率を達成した。
• λ ≥ 0.1 の条件下で、RipsNet を用いた分類器は PointNet ベースラインを上回り、λ > 0.25 で急激に性能が低下する PointNet とは対照的に、優れたロバスト性を示した。
• 理論的分析により、RipsNet の出力が摂動の割合 λ に対して O(λ) に比例して変化することが証明されたが、正確な PD は λ → 0 であっても固定の正の量だけ変化する可能性がある。
• ModelNet3D データセットにおいて、RipsNet を用いた分類器は全ノイズレベルで高い性能を維持し、正確な PD や PointNet ベースラインと比較して顕著に優れた平均正解率を示した。
• オープンソース実装は公開されており、Gudhi ライブラリへの統合が予定されており、トポロジカルデータ分析パイプラインにおける広範な採用を促進する。