[論文レビュー] Fuzzy c-Means Clustering for Persistence Diagrams

Thomas Davies, Jack Aspinall+2 more|arXiv (Cornell University)|Jun 4, 2020

Topological and Geometric Data Analysis参考文献 68被引用数 5

ひとこと要約

本稿では、パーシステンス図のためのファジィc-メンズクラスタリングを提案し、パーシステンス図の空間における距離を活用することで、Fuzzy c-Means（FCM）アルゴリズムを位相的データ解析に拡張する。収束保証を達成し、位相的に類似したデータのクラスタリングにおいて優れた性能を示し、事前学習モデルの選定や材料科学分野における格子構造分類に、確率的所属値を用いて応用可能である。

ABSTRACT

Persistence diagrams concisely represent the topology of a point cloud whilst having strong theoretical guarantees, but the question of how to best integrate this information into machine learning workflows remains open. In this paper we extend the ubiquitous Fuzzy c-Means (FCM) clustering algorithm to the space of persistence diagrams, enabling unsupervised learning that automatically captures the topological structure of data without the topological prior knowledge or additional processing of persistence diagrams that many other techniques require. We give theoretical convergence guarantees that correspond to the Euclidean case, and empirically demonstrate the capability of our algorithm to capture topological information via the fuzzy RAND index. We end with experiments on two datasets that utilise both the topological and fuzzy nature of our algorithm: pre-trained model selection in machine learning and lattices structures from materials science. As pre-trained models can perform well on multiple tasks, selecting the best model is a naturally fuzzy problem; we show that fuzzy clustering persistence diagrams allows for model selection using the topology of decision boundaries. In materials science, we classify transformed lattice structure datasets for the first time, whilst the probabilistic membership values let us rank candidate lattices in a scenario where further investigation requires expensive laboratory time and expertise.

研究の動機と目的

• ヒルバート空間埋め込みや位相的事前知識を必要とせずに、データの位相的要約であるパーシステンス図を機械学習ワークフローに統合する課題に対処する。
• ファジィ（ソフト）クラスタ所属とデータの内在する位相的構造の両方を捉えることができる非監視学習を可能にする。
• ユークリッド空間の場合と類似する、非ヒルバート空間（パーシステンス図の空間）におけるファジィc-メンズの理論的収束保証を提供する。
• 2つの分野における実用的有用性を実証する：決定境界の位相構造に基づく事前学習済みディープラーニングモデルの選定と、幾何的対称性に不変な変換を施した格子構造の分類。
• 確率的所属値を用いて候補となる格子構造をランク付け可能とし、材料科学分野における高価な実験的検証の依存度を低減する。

提案手法

• パーシステンス図の空間へのFuzzy c-Means（FCM）アルゴリズムの拡張を、位相的データ解析に適合する距離関数を用いて実施する。
• クラスタ中心の更新ルールとして、パーシステンス図の距離空間に適応したフレシェ平均を用いる。
• 収束解析を適用し、反復の任意の収束部分列が局所的最小値またはサドル点に収束することを示し、標準的なFCMの収束と類似した性質を示す。
• Wasserstein距離やボトルネック距離などの、パーシステンス図上での多様な距離を用い、ファジィランダックス指数を用いてクラスタリング品質を評価する。
• 確率的所属値を活用してクラスタ所属をランク付け可能とし、特に材料科学分野で候補となる格子構造の優先順位を付けるのに有効である。
• 2つの実世界の応用にアルゴリズムを統合する：決定境界の位相構造に基づく事前学習モデルのクラスタリングと、幾何的対称性に不変な変換を施した格子構造の分類。

実験結果

リサーチクエスチョン

• RQ1 ファジィc-メンズアルゴリズムは、理論的収束保証を維持したまま、パーシステンス図の空間へ適切に拡張可能か？
• RQ2 ファジィ所属を用いる場合、パーシステンス図上での距離関数の選択がクラスタリング品質にどのように影響するか？
• RQ3 ファジィクラスタリングは、材料科学分野の格子構造やディープラーニングモデルの決定境界といった実世界のデータセットにおいて、位相的類似性を効果的に捉えることができるか？
• RQ4 ファジィクラスタリングにおける高い所属値は、機械学習タスクにおけるより良い一般化性能に対応するか？
• RQ5 格子構造をクラスタリングする際、幾何的変換（回転、反転、平行移動）に対して不変性を維持できるか？

主な発見

• 提案されたパーシステンス図のためのファジィc-メンズクラスタリングは、全825回のランダムなインスタンスで収束を達成し、理論的収束保証を裏付ける。
• ファジィランダックス指数で測定されるクラスタリング品質は、計算コストの高い距離関数（例：正確なWasserstein距離）を用いるほど向上し、近似を用いると劣化することが確認され、本手法の距離の忠実度に依存することを示している。
• 変換を施した格子構造データセットにおいて、FPDClusterは所属割り当てにおいて100％の正確性を達成したが、幾何的対称性不変性を欠くため、幾何的クラスタリング手法は失敗した。
• 事前学習モデル選定の文脈では、決定境界の位相構造に基づく同じクラスタに属するモデルの所属値が高いほど、未観測タスクへの一般化性能が優れており、位相的構造とモデル性能の直接的な関連を示している。
• 確率的所属値により、候補となる格子構造の効果的なランク付けが可能となり、材料科学分野で最も可能性の高い候補を優先的に選定でき、実験的検証への依存度を低減できる。
• 非変換、回転、反転、平行移動を施したすべての設定において、FPDClusterは正しいクラスタ所属を維持したが、ADMM や LP といったベースライン手法は幾何的変換に対して失敗した。