[論文レビュー] Riemannian Manifold Kernel for Persistence Diagrams

Tam Le, Makoto Yamada|arXiv (Cornell University)|Feb 10, 2018

Topological and Geometric Data Analysis参考文献 43被引用数 4

ひとこと要約

本稿では、フィッシャー情報計量を用いて測地線距離を定義することで、持久図に対するリーマン多様体カーネルを提案する。この手法により、正定値カーネルの構築が可能となり、既存のワッサーシュタインベースのカーネルと比較して汎化性能と計算効率が向上し、複数のベンチマークタスクで最先端の結果を示している。

ABSTRACT

Algebraic topology methods have recently played an important role for statistical analysis with complicated geometric structured data. Among them, persistent homology is a well-known tool to extract robust topological features, and outputs as persistence diagrams. Unfortunately, persistence diagrams are point multi-sets which can not be used in machine learning algorithms for vector data. To deal with it, an emerged approach is to use kernel methods. Besides that, geometry for persistence diagrams is also an important factor. A popular geometry for persistence diagrams is the Wasserstein metric. However, Wasserstein distance is not negative definite. Thus, it is limited to build positive definite kernels upon the Wasserstein distance without approximation. In this work, we explore an alternative Riemannian manifold geometry, namely the Fisher information metric. By building upon the geodesic distance on the Riemannian manifold, we propose a positive definite kernel, namely Riemannian manifold kernel. Then, we analyze eigensystem of the integral operator induced by the proposed kernel for kernel machines. Based on that, we conduct generalization error bounds via covering numbers and Rademacher averages for kernel machines using the Riemannian manifold kernel. Additionally, we also show some nice properties for the proposed kernel such as stability, infinite divisibility and comparative time complexity with other kernels for persistence diagrams in term of computation. Throughout experiments with many different tasks on various benchmark datasets, we illustrate that the Riemannian manifold kernel improves performances of other baseline kernels.

研究の動機と目的

• 持久図に対する正定値カーネルを形成する上で、ワッサーシュタイン距離の制限を解消すること。
• 正定値カーネルの構築を可能にするリーマン多様体構造に基づく幾何的フレームワークの開発。
• 覆い数とラデマッハ平均を用いた一般化誤差バウンドを含む、提案カーネルの理論的性質の分析。
• 提案カーネルの実験的性能を、複数のベンチマークデータセットにおける多様な機械学習タスクで評価すること。
• 持久図用の既存カーネル手法と比較して、計算上の利点を確立すること。

提案手法

• 本稿では、フィッシャー情報計量を用いて、持久図をリーマン多様体上の点としてモデル化し、測地線距離を定義する。
• リーマン多様体幾何から導かれる測地線距離に基づいて、正定値カーネルを構築する。
• カーネルによって誘導される積分作用素を分析し、覆い数とラデマッハ平均を用いて一般化誤差バウンドを導出する。
• 提案カーネルの理論的性質として、安定性や無限可除性が証明されている。
• 複数のベンチマークデータセットを用い、さまざまな機械学習タスクで性能と計算複雑度を比較して評価する。
• カーネルの時間計算量を分析し、他の最先端の持久図用カーネルと比較する。

実験結果

リサーチクエスチョン

• RQ1 フィッシャー情報計量に基づくリーマン多様体幾何は、持久図に対する正定値カーネルを生成できるか？
• RQ2 提案カーネルを用いたカーネルマシンの一般化誤差は、既存手法と比較してどのように異なるか？
• RQ3 他のカーネルと比較して、リーマン多様体カーネルの時間計算量における計算上の利点は何か？
• RQ4 提案カーネルは、安定性や無限可除性といった望ましい理論的性質を示すか？
• RQ5 標準的なベンチマークデータセットにおける多様な機械学習タスクで、リーマン多様体カーネルはどのように性能を発揮するか？

主な発見

• 提案されたリーマン多様体カーネルは、複数のベンチマークデータセットおよび機械学習タスクで最先端の性能を達成している。
• カーネルは正定値性、安定性、無限可除性が証明されており、理論的堅牢性が保証されている。
• 覆い数とラデマッハ平均を用いて一般化誤差バウンドが確立され、理論的信頼性が裏付けられている。
• 他の持久図用カーネルと比較して、優れた計算効率を示している。
• 多様なトポロジカルデータ解析タスクにおいて、予測精度と一般化性能の両面でベースライン手法を上回っている。
• フィッシャー情報計量の使用により、非負定値性の欠如に起因するワッサーシュタイン距離の制限を克服する幾何的フレームワークが実現された。