[論文レビュー] Persistence Fisher Kernel: A Riemannian Manifold Kernel for Persistence Diagrams

Tam Le, Makoto Yamada|arXiv (Cornell University)|Feb 10, 2018

Topological and Geometric Data Analysis被引用数 51

ひとこと要約

本論文は、Persistence Fisher (PF) カーネルを永続図（persistence diagrams）のために導入し、Fisher情報幾何学に基づく、正定値で近似を伴わないカーネルを提供し、理論的保証と競争力のある実証性能を示す。

ABSTRACT

Algebraic topology methods have recently played an important role for statistical analysis with complicated geometric structured data such as shapes, linked twist maps, and material data. Among them, extit{persistent homology} is a well-known tool to extract robust topological features, and outputs as extit{persistence diagrams} (PDs). However, PDs are point multi-sets which can not be used in machine learning algorithms for vector data. To deal with it, an emerged approach is to use kernel methods, and an appropriate geometry for PDs is an important factor to measure the similarity of PDs. A popular geometry for PDs is the extit{Wasserstein metric}. However, Wasserstein distance is not extit{negative definite}. Thus, it is limited to build positive definite kernels upon the Wasserstein distance extit{without approximation}. In this work, we rely upon the alternative extit{Fisher information geometry} to propose a positive definite kernel for PDs extit{without approximation}, namely the Persistence Fisher (PF) kernel. Then, we analyze eigensystem of the integral operator induced by the proposed kernel for kernel machines. Based on that, we derive generalization error bounds via covering numbers and Rademacher averages for kernel machines with the PF kernel. Additionally, we show some nice properties such as stability and infinite divisibility for the proposed kernel. Furthermore, we also propose a linear time complexity over the number of points in PDs for an approximation of our proposed kernel with a bounded error. Throughout experiments with many different tasks on various benchmark datasets, we illustrate that the PF kernel compares favorably with other baseline kernels for PDs.

研究の動機と目的

• PDの幾何を尊重するカーネルを介して、永続図（PD）の堅牢な統計解析を動機づける。
• Fisher情報計量から直接計算され、近似を用いずに正定値なPFカーネルを提案する。
• 固有構造、一般化境界、安定性特性を含む理論的保証を確立する。
• 基準法と比較して、複数のPDベース学習タスクにおけるPFの実証性能を示す。

提案手法

• 各PDを、ガウス平滑化により有限集合上の平滑化・正規化された測度として表現する。
• 平滑化された測度と確率単体を用いて、2つのPD間のFisher情報測度を定義する。
• PFカーネルを k_PF(Dg_i, Dg_j) = exp(-t d_FIM(Dg_i, Dg_j)) (ただし t > 0) と構成し、d_FIM がシフトを加えると負定値であることを示す。
• k_PF によって誘起される積分演算子の固有構造を解析し、被覆数とRademacher平均の一般化境界を導出する。
• 誤差を有界に保ちながら計算コストを削減するために、Fast Gauss Transformを用いた線形時間近似を提案する。
• PFカーネルの無限可処分性を示し、基礎となるFisher情報幾何学に対する安定性について述べる。

実験結果

リサーチクエスチョン

• RQ1 基礎となる計量を近似せずに、幾何学を考慮した正定値な永続図カーネルをどのように定義するか？
• RQ2 PDs上のFisher情報測度に基づくカーネルの理論的性質（固有構造、一般化境界、安定性）は何か？
• RQ3 分類および変化点タスクにおいて、PFカーネルは既存のPDカーネルと比較してどの程度実験的に優れているか？

主な発見

• PFカーネルは正定値で、近似なしにFisher情報測度から直接構築されている。
• PF用に導出された積分演算子の固有系は、非負のLegendre展開係数を示し、カーネル学習境界を可能にする。
• PFカーネルは、ベースラインPDカーネルと比較して、ベンチマーク（例: MPEG7 および Orbit データセット）で競争力のあるまたは優れた性能を発揮する。
• PFベースのSVM結果: MPEG7 精度 80.00 ± 4.08; Orbit 精度 85.87 ± 0.77、PSS, PWG, SWのベースラインを上回る。
• PFカーネルは Fast Gauss Transform による線形時間近似を許容し、無限可分で安定性特性が有利である。