[論文レビュー] Learning metrics for persistence-based summaries and applications for graph classification

Qi Zhao, Yusu Wang|arXiv (Cornell University)|Nov 1, 2019

Topological and Geometric Data Analysis被引用数 32

ひとこと要約

本稿では、ラベル付きデータを用いたメトリック学習によりグラフ分類を向上させるために、学習可能な重み付きカーネル WKPI を提案する。パーサーバンス特徴量のデータ固有の重み関数を学習することで、WKPI はベンチマークグラフデータセットにおいて最先端または競争力のある性能を達成し、特に重要なケースでは先行手法を上回る性能を示す。

ABSTRACT

Recently a new feature representation and data analysis methodology based on a topological tool called persistent homology (and its persistence diagram summary) has gained much momentum. A series of methods have been developed to map a persistence diagram to a vector representation so as to facilitate the downstream use of machine learning tools. In these approaches, the importance (weight) of different persistence features are usually pre-set. However often in practice, the choice of the weight-function should depend on the nature of the specific data at hand. It is thus highly desirable to learn a best weight-function (and thus metric for persistence diagrams) from labelled data. We study this problem and develop a new weighted kernel, called WKPI, for persistence summaries, as well as an optimization framework to learn the weight (and thus kernel). We apply the learned kernel to the challenging task of graph classification, and show that our WKPI-based classification framework obtains similar or (sometimes significantly) better results than the best results from a range of previous graph classification frameworks on a collection of benchmark datasets.

研究の動機と目的

• パーサーバンス図のベクトル化における固定・事前設定された重み関数の制限を解決すること。これは、データ固有の特徴重要度を反映しない可能性がある。
• ラベル付き学習データに基づいてパーサーバンス特徴量の重み付けを適応的に調整するメトリック学習フレームワークを開発すること。
• パーサーバンス図のカーネル関数を、下流の機械学習性能を向上させるためにエンドツーエンド最適化できるようにすること。
• 学習されたカーネルを、挑戦的であるがゆえに精度と頑健性を向上させるグラフ分類という課題に適用すること。
• 学習されたメトリクスが、実世界のグラフ分類ベンチマークにおいて、手作業で設計されたまたはデフォルトの重み付けよりも優れていることを実証すること。

提案手法

• 学習可能な重みをパーサーバンス特徴量に割り当てる重み付きカーネル WKPI を提案し、学習タスクに対する関連性に基づく。
• ラベル付きデータから最適な重み関数を学ぶための最適化フレームワークを定式化し、微分可能関数を用いた目的関数を採用する。
• 学習されたカーネルをグラフ分類パイプラインに統合し、パーサーバンスに基づく要約を入力表現として活用する。
• 勾配ベースの最適化を用いて学習中に重みパラメータを更新し、メトリクスのエンドツーエンド学習を可能にする。
• グラフデータからパーサーバンス図を構築し、学習されたカーネルを用いてベクトル表現にマッピングして分類に使用する。
• 標準的な教師あり学習プロトコルを用いてモデルを訓練し、バックプロパゲーションによりカーネルの重みを分類誤差を最小化するように更新する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型で学習可能な重み関数は、固定またはヒューリスティックな重み付けと比較して、パーサーバンス図のグラフ分類性能を向上させることができるか？
• RQ2 WKPI における学習されたメトリクスは、ベンチマークグラフデータセットにおける分類精度の観点で、既存のカーネル手法と比較してどのように異なるか？
• RQ3 ラベル付きデータからのメトリクス学習は、下流タスクにおけるパーサーバンス図の表現力にどの程度向上をもたらすか？
• RQ4 提案されたフレームワークは、トポロジー的複雑性が異なる多様なグラフ分類ベンチマークに一般化可能か？
• RQ5 最適化フレームワークは、学習されたカーネルの安定性と収束性にどのような影響を及えるか？

主な発見

• WKPI フレームワークは、複数のベンチマークデータセットにおいて、最先端のグラフ分類手法と同等または顕著に優れた分類精度を達成する。
• 学習された重み関数は、データの内在的なトポロジカル構造に適応することで一貫して性能を向上させ、固定重みベースラインを上回る。
• 最適化フレームワークは、パーサーバンス特徴量に対して意味的で判別力のある重みを効果的に学習し、カーネルの判別力を強化した。
• 本手法は、多様なグラフタイプおよびトポロジカル複雑性にわたり頑健であることが示され、一般化能力を示している。
• 結果から、ラベル付きデータからのメトリクス学習が、機械学習パイプラインにおけるパーサーバンス図の有用性を最大化するために不可欠であることが確認された。