[論文レビュー] Towards Spectral Sparsification of Simplicial Complexes Based on Generalized Effective Resistance.

Braxton Osting, Sourabh Palande+1 more|arXiv (Cornell University)|Aug 28, 2017

Topological and Geometric Data Analysis被引用数 4

ひとこと要約

本論文は、有効抵抗を高次単体へ一般化し、Spielman-Srivastavaのグラフスパarsification理論をアップラプラシアンへ拡張することで、単体複体のスペクトル的スパース化フレームワークを導入する。スペクトルの保存を保証するアルゴリズムを提案し、大規模な単体複体における効率的なスペクトル学習を可能にし、実験的検証によりスペクトルクラスタリング性能の強力な保持が示された。

ABSTRACT

As a generalization of the use of graphs to describe pairwise interactions, simplicial complexes can be used to model higher-order interactions between three or more objects in complex systems. There has been a recent surge in activity for the development of data analysis methods applicable to simplicial complexes, including techniques based on computational topology, higher-order random processes, generalized Cheeger inequalities, isoperimetric inequalities, and spectral methods. In particular, spectral learning methods (e.g. label propagation and clustering) that directly operate on simplicial complexes represent a new direction emerging from the confluence of computational topology and machine learning. Similar to the challenges faced by massive graphs, computational methods that process simplicial complexes are severely limited by computational costs associated with massive datasets. To apply spectral methods in learning to massive datasets modeled as simplicial complexes, we work towards the sparsification of simplicial complexes based on preserving the spectrum of the associated Laplacian operators. We show that the theory of Spielman and Srivastava for the sparsification of graphs extends to simplicial complexes via the up Laplacian. In particular, we introduce a generalized effective resistance for simplexes; provide an algorithm for sparsifying simplicial complexes at a fixed dimension; and give a specific version of the generalized Cheeger inequality for weighted simplicial complexes. Finally, we demonstrate via experiments the preservation of the up Laplacian during sparsification, as well as the utility of sparsification with respect to spectral clustering.

研究の動機と目的

• 大規模な単体複体におけるスペクトル的手法の計算ボトル neck を軽減し、効率的なスパース化を可能にすること。
• 特にSpielman-Srivastavaのフレームワークを、アップラプラシアンを用いて高次元構造へ拡張すること。
• 高次元接続性を捉え、重み付きエッジサンプリングを可能にする単体への有効抵抗の一般化を定義すること。
• スペクトルクラスタリングにおける理論的保証を支援するため、重み付き単体複体に対する一般化されたチーリング不等式を確立すること。
• スパース化された複体が、クラスタリングなどの下流学習タスクに不可欠なスペクトル的性質を保持していることを実証的に示すこと。

提案手法

• アップラプラシアンのムーア・ペンローズ逆行列に基づき、k-単体に対する一般化された有効抵抗を導入する。
• 固定次元のエッジに対して一般化された有効抵抗に比例する確率を割り当てるスケーリングベースのスパース化アルゴリズムを開発する。
• 単体複体のアップラプラシアンにSpielman-Srivastavaのスパース化フレームワークを適用し、スペクトルの保存を保証する。
• 一般化された有効抵抗を用いて、スペクトル構造を維持する重み付きランダムウォークまたはサンプリングプロセスを定義する。
• スペクトルギャップと高次元拡張特性との関係を示す、重み付き単体複体に対する一般化されたチーリング不等式を導出する。
• 合成および実世界のデータセットに対してスパース化パイプラインを実装・評価し、スペクトル的およびクラスタリングの忠実度を評価する。

実験結果

リサーチクエスチョン

• RQ1 グラフのスペクトル的スパース化理論は、アップラプラシアンを用いて単体複体へ拡張可能か？
• RQ2 単体複体における高次元単体への有効抵抗の適切な一般化は何か？
• RQ3 重み付き単体複体におけるアップラプラシアンのスペクトルを保存するスパース化アルゴリズムはどのように設計可能か？
• RQ4 重み付き単体複体に対して一般化されたチーリング不等式は成立するか？また、スペクトルクラスタリングとどのように関連するか？
• RQ5 単体複体のスパース化後、どの程度スペクトルクラスタリング性能が保持されるか？

主な発見

• k-単体に対する一般化された有効抵抗は、アップラプラシアンを介してグラフスパース化の原理的拡張を高次元構造へ可能にする。
• 提案されたスパース化アルゴリズムは、スペクトル距離指標による検証を通じて、アップラプラシアンのスペクトルを効果的に保存していることが確認された。
• 実験的結果から、スパース化された複体におけるスペクトルクラスタリング性能が元の複体と同等であることが示され、下流学習における実用性が裏付けられた。
• 重み付き単体複体に対して一般化されたチーリング不等式が確立され、スペクトルギャップと高次元拡張特性との関係が明確になった。
• 本手法により、学習タスクに不可欠な主要なスペクトル的性質を維持しながら、計算コストの顕著な低減が達成された。