[論文レビュー] Spectral Sparsification of Simplicial Complexes for Clustering and Label Propagation

Braxton Osting, Sourabh Palande+1 more|arXiv (Cornell University)|Aug 28, 2017

Topological and Geometric Data Analysis参考文献 47被引用数 5

ひとこと要約

本稿では、上ラプラシアンの固有値を保存するように、単体的複体のスペクトルスパース化手法を導入し、クラスタリングやラベル伝播などのスペクトル学習アルゴリズムの効率的適用を可能にする。この手法は、スパルマンとスリヴァスティーヴァのグラフスパース化を、一般化された有効抵抗を用いた新しい手法により高次元構造へと一般化したものである。実験により、スパース化された複体においても性能が保持されていることが示された。

ABSTRACT

As a generalization of the use of graphs to describe pairwise interactions, simplicial complexes can be used to model higher-order interactions between three or more objects in complex systems. There has been a recent surge in activity for the development of data analysis methods applicable to simplicial complexes, including techniques based on computational topology, higher-order random processes, generalized Cheeger inequalities, isoperimetric inequalities, and spectral methods. In particular, spectral learning methods (e.g. label propagation and clustering) that directly operate on simplicial complexes represent a new direction for analyzing such complex datasets. To apply spectral learning methods to massive datasets modeled as simplicial complexes, we develop a method for sparsifying simplicial complexes that preserves the spectrum of the associated Laplacian matrices. We show that the theory of Spielman and Srivastava for the sparsification of graphs extends to simplicial complexes via the up Laplacian. In particular, we introduce a generalized effective resistance for simplices, provide an algorithm for sparsifying simplicial complexes at a fixed dimension, and give a specific version of the generalized Cheeger inequality for weighted simplicial complexes. Finally, we introduce higher-order generalizations of spectral clustering and label propagation for simplicial complexes and demonstrate via experiments the utility of the proposed spectral sparsification method for these applications.

研究の動機と目的

• 大規模な単体的複体におけるスケーラブルなスペクトル学習を可能にするために、計算コストを低減するスパース化により、スケーラビリティを向上させること。
• 上ラプラシアンと一般化された有効抵抗を用いて、スペクトルグラフスパース化理論を単体的複体へと拡張すること。
• 単体的複体上で直接動作するスペクトルクラスタリングおよびラベル伝播の高次元一般化を開発すること。
• スパース化された複体が元の複体の主要なスペクトル的およびアルゴリズム的性質を保持しているかどうかを実証すること。
• スペクトルスパース化と単体的複体におけるホモロジー的・ホッジ理論的構造との間の理論的関係を確立すること。

提案手法

• 上ラプラシアンに基づく一般化された有効抵抗を単体に対して提案し、グラフ論的概念を高次元構造へと拡張する。
• 固定次元における単体的複体のスパース化アルゴリズムを構築し、上ラプラシアンの固有値を保存する。
• スパルマンとスリヴァスティーヴァのスペクトルスパース化フレームワークを、上ラプラシアンと一般化された有効抵抗を介して単体的複体へと適応する。
• 重み付き単体的複体に対して一般化されたチーリング不等式を導入し、スペクトル的性質と組合せ的拡張性を結びつける。
• エッジまたは単体レベルの類似度行列を用いて、単体的複体上で高次元ラベル伝播およびスペクトルクラスタリングを適用する。
• 単体的複体の双対グラフを用いて、頂点ベースの遷移を単体ベースのものに置き換え、高次元要素間でのラベル伝播をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 グラフのスペクトルスパース化は、上ラプラシアンの固有値を保存するように、単体的複体へ一般化可能か？
• RQ2 単体的複体における有効抵抗の適切な高次元アナロジーは何か？ そして、それはスペクトルスパース化を可能にするか？
• RQ3 スペクトルクラスタリングおよびラベル伝播は、単体的複体上で直接動作するようにどのように一般化可能か？
• RQ4 スパース化は、単体的複体におけるラベル伝播およびクラスタリングアルゴリズムの収束性と出力結果を保持するか？
• RQ5 スペクトルスパース化と単体的複体におけるホッジ理論またはホモロジー的構造との関係は何か？

主な発見

• 単体のための一般化された有効抵抗は、グラフ論的概念を高次元構造へと拡張することで、単体的複体のスペクトルスパース化を可能にする。
• 提案されたスパース化アルゴリズムは、上ラプラシアンの固有値を保存しており、重要なスペクトル的性質が維持されていることが保証される。
• 単体的複体上での高次元ラベル伝播は、エッジまたは単体レベルの遷移行列を用いて定式化可能であり、頂点ベースのマルコフ連鎖に類似している。
• ダムベル複体における実験により、スパース化後もラベル伝播の結果が保持されていることが示され、本手法の忠実性が検証された。
• 重み付き単体的複体に対して一般化されたチーリング不等式が導出され、スペクトルギャップと組合せ的拡張性が結びつけられた。
• 本手法により、計算複雑性を低減することで、大規模な単体的複体上でのスペクトルクラスタリングおよびラベル伝播の効率的適用が可能になった。