[論文レビュー] A Family of Tractable Graph Distances

José Bento, Stratis Ioannidis|arXiv (Cornell University)|Jan 12, 2018

Complex Network Analysis Techniques被引用数 10

ひとこと要約

本稿では、二重確率行列や直交行列などの構造的行列集合に対する最適化を通じて、化学的距離やCKS距離を一般化することにより、証明可能に距離関数である、計算可能なグラフ距離の族を導入する。凸最適化またはスペクトル法を用いることで、距離関数の性質と計算可能性を保証し、ノード属性をソフト制約またはハード制約として組み込むが、これらの保証を損なわない。

ABSTRACT

Important data mining problems such as nearest-neighbor search and clustering admit theoretical guarantees when restricted to objects embedded in a metric space. Graphs are ubiquitous, and clustering and classification over graphs arise in diverse areas, including, e.g., image processing and social networks. Unfortunately, popular distance scores used in these applications, that scale over large graphs, are not metrics and thus come with no guarantees. Classic graph distances such as, e.g., the chemical and the CKS distance are arguably natural and intuitive, and are indeed also metrics, but they are intractable: as such, their computation does not scale to large graphs. We define a broad family of graph distances, that includes both the chemical and the CKS distance, and prove that these are all metrics. Crucially, we show that our family includes metrics that are tractable. Moreover, we extend these distances by incorporating auxiliary node attributes, which is important in practice, while maintaining both the metric property and tractability.

研究の動機と目的

• データマイニングおよび機械学習分野における、スケーラブルで証明可能な距離関数を有するグラフ距離の欠如に対処すること。
• 化学的距離やCKS距離といった古典的グラフ距離は距離関数ではあるが、計算がNP困難であるという課題を克服すること。
• 距離関数性と計算可能性の両方を保証することで、大規模グラフ上での距離関数に基づくアルゴリズム（例：クラスタリング、近隣探索）の実用的利用を可能にすること。
• ノード属性（例：年齢、原子番号）を距離関数に組み込みつつ、距離関数性と計算効率を損なわないこと。
• 構造的制約や属性制約が加わった場合でも、一般化されたグラフ距離が距離関数の性質を保つための理論的条件を提供すること。

提案手法

• 一般化されたグラフ距離を $ d_S(A,B) = \min_{P \in S} \|AP - PB\| $ として定義し、$ S $ は閉かつ有界な行列集合、$ \|\cdot\| $ は行列ノルムとする。
• 適切なノルム条件のもとで、$ S $ が置換行列 $ \mathbb{P}^n $、二重確率行列 $ \mathbb{W}^n $、または直交行列 $ \mathbb{O}^n $ の場合に、$ d_S $ が擬距離関数であることを証明する。
• $ S = \mathbb{W}^n $ の場合、$ d_S $ が凸最適化問題に還元されることを示し、$ S = \mathbb{O}^n $ の場合、$ d_S $ がスペクトル分解（例：SVD）に還元されることを示すことにより、計算可能性を保証する。
• ノード属性をソフトペナルティ（目的関数内でのペナルティ）やハード制約（ラベルの保存を強制）として統合するフレームワークを拡張し、距離関数性と計算可能性を維持する。
• グラフ彩色（例：Weisfeiler-Lehman）を用いて最適化におけるスパarsityを誘導し、変数の数を削減し、計算を高速化する。
• 合成グラフおよび実世界のネットワークを用いて、非距離関数のベースラインおよび正確な化学的距離と比較して、実験的に手法を検証する。

実験結果

リサーチクエスチョン

• RQ1 証明可能な距離関数性と計算可能性の両方を満たす一般化されたグラフ距離の族を定義できるか？
• RQ2 ノード属性を距離関数に組み込む際、距離関数性やスケーラビリティを損なわずに実現できるか？
• RQ3 三角不等式違反（TIV）がクラスタリング性能に与える影響はどの程度か？距離関数に基づく距離と非距離関数の距離とを比較するとどうなるか？
• RQ4 Weisfeiler-Lehman彩色から得られる構造的制約を用いることで、正確性を損なわず計算時間を著しく短縮できるか？
• RQ5 提案手法による計算可能な距離が、正確な化学的距離とどの程度類似しているか、類似度およびクラスタリング性能の観点から評価できるか？

主な発見

• $ \mathbb{W}^n $（二重確率行列）および $ \mathbb{O}^n $（直交行列）に基づく提案距離は、Frobeniusノルムや作用素2ノルムを含む標準的な行列ノルムのもとで、証明可能な距離関数である。
• $ \mathbb{W}^n $ における最適化は凸計画法により計算可能であり、$ \mathbb{O}^n $ における最適化はスペクトル分解により計算可能であり、大規模グラフ上でも効率的な計算が可能である。
• ノード属性をソフトまたはハード制約として組み込むことで、距離関数性と計算可能性を維持し、特徴を保持するグラフ比較が可能になる。
• 三角不等式違反（TIV）はクラスタリング性能を著しく劣化させる：わずか1%のTIVですら誤分類率が急激に上昇するが、距離関数に基づく距離は高い耐性を示す。
• 提案手法は正確な化学的距離と高い類似度を達成しており（DISTATISおよびメタグラフにおけるエッジオーバーラップで測定）、一部のバージョン（例：Natalie）は他の手法を上回る正確性を示す。
• Weisfeiler-Lehman彩色を用いて制約を誘導することで、最適化の有効次元が削減され、5,242ノードの共同研究ネットワークにおいて最大110倍の加速が達成された。