[論文レビュー] Learning Multi-Stage Sparsification for Maximum Clique Enumeration

Marco Grassia, Juho Lauri+2 more|arXiv (Cornell University)|Sep 12, 2019

Advanced Graph Neural Networks参考文献 36被引用数 4

ひとこと要約

本稿では、最大クリーク探索のための多段階学習フレームワークを提案する。このフレームワークは、周辺特徴に基づいて、どの最大クリークにも属しない可能性の高い頂点を削除することで、探索空間を大幅に縮小し、最大クリーク列挙の高速化を実現する。密なグラフでは最大53倍の高速化を達成し、約30%の頂点を削除する。一方、スパースな実世界のグラフでは99%以上の頂点を削除するが、実行時における最大クリークサイズの推定を必要としない。

ABSTRACT

We propose a multi-stage learning approach for pruning the search space of maximum clique enumeration, a fundamental computationally difficult problem arising in various network analysis tasks. In each stage, our approach learns the characteristics of vertices in terms of various neighborhood features and leverage them to prune the set of vertices that are likely not contained in any maximum clique. Furthermore, we demonstrate that our approach is domain independent -- the same small set of features works well on graph instances from different domain. Compared to the state-of-the-art heuristics and preprocessing strategies, the advantages of our approach are that (i) it does not require any estimate on the maximum clique size at runtime and (ii) we demonstrate it to be effective also for dense graphs. In particular, for dense graphs, we typically prune around 30 \% of the vertices resulting in speedups of up to 53 times for state-of-the-art solvers while generally preserving the size of the maximum clique (though some maximum cliques may be lost). For large real-world sparse graphs, we routinely prune over 99 \% of the vertices resulting in several tenfold speedups at best, typically with no impact on solution quality.

研究の動機と目的

• ネットワーク解析における基本的かつNP困難な問題である最大クリーク列挙（MCE）における探索空間の効率的削減に挑戦すること。
• 従来の事前処理手法が最大クリークサイズの推定に依存していることや、密なグラフでは失敗することの限界を克服すること。
• 学習された頂点およびエッジ特徴を用いて、ドメインに依存せずスケーラブルな手法を構築し、多様なグラフタイプに一般化可能にすること。
• 最大クリークサイズの実行時推定を必要とせず、スパースおよび密な両方のグラフで効果的な削減を実現すること。
• 異なるグラフタイプに適応可能な特徴の重要度を段階的に変化させる多段階学習パイプラインを用いて、既存のヒューリスティックな削減手法を改善すること。

提案手法

• 局所的な彩色密度、固有中心性、次数統計などの10個の周辺特徴に基づいて、勾配ブースティングツリーを用いて頂点の削除意思決定を学習する。
• 各段階で特徴を再計算し、訓練済み分類器を適用して、どの最大クリークにも属しない可能性の高い頂点を削除する多段階パイプラインを採用する。
• 類似した特徴（例：近傍の共通部分、次数の結合）を用いたエッジベース分類を導入し、後続段階での削減をさらに精緻化する。
• 正確なω-オラクルを活用して真の最大クリークサイズを提供することで、削減過程で解の品質を損なわないようにする。
• 過剰な削減を避けるための動的停止戦略を設計。削減の恩恵が減少するか、解の品質が低下する際に停止可能である。
• 隣接頂点が変化しない場合に特徴値を再利用することで特徴計算を最適化し、再計算コストを低減するための動的グラフアルゴリズムの活用を検討する。

実験結果

リサーチクエスチョン

• RQ1 多段階学習アプローチは、最大クリークサイズの推定を必要とせず、スパースおよび密な両方のグラフで効果的な削減を達成できるか？
• RQ2 本手法の性能は、最先端の事前処理手法と比較して、削減率および高速化の観点でどのように異なるか？
• RQ3 同じ特徴セットを用いて、異なるグラフドメイン（例：社会的、生物学的、合成的）にわたって一般化できる程度はどの程度か？
• RQ4 スパースグラフと密グラフにおいて、頂点削減の予測に最も寄与する特徴は何か？また、それらの重要度の違いは何か？
• RQ5 エッジベース分類は、頂点削減によってグラフサイズが小さくなった後段階でも、削減の正確性と高速化をさらに向上させられるか？

主な発見

• 密なグラフでは約30%の頂点を削除することで、最大53倍の高速化を達成。kコアベースの手法よりも顕著に優れた性能を示す。
• socfb-Texas84 や bio-WormNet-v3 といった大規模な実世界のスパースグラフでは、99%以上の頂点を削除するが、解の品質に損失は生じない。
• モデルはドメインを跨いで一般化可能である：再トレーニングなしで、スパースグラフではF1スコア0.96、密グラフではF1スコア0.76を維持する。
• 特徴の重要度分析から、スパースグラフでは局所的彩色密度（F10）が最も重要（重要度0.22）であり、密グラフでは隣接頂点の次数のχ²平均（F7）が支配的（重要度0.23）であることが判明。
• エッジベース分類は83%の正確さを達成し、頂点分類よりわずかに高いが、近傍の共通部分を計算するため、特徴計算が遅い。
• 本手法はすべての最大クリークを保持する。なぜなら、正確な最大クリークサイズをω-オラクルから得ているため、保守的かつ正確な削減が保証される。