[論文レビュー] Technical Report: Graph-Structured Sparse Optimization for Connected Subgraph Detection

Baojian Zhou, Feng Chen|arXiv (Cornell University)|Sep 30, 2016

Anomaly Detection Techniques and Applications参考文献 39被引用数 3

ひとこと要約

本稿では、グラフ構造データにおける変数のサポートに接続性制約を課した非線形最適化問題を効率的に解くための Graph-IHT および Graph-GHTP という2つのアルゴリズムを提案する。連結部分グラフに対する新しい近似射影オракルを導入することで、正確な射影がNP困難であるという課題に対処し、強力な収束性および近似保証を達成した。実世界の応用例（疾病流行検出、水質ネットワーク監視など）において、最先端の手法を上回る性能を発揮した。

ABSTRACT

Structured sparse optimization is an important and challenging problem for analyzing high-dimensional data in a variety of applications such as bioinformatics, medical imaging, social networks, and astronomy. Although a number of structured sparsity models have been explored, such as trees, groups, clusters, and paths, connected subgraphs have been rarely explored in the current literature. One of the main technical challenges is that there is no structured sparsity-inducing norm that can directly model the space of connected subgraphs, and there is no exact implementation of a projection oracle for connected subgraphs due to its NP-hardness. In this paper, we explore efficient approximate projection oracles for connected subgraphs, and propose two new efficient algorithms, namely, Graph-IHT and Graph-GHTP, to optimize a generic nonlinear objective function subject to connectivity constraint on the support of the variables. Our proposed algorithms enjoy strong guarantees analogous to several current methods for sparsity-constrained optimization, such as Projected Gradient Descent (PGD), Approximate Model Iterative Hard Thresholding (AM-IHT), and Gradient Hard Thresholding Pursuit (GHTP) with respect to convergence rate and approximation accuracy. We apply our proposed algorithms to optimize several well-known graph scan statistics in several applications of connected subgraph detection as a case study, and the experimental results demonstrate that our proposed algorithms outperform state-of-the-art methods.

研究の動機と目的

• スパarsity制約下での連結部分グラフ検出に対して、計算的に実行可能で理論的裏付けのある手法の不足に応えること。
• 正確な射影がNP困難であるという課題を克服するため、連結部分グラフに対する効率的な近似射影オーガルを設計すること。
• 不正確な射影が存在する中でも、強力な収束性および近似保証を維持する最適化アルゴリズムを設計すること。
• 提案手法をバイオインフォマティクス、ソーシャルネットワーク、センサーネットワークにおける実世界のグラフスキャン統計に適用すること。
• 既存の正確法、ヒューリスティック法、近似ベース手法と比較して、優れた性能とスケーラビリティを示すこと。

提案手法

• グラフ構造のスパarsityに特化した接続性制約を課した反復的ハードスレッディングアルゴリズムとして、Graph-IHT および Graph-GHTP を提案する。
• 連結部分グラフに対する新しい近似射影オーガルを、グリーディおよび適応的選択戦略を用いて導入し、連結サポート集合への射影を近似する。
• 勾配ハードスレッディングプルーフィング（GHTP）および反復的ハードスレッディング（IHT）の枠組みを、サポート射影ステップを介してグラフ接続性を統合する形で適応する。
• グラフ・コスマップにインspiredされたヘッドアンドテイルオーガル近似を用いて、離散的接続性制約の連続的緩和を実施し、一般の非線形目的関数へ拡張する。
• 各反復でサポートを精緻化するために、重み付き融合ラassoアプローチを採用し、スコアが高く、連結性を満たす部分グラフの検出を強化する。
• 異常検出のための代表的なグラフスキャン統計（例：Kulldorff、Scan、EdgeLasso）を最適化するためにアルゴリズムを適用する。

実験結果

リサーチクエスチョン

• RQ1 正確な射影がNP困難である連結部分グラフに対して、効率的な近似射影オーガルを設計できるか？
• RQ2 不正確な射影が存在する中でも、グラフ構造のスパarsityに対して強力な理論的収束性および近似保証を維持できるか？
• RQ3 提案手法は、多様な実世界データセットにおいて、既存の正確法、ヒューリスティック法、近似ベース手法を上回る性能を示せるか？
• RQ4 グラフサイズおよび部分グラフサイズ制約の増大に伴い、提案手法の性能はどのようにスケーリングするか？
• RQ5 水質汚染検出や疾病流行監視の応用において、提案手法は最先端の手法と比較して、より高い正確性、再現率、F1スコアを達成できるか？

主な発見

• Graph-GHTP は10回未満の反復で収束し、GenFusedLasso よりも高いスキャン統計スコアを持つ連結部分グラフを一貫して特定した。
• Graph-GHTP は3つのグラフスキャン統計において、すべてのベースライン手法を上回った。CitHepPh データセットでは、EventTree に比べ Kulldorff スコアが僅か 2.71% 低いにとどまった。
• 水質汚染検出において、Graph-GHTP は最高のF-measureと正確性を達成し、DepthFirstGraphScan と同等の性能を示したが、35.8倍高速（166秒 vs. 5929秒）であった。
• Graph-GHTP は EventTree を除くすべてのベースライン手法よりも高速であったが、EventTree は高い速度を達成したが正確性と再現率が低かった。
• Graph-GHTP の実行時間は、上限パラメータ $k$ にほとんど依存せず、理論的時間計算量解析と整合的であった。
• 提案手法は、疾病流行検出、センサーネットワーク、ゲノム相互作用ネットワークを含む多様な応用分野で、強力な実験的性能を示した。