[论文解读] Technical Report: Graph-Structured Sparse Optimization for Connected Subgraph Detection

Baojian Zhou, Feng Chen|arXiv (Cornell University)|Sep 30, 2016

Anomaly Detection Techniques and Applications参考文献 39被引用 3

一句话总结

本文提出 Graph-IHT 和 Graph-GHTP 两种高效算法，用于求解图结构数据中变量支持具有连通性约束的非线性优化问题。通过引入针对连通子图的新型近似投影预言机——解决精确投影的 NP-难问题——该方法在收敛性和近似保证方面表现优异，在疾病暴发检测和供水网络监控等多个真实应用场景中，连通子图检测性能优于当前最先进方法。

ABSTRACT

Structured sparse optimization is an important and challenging problem for analyzing high-dimensional data in a variety of applications such as bioinformatics, medical imaging, social networks, and astronomy. Although a number of structured sparsity models have been explored, such as trees, groups, clusters, and paths, connected subgraphs have been rarely explored in the current literature. One of the main technical challenges is that there is no structured sparsity-inducing norm that can directly model the space of connected subgraphs, and there is no exact implementation of a projection oracle for connected subgraphs due to its NP-hardness. In this paper, we explore efficient approximate projection oracles for connected subgraphs, and propose two new efficient algorithms, namely, Graph-IHT and Graph-GHTP, to optimize a generic nonlinear objective function subject to connectivity constraint on the support of the variables. Our proposed algorithms enjoy strong guarantees analogous to several current methods for sparsity-constrained optimization, such as Projected Gradient Descent (PGD), Approximate Model Iterative Hard Thresholding (AM-IHT), and Gradient Hard Thresholding Pursuit (GHTP) with respect to convergence rate and approximation accuracy. We apply our proposed algorithms to optimize several well-known graph scan statistics in several applications of connected subgraph detection as a case study, and the experimental results demonstrate that our proposed algorithms outperform state-of-the-art methods.

研究动机与目标

• 解决在稀疏性约束下连通子图检测缺乏计算上可行且理论基础坚实的算法的问题。
• 设计高效的连通子图近似投影预言机，克服精确投影的 NP-难问题。
• 设计在投影不精确的情况下仍能保持强收敛性和近似保证的优化算法。
• 将所提方法应用于生物信息学、社交网络和传感器网络中的真实图扫描统计问题。
• 展示所提方法在性能和可扩展性方面优于现有精确方法、启发式方法及基于近似的基线方法。

提出的方法

• 提出 Graph-IHT 和 Graph-GHTP 作为专为图结构稀疏性与连通性约束设计的迭代硬阈值算法。
• 引入基于贪心和自适应选择策略的新型连通子图近似投影预言机，用于近似投影到连通支持集合上。
• 将梯度硬阈值追踪（GHTP）和迭代硬阈值（IHT）的框架适配，通过支持投影步骤引入图连通性。
• 采用连续松弛方法对离散连通性约束进行近似，使用头尾预言机近似，受 Graph-Cosamp 启发，但扩展至一般非线性目标。
• 采用重加权融合 Lasso 方法在每次迭代中优化支持，提升对高分连通子图的检测能力。
• 将算法应用于优化知名图扫描统计量（如 Kulldorff、Scan、EdgeLasso），用于网络中的异常检测。

实验结果

研究问题

• RQ1 我们能否设计出针对连通子图的高效近似投影预言机，其精确投影为 NP-难问题？
• RQ2 在图结构稀疏性中，面对不精确投影时，我们能否维持强理论收敛性和近似保证？
• RQ3 所提算法在多样化的现实世界数据集中，是否在连通子图检测方面优于现有精确方法、启发式方法及基于近似的基线方法？
• RQ4 随着图规模和子图大小约束的增加，所提算法的性能如何变化？
• RQ5 在水污染检测和疾病暴发监测等应用中，算法能否以更高的精确率、召回率和 F1 值检测出高分连通子图，优于当前最先进方法？

主要发现

• Graph-GHTP 在少于 10 次迭代内收敛，且始终识别出扫描统计量得分高于 GenFusedLasso 的连通子图。
• 在三种图扫描统计量上，Graph-GHTP 均优于所有基线方法，仅在 CitHepPh 数据集上 Kulldorff 得分比 EventTree 低 2.71%。
• 在水污染检测中，Graph-GHTP 达到最佳 F-measure 和精确率，性能与 DepthFirstGraphScan 相当，但速度快 35.8 倍（166 秒 vs. 5929 秒）。
• Graph-GHTP 除 EventTree 外，速度优于所有基线方法，而 EventTree 虽速度快但精确率和召回率较低。
• Graph-GHTP 的运行时间对上界参数 $k$ 不敏感，与理论时间复杂度分析一致。
• 所提方法在多种应用场景中表现出强大的实证性能，包括疾病暴发检测、传感器网络和基因组互作网络。