[论文解读] Optimal network online change point localisation

Yi Yu, Oscar Hernán Madrid Padilla+2 more|arXiv (Cornell University)|Jan 14, 2021

Advanced Statistical Process Monitoring参考文献 31被引用 9

一句话总结

本文提出了一种计算高效的动态网络在线变点检测方法，基于邻接矩阵，实现了检测延迟的极小化最优性。该方法引入了两种多项式时间算法，采用不同的第一类错误控制方式，检测延迟接近最优，为 $\lesssim \log(\Delta/\alpha) \cdot r / (\kappa_0^2 n \rho) $，在对数因子范围内与理论下界一致。

ABSTRACT

We study the problem of online network change point detection. In this setting, a collection of independent Bernoulli networks is collected sequentially, and the underlying distributions change when a change point occurs. The goal is to detect the change point as quickly as possible, if it exists, subject to a constraint on the number or probability of false alarms. In this paper, on the detection delay, we establish a minimax lower bound and two upper bounds based on NP-hard algorithms and polynomial-time algorithms, i.e., \[ \mbox{detection delay} \begin{cases} \gtrsim \log(1/α) \frac{\max\{r^2/n, \, 1\}}{κ_0^2 n ρ},\\ \lesssim \log(Δ/α) \frac{\max\{r^2/n, \, \log(r)\}}{κ_0^2 n ρ}, & \mbox{with NP-hard algorithms},\\ \lesssim \log(Δ/α) \frac{r}{κ_0^2 n ρ}, & \mbox{with polynomial-time algorithms}, \end{cases} \] where $κ_0, n, ρ, r$ and $α$ are the normalised jump size, network size, entrywise sparsity, rank sparsity and the overall Type-I error upper bound. All the model parameters are allowed to vary as $Δ$, the location of the change point, diverges. The polynomial-time algorithms are novel procedures that we propose in this paper, designed for quick detection under two different forms of Type-I error control. The first is based on controlling the overall probability of a false alarm when there are no change points, and the second is based on specifying a lower bound on the expected time of the first false alarm. Extensive experiments show that, under different scenarios and the aforementioned forms of Type-I error control, our proposed approaches outperform state-of-the-art methods.

研究动机与目标

• 为解决在线变点检测在随机网络邻接矩阵序列中缺乏理论分析的问题。
• 建立网络变点检测中检测延迟的极小化最优下界，结合秩稀疏性与网络结构。
• 开发计算高效的算法，在两种不同的第一类错误控制策略下实现接近最优的检测延迟。
• 通过在真实世界网络数据上的广泛数值实验，验证所提方法相较于最先进方法的优越性。

提出的方法

• 提出一种基于独立伯努利邻接矩阵序列观测的新型网络在线变点检测框架。
• 推导出检测延迟的极小化最优下界，其依赖于归一化跳跃大小 $\kappa_0$、网络规模 $n$、稀疏性 $\rho$、秩稀疏性 $r$ 以及第一类错误 $\alpha$。
• 提出两种多项式时间检测算法：一种控制总体误报概率，另一种强制设定首次误报的期望时间下界。
• 基于矩阵内积与次高斯集中性，利用似然比检验推导极小化最优下界。
• 在下界推导中，使用霍夫丁不等式与矩生成函数界来控制尾部概率。
• 通过在MIT手机通话交互数据集上的实验，验证理论结果，所提方法比竞争对手更早检测到课间休息期。

实验结果

研究问题

• RQ1 在动态网络中，在线变点检测的检测延迟是否存在基本极限（极小化最优下界）？
• RQ2 多项式时间算法能否在网络变点检测中实现接近极小化最优的检测延迟？
• RQ3 不同的第一类错误控制策略——总体误报概率与首次误报的期望时间——如何影响检测性能？
• RQ4 在极小化意义下，秩稀疏性 $r$ 与网络稀疏性 $\rho$ 如何影响检测延迟？
• RQ5 所提方法能否比现有最先进方法更早检测到现实世界中的网络突变（如季节性行为）？

主要发现

• 检测延迟的极小化最优下界为 $\gtrsim \log(1/\alpha) \cdot \max\{r^2/n, 1\} / (\kappa_0^2 n \rho)$，确立了该问题的基本极限。
• 所提多项式时间算法的检测延迟为 $\lesssim \log(\Delta/\alpha) \cdot r / (\kappa_0^2 n \rho)$，在对数因子范围内与下界一致。
• 在MIT手机数据中，方法于2004年12月27日与2005年3月31日检测到变点，优于竞争对手在2005年1月30日与4月6日的检测结果。
• 理论分析表明，当 $r \gtrsim \sqrt{n}$ 时，下界是紧致的，验证了所提方法的最优性。
• 所提算法在保持强第一类错误控制的同时，相较于现有方法，在多种网络场景下实现了更快的检测速度。
• 研究表明，秩稀疏性 $r$ 与归一化跳跃大小 $\kappa_0$ 是决定检测延迟的关键因素，$r$ 与 $\kappa_0$ 越高，检测越快。