[论文解读] Sequential change-point detection in high-dimensional Gaussian graphical models

Hossein Keshavarz, George Michailidis+1 more|arXiv (Cornell University)|Jun 20, 2018

Mental Health Research Topics参考文献 22被引用 15

一句话总结

该论文提出了一种可扩展的在线算法，通过在节点上顺序监控条件对数似然，检测高维高斯图模型中逆协方差矩阵的突变。该方法在稀疏性和高维性条件下保持了低检测延迟和统计功效，并在图大小、样本大小和拓扑变化的温和正则条件下具备理论保证。

ABSTRACT

High dimensional piecewise stationary graphical models represent a versatile class for modelling time varying networks arising in diverse application areas, including biology, economics, and social sciences. There has been recent work in offline detection and estimation of regime changes in the topology of sparse graphical models. However, the online setting remains largely unexplored, despite its high relevance to applications in sensor networks and other engineering monitoring systems, as well as financial markets. To that end, this work introduces a novel scalable online algorithm for detecting an unknown number of abrupt changes in the inverse covariance matrix of sparse Gaussian graphical models with small delay. The proposed algorithm is based upon monitoring the conditional log-likelihood of all nodes in the network and can be extended to a large class of continuous and discrete graphical models. We also investigate asymptotic properties of our procedure under certain mild regularity conditions on the graph size, sparsity level, number of samples, and pre- and post-changes in the topology of the network. Numerical works on both synthetic and real data illustrate the good performance of the proposed methodology both in terms of computational and statistical efficiency across numerous experimental settings.

研究动机与目标

• 解决高维时变网络中缺乏可扩展的在线变化点检测方法的问题，特别是在数据按顺序到达的场景下。
• 开发一种计算高效的算法，能够以最小检测延迟检测稀疏高斯图模型精度矩阵中未知数量的突变。
• 在图大小、稀疏性、样本大小以及变化前后拓扑差异的温和正则条件下，建立该过程的理论一致性。
• 通过伪似然近似将该方法推广至广泛的连续和离散图模型类别。
• 通过金融、生物和传感器网络应用中的合成数据和真实世界数据实验，展示其实际应用价值。

提出的方法

• 基于高斯图模型的局部马尔可夫性质，提出一种通过监控网络中每个节点的条件对数似然的顺序变化点检测框架。
• 使用伪似然近似解耦联合似然，实现在高维设置下的可扩展计算。
• 实施一种小批量更新策略，以实现实时处理流数据，在保持检测精度的同时降低计算成本。
• 基于对数似然偏差的累积和定义检验统计量，随时间监控以检测显著变化。
• 对检验统计量应用阈值规则，当检测到变化时触发警报，阈值经校准以控制假阳性率。
• 在温和正则条件下推导检测过程的渐近性质，包括特征值有界性和精度矩阵的稀疏性约束。

实验结果

研究问题

• RQ1 在线算法能否在高维高斯图模型的逆协方差矩阵中以低延迟和高功效检测到多个突变？
• RQ2 在不同稀疏性和样本大小水平下，该方法在检测延迟和假阳性率方面的表现如何？
• RQ3 随着维度和样本大小的增长，该顺序检测过程在何种理论条件下仍保持一致性？
• RQ4 该方法在多大程度上可推广至高斯分布以外的指数族图模型？
• RQ5 与现有离线变化点检测方法相比，该算法在流数据上的计算效率和检测精度方面表现如何？

主要发现

• 所提算法在高维设置下实现了低检测延迟，即使变量数量超过样本数量。
• 理论分析表明，在包括最小特征值有界性和精度矩阵稀疏性在内的温和正则条件下，该过程具有一致性。
• 合成数据上的数值实验表明，该方法在不同稀疏性和变化幅度配置下均保持了低假阳性率和高检测功效。
• 在fMRI和金融时间序列等真实世界应用中，该方法成功检测到已知的结构断裂（如市场崩盘），且延迟极小。
• 小批量更新机制实现了大规模流数据的高效处理，使该方法适用于传感器网络和金融系统中的实时监控。
• 对数似然和的比值的理论界表明，当变化在结构上显著时，即使扰动较小，检验统计量也能对精度矩阵的变化保持敏感。