[论文解读] Online Time-Varying Topology Identification via Prediction-Correction Algorithms

Alberto Natali, Mario Coutiño+2 more|arXiv (Cornell University)|Oct 22, 2020

Target Tracking and Data Fusion in Sensor Networks被引用 6

一句话总结

本文提出了一种在线预测-校正算法，用于在非平稳环境中动态图拓扑结构的识别，通过时变优化隐式地利用早停策略进行正则化。该方法在无需显式正则化或拓扑变化点先验知识的情况下，实现了对高斯图模型中时变精度矩阵的鲁棒跟踪。

ABSTRACT

Signal processing and machine learning algorithms for data supported over graphs, require the knowledge of the graph topology. Unless this information is given by the physics of the problem (e.g., water supply networks, power grids), the topology has to be learned from data. Topology identification is a challenging task, as the problem is often ill-posed, and becomes even harder when the graph structure is time-varying. In this paper, we address the problem of dynamic topology identification by building on recent results from time-varying optimization, devising a general-purpose online algorithm operating in non-stationary environments. Because of its iteration-constrained nature, the proposed approach exhibits an intrinsic temporal-regularization of the graph topology without explicitly enforcing it. As a case-study, we specialize our method to the Gaussian graphical model (GGM) problem and corroborate its performance.

研究动机与目标

• 解决在非平稳环境中从流数据中学习时变图拓扑的挑战。
• 通过实现实时、自适应的拓扑推理，克服批处理和滑动窗口方法的局限性。
• 开发一种在线算法，通过迭代约束隐式正则化解，避免在目标函数中显式添加正则化项。
• 在高斯图模型（GGM）问题中展示该框架在动态精度矩阵估计方面的有效性。
• 在智能电网和脑连接网络等应用中实现实时异常检测与决策。

提出的方法

• 将动态拓扑识别建模为时变凸优化问题，采用预测-校正框架以处理非平稳数据流。
• 引入预测步骤，基于历史解估计下一时刻的拓扑迭代值，随后通过校正步骤利用新数据对其进行优化。
• 通过固定迭代次数（P次预测和C次校正）实现隐式时间正则化，即通过早停策略实现。
• 在高斯图模型（GGM）中应用该算法，通过在每个时间步求解精度矩阵的最大似然估计（MLE）问题。
• 在I-MLE（瞬时MLE）解中引入遗忘因子以适应数据漂移，而P-C算法则通过迭代优化保持稳定性。
• 将归一化均方误差（NMSE）定义为性能度量，将P-C与C-O解与批处理MLE（B-MLE）和瞬时MLE（I-MLE）解进行比较。

实验结果

研究问题

• RQ1 当底层网络结构随时间演变且缺乏变化点先验知识时，如何实现实时图拓扑识别？
• RQ2 是否可以设计一种在线算法，在不显式向目标函数添加正则化项的情况下，隐式正则化时变图解？
• RQ3 与仅校正或批处理方法相比，预测-校正框架在动态环境中在多大程度上提升了追踪性能？
• RQ4 在非平稳环境中，算法性能如何随不同迭代预算（P和C）及遗忘因子而变化？
• RQ5 所提出的框架能否推广至GGM以外的其他具有时变结构的图学习问题？

主要发现

• 预测-校正（P-C）算法的归一化MSE（NMSE）显著低于仅校正（C-O）方法，尤其在t=200和t=400的拓扑变化点处表现更优。
• 在所有平稳区间内，P-C解均趋近于批处理MLE（B-MLE）解，表明其能有效追踪真实底层拓扑结构。
• 该算法表现出内在的时间正则化特性：由于早停策略，即使目标函数中无显式正则化，连续时间步的解也保持高度相似。
• 在高维设置下（N=128），P-C算法在存在50%图扩张的情况下，仍能成功追踪真实时变精度矩阵${\bf S}_t$，轨迹可见且稳定，尽管存在计算约束。
• 通过调节P和C可调整个体性能：较高的C值使解更贴近I-MLE，而较低的P和C值则使解更接近B-MLE。
• 在t=200和t=400处，NMSE因拓扑变化而急剧上升，但P-C解恢复更快且误差保持更低，优于C-O和I-MLE解。