[论文解读] Learning the piece-wise constant graph structure of a varying Ising model

Batiste Le Bars, Pierre Humbert+2 more|arXiv (Cornell University)|Oct 18, 2019

Bioinformatics and Genomic Networks被引用 2

一句话总结

本文提出了一种方法，通过最大化带有融合lasso型正则化的惩罚条件对数似然函数，来估计时变伊辛模型中的变化点和分段常数图结构。该方法确保了图结构的稀疏性和分段常数演化，并在该设定下首次建立了未知变化点检测的理论一致性结果，已在合成数据和真实世界数据上得到验证。

ABSTRACT

This work focuses on the estimation of multiple change-points in a time-varying Ising model that evolves piece-wise constantly. The aim is to identify both the moments at which significant changes occur in the Ising model, as well as the underlying graph structures. For this purpose, we propose to estimate the neighborhood of each node by maximizing a penalized version of its conditional log-likelihood. The objective of the penalization is twofold: it imposes sparsity in the learned graphs and, thanks to a fused-type penalty, it also enforces them to evolve piece-wise constantly. Using few assumptions, we provide two change-points consistency theorems. Those are the first in the context of unknown number of change-points detection in time-varying Ising model. Finally, experimental results on several synthetic datasets and a real-world dataset demonstrate the performance of our method.

研究动机与目标

• 估计时变伊辛模型中图结构分段常数演化的变化点位置。
• 在最少假设下恢复每个时间区段下的潜在稀疏图结构。
• 开发一种统一优化框架下的方法，同时检测变化点并学习图结构。
• 在未知变化点数量的情况下，建立变化点检测的理论一致性。
• 提供一种可扩展且统计上可靠的适用于真实世界时间网络数据的方法。

提出的方法

• 该方法通过最大化惩罚条件对数似然函数来估计每个节点的邻域。
• 惩罚项包含lasso型项，以在图结构中强制实现稀疏性。
• 在时间上应用融合lasso型惩罚，以强制图参数的分段常数演化。
• 通过逐个节点顺序优化，实现对整个时变图的可扩展估计。
• 该方法无需预先指定变化点数量，从而实现自适应检测。
• 在最小假设下推导出理论一致性，证明了对真实变化点和图结构的收敛性。

实验结果

研究问题

• RQ1 当未知变化点数量时，能否在时变伊辛模型中一致地检测变化点？
• RQ2 如何在时变伊辛模型中联合估计分段常数图结构及其转换时间？
• RQ3 在未知变化数量的情况下，该设定下变化点检测能提供哪些理论保证？
• RQ4 融合lasso惩罚如何促进图结构参数在时间上的分段常数演化？
• RQ5 该方法在合成数据和真实世界数据集上的经验性能如何？

主要发现

• 所提出的方法即使在未知变化点数量的情况下，也能在时变伊辛模型中一致地检测变化点。
• 在最小假设下，建立了变化点检测和图结构估计的理论一致性定理。
• 融合lasso惩罚有效促进了图参数在时间上的分段常数演化。
• 在合成数据上的实证结果表明，该方法能准确恢复变化点和图结构。
• 在真实世界数据集上，该方法成功识别出有意义的结构变化和稀疏图配置。