[论文解读] A Bayesian approach to change point analysis of discrete time series

Ali Mohammad‐Djafari, Olivier Féron|ArXiv.org|Mar 31, 2004

Statistical and numerical algorithms参考文献 9被引用 4

一句话总结

本文提出了一种基于贝叶斯框架的离散时间序列多变化点检测方法，采用具有共轭先验的分层高斯-马尔可夫模型对变化点及分段参数（均值、方差、相关性）进行建模。通过马尔可夫链蒙特卡洛（MCMC）采样估计后验分布，结果显示在均值和方差变化检测中表现准确，但因模型模糊性和先验敏感性，相关性变化的检测性能下降。

ABSTRACT

In this work we consider time series with a finite number of discrete point changes. We assume that the data in each segment follows a different probability density functions (pdf). We focus on the case where the data in all segments are modeled by Gaussian probability density functions with different means, variances and correlation lengths. We put a prior law on the change point instances (Poisson process) as well as on these different parameters(conjugate priors) and give the expression of the posterior probality distributions of these change points. The computations are done by using an appropriate Markov Chain Monte Carlo (MCMC) technique. The problem as we stated can also be considered as an unsupervised classification and/or segmentation of the time serie. This analogy gives us the possibility to propose alternative modeling and computation of change points, which are more appropriate for multivariate signals, for example in image processing.

研究动机与目标

• 开发一种稳健的离线贝叶斯方法，用于检测具有未知分段参数的离散时间序列中的多个变化点。
• 使用具有不同均值、方差和相关性强度的高斯-马尔可夫过程对每个分段进行建模，实现灵活的统计建模。
• 在变化点（泊松过程）和分段参数上引入共轭先验，以实现解析可处理性及MCMC推断。
• 在不同数据条件下评估该方法在均值、方差和相关性变化检测中的性能。
• 研究分段长度先验假设对变化点检测准确率的影响。

提出的方法

• 将时间序列建模为具有隐藏变化点分隔的分段平稳高斯-马尔可夫过程。
• 定义各分段特异性参数：均值 $\mu_n$，精度 $\tau_n = 1/\sigma_n^2$，以及相关性 $\rho_n$。
• 分配共轭先验：对变化点时间 $t_n$ 使用泊松过程先验，对 $\mu_n$、$\tau_n$ 和 $\rho_n$ 使用伽玛-高斯共轭先验。
• 使用MCMC采样（如吉布斯采样）联合估计变化点和分段参数的后验分布。
• 通过MCMC计算联合后验 $p({\mathbf{t}}, {\boldsymbol{\theta}} | {\mathbf{x}})$，利用从分层模型中推导出的条件分布。
• 将问题视为无监督分割，支持扩展至多变量信号（如图像）

实验结果

研究问题

• RQ1 当仅分段间均值变化时，贝叶斯MCMC方法在检测多个变化点方面的准确性如何？
• RQ2 当仅方差或相关性结构发生变化时，该方法的检测性能如何？
• RQ3 对分段长度（$\lambda$）的先验选择如何影响变化点检测，特别是在数据模糊的情况下？
• RQ4 模型对相关性变化的敏感性在多大程度上源于与均值变化的混淆效应？
• RQ5 该方法能否通过分类/分割类比有效扩展至多变量时间序列或图像分割任务？

主要发现

• 当仅均值变化时，该方法在检测变化点方面表现出高准确性，仅需约5次MCMC迭代即可收敛。
• 估计的均值极为精确：例如，真实值为1.5时，已知变化点下的后验估计为1.4966，本方法下为1.4969。
• 方差变化可被可靠检测，估计值接近真实值（例如，真实值0.01 → 已知变化点下估计为0.0083）。
• 由于模型模糊性，相关性变化更难检测；算法常引入虚假变化点，尤其当 $\rho_n \approx 1$ 时。
• 对分段长度先验（$\lambda$）的假设显著影响结果：低估 $\lambda$ 导致变化点数量高估，高估 $\lambda$ 导致变化点数量低估。
• 当先验分段大小 $\lambda$ 设为真实平均分段长度的一半或两倍时，算法检测到的变化点会聚集在先验大小附近，证实了先验的强烈影响。