[论文解读] Optimal detection of homogeneous segment of observations in stochastic sequence

Wojciech Sarnowski, Krzysztof Szajowski|arXiv (Cornell University)|Dec 18, 2008

Advanced Statistical Process Monitoring参考文献 12被引用 7

一句话总结

本文提出了一种用于检测随机序列中变化点的最优停时规则，其中观测值在未观测到的随机时间从一个平稳马尔可夫过程切换到另一个。基于最大概率准则，作者推导了变化点后验概率的递归贝叶斯更新方程，并基于充分统计量和似然比建立了最优检测规则，将Bojdecki的模型推广至具有不可数状态空间的马尔可夫依赖序列。

ABSTRACT

A Markov process is registered. At random moment $θ$ the distribution of observed sequence changes. Using probability maximizing approach the optimal stopping rule for detecting the change is identified. Some explicit solution is obtained.

研究动机与目标

• 解决随机过程中隐藏变化点导致分布从一个马尔可夫过程切换到另一个的紊乱问题。
• 将Bojdecki的模型（假设序列独立同分布）扩展至具有可能不可数状态空间的马尔可夫依赖观测情形。
• 在实时顺序观测中，基于最大概率准则，推导检测变化点的最优停时规则。
• 提供一个适用于质量控制、网络异常检测和流行病学建模的通用框架。

提出的方法

• 该模型假设随机切换时间θ服从几何分布，此后过程从马尔可夫过程Xⁿ⁰过渡到Xⁿ¹，且两者均与θ独立。
• 利用每个过程中转移密度fₓⁱ(y)下的似然比Lₘ(𝐱ₖ,ₙ)，将观测序列的联合密度S(𝐱₀,ₙ)进行因子分解。
• 基于充分统计量G(𝐱ₙ₋ₗ₋₁,ₙ, Πₙ₋ₗ₋₁)推导后验概率Πₙ = P(θ ≤ n | 𝒻ₙ)的递归贝叶斯更新，以计算变化点的条件概率。
• 关键方程（25）通过过去似然和先前后验递归更新Πₙ，实现检测规则的在线计算。
• 函数G(𝐱ₙ₋ₗ₋₁,ₙ, α)被定义为将后变化段的似然与预变化段似然的加权和结合，确保更新的一致性。
• 引理通过因子分解和测度论论证，证明了递归公式的有效性以及条件概率P(θ ≤ n−l−1 | 𝒻ₙ)的正确性。

实验结果

研究问题

• RQ1 当变化前和变化后过程为马尔可夫过程而非独立同分布时，如何推导检测变化点的最优停时规则？
• RQ2 在不可观测切换时间的马尔可夫切换模型中，变化点后验概率的递归更新方程由什么决定？
• RQ3 最大概率准则能否有效应用于依赖序列？与现有针对独立同分布或独立过程的方法相比有何差异？
• RQ4 似然比与充分统计量在构建马尔可夫依赖下的最优检测规则中起什么作用？
• RQ5 如何在实时计算中保持并高效计算后验概率的递归结构？

主要发现

• 本文推导出一个递归公式（公式25），可实现后验概率Πₙ = P(θ ≤ n | 𝒻ₙ)的在线计算，这对最优停时至关重要。
• 最优检测规则基于后验概率Πₙ，其通过结合近期观测似然的充分统计量G(𝐱ₙ₋ₗ₋₁,ₙ, Πₙ₋ₗ₋₁)进行更新。
• 联合密度S(𝐱₀,ₙ)通过似然比Lₘ(𝐱ₖ,ₙ)被分解为变化前和变化后两部分，从而实现条件概率的可计算性。
• 引理8和9证明了递归更新能保持正确的后验分布，确保停时规则的最优性。
• 该模型将Bojdecki的独立同分布框架推广至马尔可夫过程，允许不可数状态空间和依赖观测。
• 该框架适用于质量控制、网络异常检测和流行病学变化检测等实际问题，并为特定示例提供了明确解。