[论文解读] Selecting the Number of States in Hidden Markov Models - Pitfalls, Practical Challenges and Pragmatic Solutions

Jennifer Pohle, Roland Langrock+2 more|arXiv (Cornell University)|Jan 30, 2017

Bayesian Methods and Mixture Models参考文献 41被引用 12

一句话总结

本文针对隐马尔可夫模型（HMM）中状态数选择这一关键挑战展开研究，尤其在生态学与行为学数据分析中，状态的可解释性至关重要。研究发现，标准信息准则（AIC、BIC）常因对数据复杂性（如异常值和季节性）敏感而高估状态数，因此提出一种实用的、分步式方法，整合模型选择准则、专家知识与诊断检验，以获得生物学上意义明确的状态数——该方法在岩羊迁徙行为案例研究中得到验证。

ABSTRACT

We discuss the notorious problem of order selection in hidden Markov models, i.e. of selecting an adequate number of states, highlighting typical pitfalls and practical challenges arising when analyzing real data. Extensive simulations are used to demonstrate the reasons that render order selection particularly challenging in practice despite the conceptual simplicity of the task. In particular, we demonstrate why well-established formal procedures for model selection, such as those based on standard information criteria, tend to favor models with numbers of states that are undesirably large in situations where states shall be meaningful entities. We also offer a pragmatic step-by-step approach together with comprehensive advice for how practitioners can implement order selection. Our proposed strategy is illustrated with a real-data case study on muskox movement.

研究动机与目标

• 识别为何在真实生态学数据中应用HMM时，AIC和BIC等标准模型选择准则常选择过多状态。
• 强调仅依赖正式信息准则在推断动物迁徙或生态时间序列中具有意义的行为状态时存在的实际陷阱。
• 提出并倡导一种实用的多步方法用于模型阶数选择，整合统计准则、领域专业知识与模型诊断。
• 通过模拟与真实案例研究证明，即使拟合度略差，具有更少且可解释状态的模型通常优于状态数较多的模型。

提出的方法

• 开展广泛的模拟研究，评估AIC、BIC与ICL在多种数据条件下（包括分布重叠和被忽略的数据结构）的表现。
• 提出一种分步式实用框架用于阶数选择，包括初始模型拟合、模型拟合与可解释性评估，以及利用专家知识进行迭代优化。
• 使用Viterbi算法解码状态序列，以支持模型检验，同时评估所识别状态的稳定性和生物学合理性。
• 将信息准则（AIC、BIC、ICL）作为更广泛诊断流程的一部分，而非唯一决策工具，以评估模型的充分性。
• 结合可视化与定量诊断（如状态相关分布的密度图），评估额外状态是否捕捉噪声或真实结构。
• 在真实岩羊迁徙数据案例研究中验证所提方法，比较2至5个状态模型在拟合度、可解释性与生物学相关性方面的表现。

实验结果

研究问题

• RQ1 为何在生态学数据中应用HMM时，AIC和BIC等标准信息准则常选择过多状态？
• RQ2 季节性、异常值和异质性等数据特征在多大程度上导致模型选择偏向过拟合？
• RQ3 当HMM中状态数的选择目标是兼顾统计拟合与生物学可解释性时，从业者应如何平衡两者？
• RQ4 当正式准则无法得出可解释结果时，专家知识在模型选择优化中发挥何种作用？
• RQ5 结合正式准则与诊断检验的混合型实用方法，是否能比纯统计方法更可靠、更有效地确定有意义的状态数？

主要发现

• 标准信息准则（如AIC和BIC）常因对季节性、异常值等数据特征敏感，而在HMM中高估隐藏状态数，即使真实状态数较低。
• 在具有三个真实状态的模拟中，AIC在41%至46%的运行中选择了四个状态，而BIC在98%至100%的运行中正确选择了三个状态，表明BIC在该条件下表现更优。
• ICL准则在状态相关分布重叠的情境下表现不佳，常选择状态数过少（例如，在第9种情景中64%的运行选择了两个状态），证实其已知局限性。
• 所提出的实用方法成功识别出五状态模型为岩羊迁徙数据的最优解，兼顾了拟合度与可解释性，尽管AIC/BIC更倾向于选择更高状态数。
• 在岩羊案例研究中，五或更多状态的模型拟合度更优，但缺乏生物学可解释性，因各状态未明确对应于觅食或休息等明确行为模式。
• 研究结论认为，实践中单一正式准则无法可靠地得出可解释的状态数，因此必须采用融合统计工具、领域专业知识与模型诊断的混合方法。