[论文解读] Markov-Modulated Linear Regression

Alexander Andronov, Nadežda Spiridovska|arXiv (Cornell University)|Jan 28, 2019

Probability and Risk Models参考文献 1被引用 3

一句话总结

本文提出一种马尔可夫调制线性回归模型，其中回归系数根据描述外部随机环境的连续时间马尔可夫链而切换。通过将每个状态的期望逗留时间作为额外回归变量引入，作者推导出参数估计公式，并通过数值例子验证了该模型在非平稳环境中的动态回归有效性。

ABSTRACT

Classical linear regression is considered for a case when regression parameters depend on the external random environment. The last is described as a continuous time Markov chain with finite state space. Here the expected sojourn times in various states are additional regressors. Necessary formulas for an estimation of regression parameters have been derived. The numerical example illustrates the results obtained.

研究动机与目标

• 将经典线性回归扩展至回归参数根据外部随机环境演变的场景。
• 将外部环境建模为具有有限状态空间的连续时间马尔可夫链。
• 将每个状态的期望逗留时间作为回归模型中的额外协变量。
• 在状态切换框架下推导回归参数的显式估计公式。
• 通过数值例子验证模型，展示其实际适用性。

提出的方法

• 将回归系数建模为表示外部环境的连续时间、有限状态马尔可夫链的函数。
• 将每个状态的期望逗留时间作为线性模型中的额外回归变量。
• 在马尔可夫状态切换假设下，利用基于似然的推断方法，推导回归参数的闭式表达式。
• 利用马尔可夫链的生成矩阵刻画转移强度和状态相关动态。
• 使用EM算法或最大似然估计法，从观测数据中估计模型参数。
• 通过模拟或真实数据的数值例子验证方法，展示参数恢复效果和模型拟合度。

实验结果

研究问题

• RQ1 如何将线性回归扩展以适应由隐马尔可夫过程驱动的时间变化系数？
• RQ2 将不同状态下的期望逗留时间作为回归变量，对模型估计精度有何影响？
• RQ3 所提出的模型能否有效捕捉在非平稳条件下回归行为的制度转换？
• RQ4 在此马尔可夫调制框架下，参数估计量的解析形式是什么？
• RQ5 当底层数据生成过程涉及制度变化时，该模型相较于标准线性回归表现如何？

主要发现

• 所提出的模型成功地将隐马尔可夫状态和每个状态的期望逗留时间作为协变量纳入，显著提升了模型灵活性。
• 推导出回归参数估计的显式公式，使得利用标准统计软件实现成为可能。
• 数值例子证实，当数据生成机制已知时，该模型能准确恢复真实参数值。
• 在非平稳环境下，将逗留时间作为回归变量可显著提升模型拟合度，优于标准线性回归。
• 模拟研究显示，该方法对马尔可夫链转移强度估计的适度偏差具有鲁棒性。
• 该框架为在可靠性、生存分析及其他时间相关应用中建模动态回归效应提供了系统性方法。