[论文解读] Maximum likelihood estimation in the two-state Markovian arrival process

Emilio Carrizosa, Pepa Ramírez‐Cobo|arXiv (Cornell University)|Jan 14, 2014

Advanced Queuing Theory Analysis参考文献 21被引用 5

一句话总结

本文提出一种基于规范参数化的最大似然估计（MLE）框架，用于两状态马氏调制点过程（MAP₂），以解决参数不可识别性问题。通过直接在规范形式下最大化似然函数——避免使用EM算法及其数值不稳定性——该方法实现了更精确且稳定的参数估计，实证结果表明其Kullback-Leibler散度显著低于冗余参数化形式。

ABSTRACT

The Markovian arrival process (MAP) has proven a versatile model for fitting dependent and non-exponential interarrival times, with a number of applications to queueing, teletraffic, reliability or finance. Despite theoretical properties of MAPs and models involving MAPs are well studied, their estimation remains less explored. This paper examines maximum likelihood estimation of the second-order MAP using a recently obtained parameterization of the two-state MAPs.

研究动机与目标

• 解决两状态MAP₂标准六参数表示中长期存在的参数不可识别性问题。
• 开发一种直接的最大似然估计方法，避免EM算法及其对初始值的敏感性及陷入局部极大值的问题。
• 以Kullback-Leibler散度和对数似然为评估标准，比较不同参数化形式下估计器的性能。
• 证明规范参数化相比冗余参数化能获得更精确且数值更稳定的估计结果。

提出的方法

• 基于速率矩阵 $ D_0 $ 和 $ D_1 $ 的规范参数化形式表示MAP₂，确保模型表示的唯一性与可识别性。
• 采用直接似然最大化方法，而非EM算法，降低计算负担并避免收敛至次优局部极值。
• 应用缩放后的目标函数以提升优化过程中的数值稳定性。
• 使用矩匹配法作为优化算法的初始起点，以改善收敛性能。
• 利用Kullback-Leibler散度与对数似然比较不同参数化形式下估计器的质量。
• 通过100个随机生成的MAP₂过程进行蒙特卡洛模拟，实证比较规范MLE与冗余MLE的性能。

实验结果

研究问题

• RQ1 在MAP₂的规范形式下进行直接最大似然估计，是否能够克服标准六参数表示中固有的数值问题与不可识别性问题？
• RQ2 在Kullback-Leibler散度与对数似然指标下，规范形式下的MLE性能与冗余参数化形式相比如何？
• RQ3 在冗余参数化形式下评估似然函数时存在哪些数值挑战？规范形式如何缓解这些问题？
• RQ4 规范参数化是否能在多个模拟的MAP₂实例中实现更稳定且更精确的估计？

主要发现

• 规范参数化将无限多组等价参数化形式简化为唯一确定的表示形式，彻底解决了不可识别性问题。
• 在规范形式下进行直接MLE，得到的对数似然为 -3023.4，显著优于冗余参数化形式下获得的 -3051.7。
• 规范估计的Kullback-Leibler散度为84.0645，远低于冗余估计的123.1234，表明其具有更高的估计精度。
• 在100次模拟中，有18次冗余参数化形式下的MLE因数值不一致而未能收敛，而规范方法始终保持稳定。
• KL散度比值（冗余/规范）的直方图显示，规范估计始终更接近真实参数。
• 所提出的方法已作为MATLAB工具箱发布，支持可复现研究与实际应用。