[论文解读] On Bayesian inference for the M/G/1 queue with efficient MCMC sampling

Alexander Y. Shestopaloff, Radford M. Neal|arXiv (Cornell University)|Jan 22, 2014

Markov Chains and Monte Carlo Methods参考文献 10被引用 17

一句话总结

本文提出了一种高效的MCMC采样方案，用于在仅观测到间隔离去时间的情况下，对M/G/1排队模型进行贝叶斯推断。通过引入新颖的‘位移’和‘尺度’Metropolis更新，并结合对潜伏到达时间的Gibbs采样，该方法在标准MCMC基础上实现了60至180倍的采样加速，实现了无需依赖近似贝叶斯计算（ABC）的精确后验推断。

ABSTRACT

We introduce an efficient MCMC sampling scheme to perform Bayesian inference in the M/G/1 queueing model given only observations of interdeparture times. Our MCMC scheme uses a combination of Gibbs sampling and simple Metropolis updates together with three novel "shift" and "scale" updates. We show that our novel updates improve the speed of sampling considerably, by factors of about 60 to about 180 on a variety of simulated data sets.

研究动机与目标

• 仅使用间隔离去时间观测数据，实现对M/G/1排队模型的精确贝叶斯推断。
• 克服近似贝叶斯计算（ABC）的局限性，后者无法从精确后验分布中抽取样本。
• 通过引入联合针对参数与潜伏到达时间的新颖更新方式，提升MCMC采样效率。
• 证明在MCMC状态中引入潜伏变量（到达时间）可实现更快混合与更精确的后验采样。
• 将基于MCMC的推断方法拓展至具有通用服务时间分布的排队模型。

提出的方法

• 将间隔到达时间视为潜伏变量（V_i），与模型参数（θ = (θ₁, θ₂, θ₃)）一并使用MCMC进行联合采样。
• 使用Gibbs采样条件性地更新每个V_i，给定其他V_j、θ以及观测到的间隔离去时间y。
• 引入一种新颖的Metropolis‘位移’更新用于位置参数（θ₁），以及两种‘尺度’更新用于尺度参数（θ₂）和到达率（θ₃）。
• 应用Metropolis-Hastings-Green更新，提出对θ与所有V_i的同步变化，利用到达时间的马尔可夫结构。
• 使用联合后验密度 π(v, θ | y) ∝ π(θ) × P(v₁|θ) × ∏_{i=2}^n P(v_i|v_{i-1},θ) × ∏_{i=1}^n P(y_i|v_i, x_{i-1},θ) 进行完整条件更新。
• 通过分薄处理与轨迹图评估混合与收敛性，并与基础MCMC方案进行性能对比。

实验结果

研究问题

• RQ1 当仅观测到间隔离去时间时，能否在M/G/1排队模型中实现高效的MCMC采样？
• RQ2 与标准Gibbs和Metropolis更新相比，新颖的‘位移’与‘尺度’MCMC更新在混合与收敛速度方面有何改进？
• RQ3 在贝叶斯排队模型推断中，将潜伏到达时间（V_i）纳入MCMC状态在多大程度上提升了采样效率？
• RQ4 所提出的方法在采样精度与计算效率方面是否优于基于ABC的推断？
• RQ5 该MCMC框架能否扩展至除均匀分布外的其他服务时间分布？

主要发现

• 所提出的MCMC方案在各种模拟数据集中，相较基础MCMC方法实现了60至180倍的采样效率提升。
• 新颖的‘位移’与‘尺度’更新显著降低了自相关时间并加速了收敛，尤其在频繁或稀少到达的情况下效果明显。
• 在频繁到达的情况下，同时更新所有V_i与θ₃（率参数）带来了最大的效率增益，原因在于后验分布虽扩散但集中。
• 在稀少到达的情况下，对V_i与θ₁或θ₂（位置参数）的联合更新带来了显著的效率提升，因为其后验分布虽扩散但条件集中。
• 该方法实现了无需依赖ABC的精确后验采样，而ABC仅能近似真实后验分布。
• 该框架可扩展至其他位置-尺度服务时间分布，前提是联合密度能通过低维充分统计量表达。