[论文解读] A Comparison of Methods for Computing Autocorrelation Time

Madeleine B. Thompson|arXiv (Cornell University)|Oct 31, 2010

Statistical Methods and Bayesian Inference参考文献 14被引用 43

一句话总结

本文评估了四种在马尔可夫链蒙特卡洛（MCMC）模拟中估计自相关时间的方法：批量均值法、谱拟合法、初始序列估计器（ICS）和自回归（AR）建模。结果表明，AR过程方法在准确性上表现最佳，且唯一能提供置信区间的估计方法，因此是MCMC抽样中收敛速率可靠估计的首选方案。

ABSTRACT

This paper describes four methods for estimating autocorrelation time and evaluates these methods with a test set of seven series. Fitting an autoregressive process appears to be the most accurate method of the four. An R package is provided for extending the comparison to more methods and test series.

研究动机与目标

• 评估并比较四种在MCMC链中估计自相关时间的方法的准确性。
• 识别在具有不同依赖结构的时间序列中表现最佳的方法。
• 提供一个实用的R包ACTCompare，用于将比较扩展至更多方法和测试序列。
• 评估每种方法的可靠性和一致性，特别是在长程依赖或非可逆动力学存在的情况下。
• 确定是否能为自相关时间估计值可靠地生成置信区间。

提出的方法

• 使用批量均值法，将链划分为n^(1/3)个批次，每批大小为n^(2/3)，通过批次均值方差与总体样本方差的比值来估计自相关时间。
• 应用谱拟合法，对低频段的对数谱进行线性回归，并通过估计零频段的谱密度来计算自相关时间。
• 采用初始凸序列（ICS）估计器，即初始正序列的平滑版本，当连续对的自相关函数变为负值时截断样本自相关函数的和，并应用凸性平滑。
• 将序列建模为由AIC选择的p阶自回归过程，通过Yule-Walker方程估计系数，并利用从AR参数推导出的闭式表达式计算自相关时间。
• 使用蒙特卡洛模拟方法，对AR系数估计量的渐近方差进行模拟，为基于AR的估计值生成95%置信区间。
• 在包含AR(1)、AR(2)、AR(1)-ARCH(1)以及真实MCMC输出（如Met-Gauss和ARMS-Bimodal）在内的七种MCMC类时间序列测试集中评估所有方法。

实验结果

研究问题

• RQ1 在不同时间序列中，四种方法——批量均值法、谱拟合法、ICS法或AR建模法——哪一种最准确地估计了真实的自相关时间？
• RQ2 在具有长程依赖或振荡自相关函数（如AR(2)过程）的序列中，这些方法的表现如何？
• RQ3 AR过程方法是否能可靠地为自相关时间估计值生成置信区间？
• RQ4 为何ICS估计器在AR(2)过程中失效？这在非可逆动力学下对初始序列估计器的一致性意味着什么？
• RQ5 估计精度如何随子序列长度变化，特别是在短链情况下？

主要发现

• AR过程方法在所有测试序列中均一致地优于其他三种方法，在准确性上表现最佳，且收敛速度最快。
• ICS估计器在AR(2)过程中失效，因为其自相关函数在首次零交叉后出现抵消现象，违反了保证一致性的可逆性假设。
• 批量均值法是第二准确的方法，且计算速度显著更快，因此在优先考虑速度而非精度时适用。
• 谱拟合法最不可靠，在某些情况下甚至无法生成估计值，且收敛到真实值的速度最慢。
• AR过程方法能为自相关时间生成合理校准的95%置信区间，尤其在子序列长度超过真实自相关时间时表现更优。
• 在小样本中，AR(2)过程的自相关时间估计值似乎更长，这是由振荡行为引起的暂时性偏差，随着样本量增大而逐渐消失。