[论文解读] Bootstrap Markov chain Monte Carlo and optimal solutions for the Law of Categorical Judgment (Corrected)

Greg Kochanski, Burton S. Rosner|arXiv (Cornell University)|Aug 9, 2010

Blind Source Separation Techniques参考文献 23被引用 3

一句话总结

本文提出一种自举马尔可夫链蒙特卡洛（MCMC）算法，通过使用自适应自举重采样生成高效的提议步骤，加速对对称凸后验分布（如多元正态分布）的收敛。该方法在全信号检测理论及其特例下，成功从实际规模的模拟评分数据中恢复出正确参数，应用于类别判断定律。

ABSTRACT

A novel procedure is described for accelerating the convergence of Markov chain Monte Carlo computations. The algorithm uses an adaptive bootstrap technique to generate candidate steps in the Markov Chain. It is efficient for symmetric, convex probability distributions, similar to multivariate Gaussians, and it can be used for Bayesian estimation or for obtaining maximum likelihood solutions with confidence limits. As a test case, the Law of Categorical Judgment (Corrected) was fitted with the algorithm to data sets from simulated rating scale experiments. The correct parameters were recovered from practical-sized data sets simulated for Full Signal Detection Theory and its special cases of standard Signal Detection Theory and Complementary Signal Detection Theory.

研究动机与目标

• 改进对称凸似然函数的贝叶斯推断中马尔可夫链蒙特卡洛（MCMC）方法的收敛速度。
• 开发一种计算高效的算法，适用于大规模或高维后验估计。
• 在类别判断定律上验证该方法，使用真实模拟的评分尺度数据。
• 展示在全信号检测理论及其子模型下，对真实参数的准确恢复能力。
• 利用所提出的MCMC框架提供置信区间和最大似然估计。

提出的方法

• 采用自适应自举技术生成马尔可夫链中的候选步骤，提升提议效率。
• 利用当前后验分布的重采样数据来指导提议分布，减少随机游走行为。
• 将该方法应用于对称凸概率分布，如多元正态分布。
• 将自举-MCMC过程集成到贝叶斯估计和最大似然推断流程中。
• 基于重采样后验估计动态优化提议方差，以增强混合性和收敛性。
• 在类别判断定律的模拟评分数据上验证性能，参数为已知真实值。

实验结果

研究问题

• RQ1 自举自适应MCMC是否能显著加速对称凸后验分布的收敛？
• RQ2 该算法能否从实际规模的模拟数据集中准确恢复类别判断定律的真实参数？
• RQ3 该方法在不同信号检测理论模型（包括全、标准和互补信号检测理论）中是否保持准确性？
• RQ4 该算法在高维设置下是否能可靠地生成置信区间和最大似然估计？
• RQ5 与标准MCMC相比，自举-MCMC方法在收敛速度和参数恢复方面表现如何？

主要发现

• 自举-MCMC算法在对称凸后验分布下比标准MCMC收敛更快。
• 在全信号检测理论下，成功从模拟评分尺度数据中恢复出类别判断定律的真实参数。
• 该方法在标准和互补信号检测理论变体中均准确估计了参数。
• 该算法使用相同的计算框架，可靠地生成了置信区间和最大似然估计。
• 该方法在实际规模的数据集上表现出鲁棒性和高效性，表明其适用于真实心理和心理物理学数据。
• 自适应自举重采样显著提升了提议效率，减少了马尔可夫链中的随机游走行为。