[论文解读] Iterative Markov Chain Monte Carlo Computation of Reference Priors and Minimax Risk

John Lafferty, Larry Wasserman|arXiv (Cornell University)|Jan 10, 2013

Markov Chains and Monte Carlo Methods参考文献 10被引用 11

一句话总结

本文提出一种迭代马尔可夫链蒙特卡洛（MCMC）算法，通过借鉴信息论中的Blahut-Arimoto算法，计算一般参数族的参考先验与最小最大风险。通过在每次迭代中使用MCMC抽样近似难以计算的积分，并利用公共随机性控制随机误差，该方法确保收敛至确定性解，且样本量随迭代次数的平方增长，从而在解析解不可行的高维设置下实现实际计算。

ABSTRACT

We present an iterative Markov chainMonte Carlo algorithm for computingreference priors and minimax risk forgeneral parametric families. Ourapproach uses MCMC techniques based onthe Blahut-Arimoto algorithm forcomputing channel capacity ininformation theory. We give astatistical analysis of the algorithm,bounding the number of samples requiredfor the stochastic algorithm to closelyapproximate the deterministic algorithmin each iteration. Simulations arepresented for several examples fromexponential families. Although we focuson applications to reference priors andminimax risk, the methods and analysiswe develop are applicable to a muchbroader class of optimization problemsand iterative algorithms.

研究动机与目标

• 开发一种在解析解不可行时，针对参数族中参考先验与最小最大风险的实用计算方法。
• 将原始用于离散信道容量的Blahut-Arimoto算法扩展至连续与高维参数空间。
• 通过使用MCMC抽样解决迭代优化中难以计算的积分问题。
• 为每次迭代所需的MCMC样本数量提供理论边界，以确保收敛。
• 通过模拟在指数族模型上展示该方法的有效性。

提出的方法

• 通过MCMC抽样近似所需期望，将Blahut-Arimoto算法适配至连续参数空间。
• 在每次迭代中使用均匀提议的Metropolis-Hastings算法生成后验分布的样本。
• 在各次迭代间使用公共随机性，防止随机误差在迭代过程中累积。
• 应用递归更新规则，以最大化参数与充分统计量之间的互信息。
• 使用大小为B的分块抽样来近似独立样本，将N/B视为有效样本量。
• 在混合条件下建立收敛性，通过界定MCMC近似引入的误差。

实验结果

研究问题

• RQ1 能否通过MCMC抽样将Blahut-Arimoto算法扩展至连续与高维参数空间？
• RQ2 每次迭代需要多少MCMC样本才能确保随机算法紧密逼近确定性算法？
• RQ3 在迭代MCMC算法中，使用各次迭代间的公共随机性是否能有效防止随机误差的累积？
• RQ4 在指数族中，参考先验的有限样本行为如何，特别是在参数空间边界附近？
• RQ5 该方法能否推广至参考先验与最小最大风险之外的其他迭代优化问题？

主要发现

• 当每次迭代的样本数随迭代次数的平方增长时，该迭代MCMC算法收敛至参考先验与最小最大风险。
• 在伯努利、泊松、负二项与正态模型上的模拟表明，当在紧致区间上限制时，参考先验会集中在参数空间边界。
• 对于已知方差的正态模型，极限分布为高斯分布，与理论预期一致。
• 该方法成功估计了在解析解未知的指数族中的有限样本参考先验，即使在指数族之外的k=1情形下亦然。
• 在迭代中使用公共随机性可有效控制随机误差的传播，从而实现全局收敛。
• 该方法可推广至其他交替最小化算法，如对数线性模型的广义迭代尺度法。