[论文解读] Rate optimality of Random walk Metropolis algorithm in high-dimension with heavy-tailed target distribution

Kengo Kamatani|arXiv (Cornell University)|Jun 20, 2014

Markov Chains and Monte Carlo Methods参考文献 12被引用 3

一句话总结

该论文证明，在高维重尾目标分布下，随机游走Metropolis算法（RWM）使用正态增量分布时，其收敛速率达到最优，这与直觉预期相反——即认为重尾增量可能提升性能。关键结果是：轻尾目标的最优收敛速率为 $ d $，重尾目标的最优收敛速率为 $ d^2 $，两者均由标准正态增量分布实现，表明其在所有对称增量分布中为速率最优。

ABSTRACT

The choice of the increment distribution is crucial for the random-walk Metropolis-Hastings (RWM) algorithm. In this paper we study the optimal choice in high-dimension setting among all possible increment distributions. The conclusion is rather counter intuitive, but the optimal rate of convergence is attained by the usual choice, the normal distribution as the increment distribution. In particular, no heavy-tailed increment distribution can improve the rate.

研究动机与目标

• 确定在高维重尾目标分布下，随机游走Metropolis算法的最优增量分布。
• 分析当维度 $ d \to \infty $ 时，RWM算法的收敛速率，重点关注增量分布的选择。
• 解决一个开放问题：与标准正态选择相比，重尾增量分布是否能提升收敛速率。
• 确立标准正态增量分布可在轻尾与重尾目标情形下均实现最优收敛速率。
• 为尽管存在理论吸引力的重尾替代方案，但正态分布仍被广泛使用提供理论依据。

提出的方法

• 分析对称增量分布 $ \Gamma^d $ 下的RWM算法，其中提议为 $ x^* = x + w $，$ w \sim \Gamma^d $，接受概率为 $ \min\left\{1, \frac{p^d(x^*)}{p^d(x)}\right\} $。
• 考虑目标分布 $ P^d $ 作为正态分布的尺度混合，若混合分布 $ Q $ 为离散分布，则 $ P^d $ 为轻尾；若 $ Q $ 具有密度，则 $ P^d $ 为重尾。
• 采用扩散极限启发式方法与 $ d \to \infty $ 时的渐近分析，假设混合分布 $ Q $ 固定且满足光滑性与衰减条件。
• 使用Stein方法与交换对构造，以有界Wasserstein距离与总变差距离，衡量随机游动坐标分布与标准正态分布之间的差异。
• 应用Girsanov公式分析涉及正态随机变量指数倾斜的期望，特别是对 $ S \sim N(\sigma^2/2, \sigma^2) $ 的情形，以推导矩界。
• 证明在 $ \alpha(d) = o(d) $ 条件下，坐标差值以概率收敛于零，表明除非 $ \alpha(d) \sim d $，否则会出现退化现象，并证明 $ \alpha(d) = d $ 是非退化极限的最优选择。

实验结果

研究问题

• RQ1 在高维重尾目标分布下，重尾增量分布能否提升RWM算法的收敛速率？
• RQ2 当维度 $ d \to \infty $ 时，RWM算法的最优收敛速率是多少？何种增量分布可实现该速率？
• RQ3 标准正态增量分布是否在所有对称增量分布中，对轻尾与重尾目标分布均达到速率最优？
• RQ4 增量分布的选择是否影响高维下非退化扩散极限的存在性？
• RQ5 通过使用非正态增量，能否使轻尾目标的收敛速率超过 $ d $，或重尾目标的收敛速率超过 $ d^2 $？

主要发现

• 对于轻尾目标分布（如多元正态分布），最优收敛速率为 $ \alpha(d) = d $，且当增量分布为正态时可实现该速率。
• 对于重尾目标分布（如具有密度的正态尺度混合），最优收敛速率为 $ \alpha(d) = d^2 $，且该速率同样由正态增量分布实现。
• 在轻尾或重尾情形下，任何重尾增量分布均无法使收敛速率超过 $ d $ 或 $ d^2 $。
• 当迭代次数 $ \alpha(d) = o(d) $ 时，无论采用何种增量分布，RWM算法的输出在至少一个坐标上将退化。
• 正态增量分布在所有对称增量分布中均为速率最优，即使在重尾设定下亦如此，这与直觉预期相悖——即认为重尾增量可能更有利于探索重尾目标。
• 基于Stein方法与Girsanov公式的理论界表明，正态增量分布最小化了扩散极限中的渐近偏差，支持其最优性。