[论文解读] Asymptotically Optimal Exact Minibatch Metropolis-Hastings

Ruqi Zhang, A. Feder Cooper+1 more|arXiv (Cornell University)|Jun 20, 2020

Markov Chains and Monte Carlo Methods参考文献 27被引用 4

一句话总结

本文提出 TunaMH，一种渐近最优的精确小批量 Metropolis-Hastings 算法，可在保持真实后验分布的同时，实现批量大小与收敛速度之间的可调权衡。该文首次证明了精确小批量 MH 方法的批量大小下限，并表明 TunaMH 在最小化期望批量大小的同时保持收敛速度，实现了渐近最优性。

ABSTRACT

Metropolis-Hastings (MH) is a commonly-used MCMC algorithm, but it can be intractable on large datasets due to requiring computations over the whole dataset. In this paper, we study minibatch MH methods, which instead use subsamples to enable scaling. We observe that most existing minibatch MH methods are inexact (i.e. they may change the target distribution), and show that this inexactness can cause arbitrarily large errors in inference. We propose a new exact minibatch MH method, TunaMH, which exposes a tunable trade-off between its batch size and its theoretically guaranteed convergence rate. We prove a lower bound on the batch size that any minibatch MH method must use to retain exactness while guaranteeing fast convergence-the first such bound for minibatch MH-and show TunaMH is asymptotically optimal in terms of the batch size. Empirically, we show TunaMH outperforms other exact minibatch MH methods on robust linear regression, truncated Gaussian mixtures, and logistic regression.

研究动机与目标

• 为解决现有小批量 MH 方法中不精确性带来的关键问题，此类不精确性可能导致任意大的推断误差。
• 开发一种精确的小批量 MH 方法，可在不依赖强假设或牺牲效率的前提下保持真实后验分布。
• 正式刻画精确小批量 MH 中批量大小与收敛速度之间的权衡，而此前的研究尚未做到这一点。
• 证明任何精确小批量 MH 方法为维持给定收敛速度所必需的期望批量大小的理论下限。
• 证明 TunaMH 在批量大小与收敛速度之间实现了渐近最优平衡。

提出的方法

• TunaMH 使用泊松分布采样机制以随机方式选择小批量，确保精确性，同时通过可调超参数 χ 控制期望批量大小。
• 该算法构建了一个接受概率，通过无偏估计器精确匹配完整数据 Metropolis-Hastings 比值。
• 它利用潜在函数 U_i(θ) 的局部利普希茨界，确保在子采样条件下接受比值的有效性。
• 该方法引入了一种新颖的全数据 MH 与小批量 MH 链之间的耦合机制，以保持细致平衡与精确平稳性。
• 基于谱间隙推导出收敛速率保证，表明 TunaMH 的收敛速率与标准 MH 在常数因子范围内一致。
• 该算法设计适用于温和的局部正则性条件，避免了对全局界或 Bernstein-von Mises 近似的需求。

实验结果

研究问题

• RQ1 不精确的小批量 MH 方法是否可能任意不准确，如果是，这对实际推断有何影响？
• RQ2 是否可以设计一种精确的小批量 MH 方法，在保持精确性的同时实现高效收敛而不牺牲可扩展性？
• RQ3 任何精确小批量 MH 方法为实现给定收敛速率所必需的理论最小期望批量大小是多少？
• RQ4 能否设计一种小批量 MH 算法，在批量大小与收敛速度之间实现渐近最优平衡？
• RQ5 所提出方法在多样化模型上与最先进精确小批量 MH 方法相比，其经验表现如何？

主要发现

• 本文表明，任何不精确的小批量 MH 方法的平稳分布都可能与真实后验分布相距甚远，这使得此类方法在准确推断中不可靠。
• TunaMH 的收敛速率（谱间隙）与标准全数据 Metropolis-Hastings 在常数因子范围内一致，确保了强大的采样效率。
• 作者证明了任何精确小批量 MH 方法为维持给定收敛速率所必需的期望批量大小的下限，为最优性建立了理论基础。
• TunaMH 是渐近最优的：在具有相同收敛速率保证的所有精确小批量 MH 方法中，其使用了最小可能的期望批量大小。
• 经验结果表明，TunaMH 在稳健线性回归、截断高斯混合模型和逻辑回归任务中优于其他精确小批量 MH 方法，在时间约束下生成了更准确的密度估计。
• 在 2D 问题的 1 秒运行时间比较中，TunaMH 生成的密度估计最接近真实后验分布，而所有其他方法均未能准确收敛。