[论文解读] Provable Bayesian Inference via Particle Mirror Descent

Bo Dai, Niao He+2 more|arXiv (Cornell University)|Jun 9, 2015

Gaussian Processes and Bayesian Inference参考文献 29被引用 12

一句话总结

该论文提出粒子镜像下降（PMD），一种在贝叶斯推断中具有可证明收敛性的算法，结合了密度空间中的随机镜像下降与基于粒子的密度表示方法。PMD 使用 $m$ 个粒子时，在 KL 散度上实现了 $O(1/\sqrt{m})$ 的收敛速率，既提供了理论保证，又在混合模型、逻辑斯蒂回归、稀疏高斯过程和 LDA 等模型中表现出强劲的实验性能。

ABSTRACT

Bayesian methods are appealing in their flexibility in modeling complex data and ability in capturing uncertainty in parameters. However, when Bayes' rule does not result in tractable closed-form, most approximate inference algorithms lack either scalability or rigorous guarantees. To tackle this challenge, we propose a simple yet provable algorithm, \emph{Particle Mirror Descent} (PMD), to iteratively approximate the posterior density. PMD is inspired by stochastic functional mirror descent where one descends in the density space using a small batch of data points at each iteration, and by particle filtering where one uses samples to approximate a function. We prove result of the first kind that, with $m$ particles, PMD provides a posterior density estimator that converges in terms of $KL$-divergence to the true posterior in rate $O(1/\sqrt{m})$. We demonstrate competitive empirical performances of PMD compared to several approximate inference algorithms in mixture models, logistic regression, sparse Gaussian processes and latent Dirichlet allocation on large scale datasets.

研究动机与目标

• 解决近似贝叶斯推断算法中缺乏可证明收敛性和可扩展性的问题。
• 开发一种非参数推断方法，在保持理论保证的同时可扩展至大规模数据集。
• 弥合随机优化与基于粒子的密度估计在后验近似中的差距。
• 提供一个统一框架，确保在有限粒子数量下 KL 散度的收敛性。

提出的方法

• PMD 将贝叶斯后验近似表述为概率密度空间中的凸优化问题。
• 它使用数据的小批量进行随机镜像下降，迭代更新后验近似，避免对全量数据的扫描。
• 该算法通过维护一组加权粒子来表示后验密度，实现非参数近似。
• 它引入加权核密度估计器，以提高从粒子样本中获得的密度估计精度。
• 该方法采用递减步长规则 $\eta_t = \eta / (n_0 + \sqrt{t})$ 以确保收敛。
• 理论分析建立了后验估计器在 KL 散度意义上的弱收敛与强收敛。

实验结果

研究问题

• RQ1 基于粒子的算法是否能在贝叶斯推断中实现对真实后验的 KL 散度可证明收敛？
• RQ2 将随机镜像下降与粒子表示相结合，是否能实现可扩展且准确的后验近似？
• RQ3 后验估计器的收敛速率如何随粒子数 $m$ 变化？
• RQ4 在大规模模型中，PMD 与 MCMC、变分推断和 SMC 的实验表现如何比较？
• RQ5 PMD 是否能在保持理论保证的同时，在实际应用中超越现有随机算法？

主要发现

• PMD 在 KL 散度上实现了 $O(1/\sqrt{m})$ 的收敛速率，其中 $m$ 为粒子数量。
• 该算法在混合模型、逻辑斯蒂回归、稀疏高斯过程和潜在狄利克雷分配（LDA）任务中表现出具有竞争力的实验性能。
• 在 1D 稀疏高斯过程回归中，PMD 的后验均值随迭代进行逐渐收敛至真实值，可视化不确定性带随时间逐渐变窄。
• 在音乐年份预测任务中，PMD 使用 16 个粒子和 1024 个诱导变量，在预测性能上优于 SMC 和 SVI，且计算成本相当。
• 在 LDA 中，PMD 学习到语义连贯的主题（见图 5），并在保留测试集上实现了低于竞争性随机方法的对数困惑度。
• 理论分析证实，在较弱正则性条件下，PMD 后验估计器具有强收敛性，并为核密度估计组件推导出有限样本误差界。