[论文解读] Automatic Differentiation Variational Inference

Alp Kucukelbir, Dustin Tran+3 more|arXiv (Cornell University)|Mar 2, 2016

Gaussian Processes and Bayesian Inference参考文献 54被引用 188

一句话总结

advI 自动推导可扩展的变分推断算法，用于可微分概率模型，在无需针对特定模型的推导下实现快速后验近似，并已集成到 Stan。

ABSTRACT

Probabilistic modeling is iterative. A scientist posits a simple model, fits it to her data, refines it according to her analysis, and repeats. However, fitting complex models to large data is a bottleneck in this process. Deriving algorithms for new models can be both mathematically and computationally challenging, which makes it difficult to efficiently cycle through the steps. To this end, we develop automatic differentiation variational inference (ADVI). Using our method, the scientist only provides a probabilistic model and a dataset, nothing else. ADVI automatically derives an efficient variational inference algorithm, freeing the scientist to refine and explore many models. ADVI supports a broad class of models-no conjugacy assumptions are required. We study ADVI across ten different models and apply it to a dataset with millions of observations. ADVI is integrated into Stan, a probabilistic programming system; it is available for immediate use.

研究动机与目标

• 推动在概率建模和模型 refined 循环中减少推断瓶颈。
• 开发一种自动化方法，在无需共轭性的前提下，为广义可微分模型派生变分推断算法。
• 将自动微分和变换整合，以实现大规模数据集上的可扩展变分推断。
• 展示在多种模型上的适用性，并将性能与 MCMC 进行比较。

提出的方法

• 将潜变量变换到一个无约束的实数坐标空间，以实现通用的变分族。
• 在变换后的空间中使用高斯变分族（均值场或全秩），并通过变量变换在原始空间中隐含非高斯性。
• 利用随机梯度（重参数化）技巧重新参数化梯度，使梯度表示为对标准正态分布的期望。
• 通过蒙特卡洛积分和自动微分来计算 ELBO 及其梯度，从而实现自动优化。
• 采用自适应的随机梯度上升，并配合新颖的步长调度以确保收敛性和效率。
• 在 Stan 内实现该方法，利用其变量变换和自动微分库。

实验结果

研究问题

• RQ1 自动微分变分推断（ADVI）是否能够在不需要共轭性假设的情况下，为广泛的可微分模型提供准确的后验近似？
• RQ2 与传统的 MCMC 相比，在大规模数据集上 ADVI 的速度和可扩展性表现如何？
• RQ3 潜变量变换和变分族选择对后验近似质量有何影响？
• RQ4 在概率编程框架中，ADVI 是否能够有效处理非共轭、复杂模型（如混合、非线性模型）？

主要发现

• ADVI 自动化了为大量可微分模型派生变分推断算法的过程。
• 该方法支持非共轭模型并已集成到 Stan 中可立即使用。
• ADVI 可扩展到大规模数据集，并在十个概率模型上进行了演示，其中包括具有数百万观测值的数据集。
• 将受限潜变量转换为实数空间实现了通用的变分近似策略。
• 梯度估计通过蒙特卡洛与自动微分获得，支持随机优化。
• 自适应步长序列提升了收敛性和实际性能。