[论文解读] Automatic Reparameterisation of Probabilistic Programs

Maria I. Gorinova, Dave Moore+1 more|arXiv (Cornell University)|Jun 7, 2019

Machine Learning and Algorithms参考文献 23被引用 4

一句话总结

本文提出在概率编程中自动重参数化，通过动态切换中心化与非中心化参数化方式，提升推断的鲁棒性与效率。提出了两种算法——交错HMC（iHMC）和变分推断参数化（VIP），其性能优于固定参数化形式，其中VIP在德国信贷等复杂模型上实现了每轮梯度评估有效样本量提升最高达3倍。

ABSTRACT

Probabilistic programming has emerged as a powerful paradigm in statistics, applied science, and machine learning: by decoupling modelling from inference, it promises to allow modellers to directly reason about the processes generating data. However, the performance of inference algorithms can be dramatically affected by the parameterisation used to express a model, requiring users to transform their programs in non-intuitive ways. We argue for automating these transformations, and demonstrate that mechanisms available in recent modeling frameworks can implement non-centring and related reparameterisations. This enables new inference algorithms, and we propose two: a simple approach using interleaved sampling and a novel variational formulation that searches over a continuous space of parameterisations. We show that these approaches enable robust inference across a range of models, and can yield more efficient samplers than the best fixed parameterisation.

研究动机与目标

• 解决因模型参数化不优导致的概率编程中推断性能不佳的问题。
• 自动化非中心化及类似重参数化方法，减少对人工、非直观模型重写的需求。
• 使推断算法能够动态选择或学习最优参数化形式，而无需预先知晓最佳形式。
• 实现模型定义与推断效率的解耦，使用户可专注于统计假设。

提出的方法

• 利用现代概率编程框架中的效应处理机制，自动对潜变量应用双射变换（如非中心化），实现重参数化。
• 提出交错哈密顿蒙特卡洛（iHMC），在中心化与非中心化参数化之间交替执行HMC步骤，以改善混合性能。
• 提出变分推断参数化（VIP），一种新颖的变分推断方法，可在包含非中心化作为特例的连续参数化空间中进行搜索。
• 采用均值场变分近似，联合优化模型参数与重参数化参数（λ），其中λ控制非中心化的程度。
• 使用基于梯度的优化方法调节重参数化超参数，实现最优配置的自动发现。
• 在所有方法中，利用变分后验分布进行对角预条件处理，以提升HMC的效率。

实验结果

研究问题

• RQ1 自动重参数化是否能提升多样化概率模型中推断的鲁棒性与效率？
• RQ2 推断算法能否动态发现优于固定人工设计形式的更优参数化？
• RQ3 通过VIP在参数化空间中进行连续搜索，是否能优于离散选择（如中心化或非中心化形式）？
• RQ4 ELBO是否可作为重参数化模型中后验几何与采样效率的可靠代理指标？
• RQ5 与手动非中心化相比，自动重参数化在采样效率与收敛性方面表现如何？

主要发现

• iHMC在所有数据集上的表现至少与最佳固定参数化形式（CP-HMC或NCP-HMC）相当，且在德国信贷数据集上表现更优，达到3.0±0.2 ESS/∇。
• VIP-HMC在德国信贷数据集上达到5.6±0.6 ESS/∇，较CP-HMC与NCP-HMC高出三倍以上，展现出卓越的采样效率。
• VIP找到了有意义且可解释的参数化形式：大多数变量被设为中心化（λ=0）或非中心化（λ=1），但在德国信贷等复杂情形中出现了混合配置。
• ELBO与采样效率之间存在良好相关性，验证了其作为模型条件性预测指标与自动重参数化引导工具的有效性。
• 平均而言，VIP-HMC的性能与最佳固定参数化形式相当或更优，证实自动化搜索可发现更优配置。