[论文解读] Embarrassingly parallel MCMC using deep invertible transformations

Diego Mesquita, Paul Blomstedt+1 more|arXiv (Cornell University)|Mar 11, 2019

Markov Chains and Monte Carlo Methods参考文献 17被引用 5

一句话总结

该论文提出NAP（非体积保持聚合乘积），一种显而易见的并行MCMC方法，利用深度可逆归一化流（real NVP）近似复杂子后验分布。通过将子后验转换为易于处理的形式，该方法实现了稳定、低通信量的重要性采样以组合结果，在高维、多模态及异构设置下表现优于最先进方法，且通信成本恒定。

ABSTRACT

While MCMC methods have become a main work-horse for Bayesian inference, scaling them to large distributed datasets is still a challenge. Embarrassingly parallel MCMC strategies take a divide-and-conquer stance to achieve this by writing the target posterior as a product of subposteriors, running MCMC for each of them in parallel and subsequently combining the results. The challenge then lies in devising efficient aggregation strategies. Current strategies trade-off between approximation quality, and costs of communication and computation. In this work, we introduce a novel method that addresses these issues simultaneously. Our key insight is to introduce a deep invertible transformation to approximate each of the subposteriors. These approximations can be made accurate even for complex distributions and serve as intermediate representations, keeping the total communication cost limited. Moreover, they enable us to sample from the product of the subposteriors using an efficient and stable importance sampling scheme. We demonstrate the approach outperforms available state-of-the-art methods in a range of challenging scenarios, including high-dimensional and heterogeneous subposteriors.

研究动机与目标

• 通过实现高效、通信量轻的并行贝叶斯推断，解决将MCMC扩展至大规模分布式数据集的挑战。
• 克服现有显而易见并行MCMC方法的局限性，这些方法需要集中式子后验样本，且面临高通信量或近似质量差的问题。
• 开发一种方法，在聚合过程中最小化通信与计算成本的同时，保持对复杂、高维或异构子后验分布的高精度。
• 通过利用可逆变换获得的可处理密度表示，实现稳定且高效的后验聚合，采用重要性采样。

提出的方法

• 使用real NVP（归一化流）模型学习可逆、双射变换，将复杂子后验分布映射到更简单、可处理的潜在空间。
• 利用变量变换公式近似每个子后验密度，实现在潜在空间中对数密度值的精确评估。
• 通过将变换后密度的乘积组合子后验，在潜在空间中形成联合近似后验。
• 使用变换后的子后验样本作为提议分布，通过重要性采样从组合后验中抽样。
• 应用采样/重要性重加权，从最终近似联合后验中获得加权样本。
• 证明在对网络架构施加弱假设的前提下，重要性采样估计器具有有限方差，从而确保稳定性。

实验结果

研究问题

• RQ1 深度可逆变换能否用于创建复杂子后验的准确、低维中间表示，以实现高效的并行MCMC？
• RQ2 与现有方法相比，使用归一化流表示子后验是否能通过重要性采样实现稳定且低成本的聚合？
• RQ3 在传统方法失效的高维或多重模态后验场景中，所提方法表现如何？
• RQ4 该方法是否能保持恒定的低通信成本，无论子后验样本数量多少，从而适用于大规模分布式系统？
• RQ5 在异构子后验设置下，该方法与参数化、核密度或高斯过程近似等最先进方法相比，在准确性和效率方面表现如何？

主要发现

• 在高维设置下，NAP显著优于最先进方法，在罕见分类事件实验中RMSE达到0.71×10⁻³，而PARAM为0.11×10⁻¹，PART为0.27×10⁻²。
• 在逻辑回归实验中，当p=25时，NAP的均方误差为337.28，优于PART（117.10）、PARAM（33.36）、SP（476.90）、NP（43.47）和CON（32.59）。
• 在高维情形（p=100）下，NAP保持了合理的误差值426.95，而SP的误差飙升至18,378.86，表明在高维下存在不稳定性。
• NAP在处理高度异构的子后验方面表现出鲁棒性，例如在罕见分类事件模型中，由于部分分区数据稀疏，子后验差异极大。
• NAP的通信成本与子后验样本数量无关，仅需传输学习到的归一化流参数（而非样本），因此保持恒定。
• 理论分析证实，NAP中使用的重要性采样方案在弱假设下是稳定的，对测试函数的估计具有有限方差。