[论文解读] Scalable Semi-Modular Inference with Variational Meta-Posteriors

Chris U. Carmona, Geoff K. Nicholls|arXiv (Cornell University)|Apr 1, 2022

Machine Learning in Healthcare被引用 5

一句话总结

本论文提出了一种基于归一化流（Normalizing Flows）和新型变分元后验（Variational Meta-Posterior, VMP）的可扩展变分推断框架，用于半模块化推断（Semi-Modular Inference, SMI），以联合近似影响参数 η 在连续范围内的 SMI 后验分布。该方法实现了端到端、可微分的优化，能够控制模块间的反馈，其不确定性量化性能优于平均场变分推断（mean-field VI），并可在无需对每个 η 值重新训练的情况下高效探索多种切割方式。

ABSTRACT

The Cut posterior and related Semi-Modular Inference are Generalised Bayes methods for Modular Bayesian evidence combination. Analysis is broken up over modular sub-models of the joint posterior distribution. Model-misspecification in multi-modular models can be hard to fix by model elaboration alone and the Cut posterior and SMI offer a way round this. Information entering the analysis from misspecified modules is controlled by an influence parameter $η$ related to the learning rate. This paper contains two substantial new methods. First, we give variational methods for approximating the Cut and SMI posteriors which are adapted to the inferential goals of evidence combination. We parameterise a family of variational posteriors using a Normalising Flow for accurate approximation and end-to-end training. Secondly, we show that analysis of models with multiple cuts is feasible using a new Variational Meta-Posterior. This approximates a family of SMI posteriors indexed by $η$ using a single set of variational parameters.

研究动机与目标

• 为解决在 η 高维时 SMI 后验计算不可行的问题，特别是当存在多个切割时。
• 开发一种变分推断框架，以在模块间保持受控的信息流，避免平均场 VI 中常见的方差低估问题。
• 实现单一模型的端到端训练，以近似由 η 索引的整个 SMI 后验族。
• 通过联合估计影响参数而非预先指定切割方式，来发现模型中的错误设定模块。
• 通过用快速、可微分的 VMP 推断替代昂贵的每 η 值 MCMC 采样，将模块化推断扩展至复杂模型。

提出的方法

• 提出一种修改后的证据下界（ELBO），利用梯度截断操作解耦模块间的参数更新，从而通过 η 实现受控反馈。
• 采用归一化流（NFs）来参数化变分族，确保表达能力强、灵活的近似，避免方差低估问题。
• 引入变分元后验（VMP）流，一种以 η 为条件的条件归一化流，用于在单次训练中联合近似所有 SMI 后验分布。
• 采用两阶段训练流程：首先训练 VMP 将 η 映射到变分参数，然后使用 SGD 在联合目标上优化 VMP。
• 利用 VMP 实现对 η 的快速采样和 ELPD 估计，替代基于网格或嵌套 MCMC 的方法。
• 采用双损失目标，避免使用标准 KL 散度，确保在 η = 0（切割后验）和 η = 1（贝叶斯后验）时实现正确信息流控制。

实验结果

研究问题

• RQ1 变分推断能否被适配用于 SMI 后验，以在保持模块间受控反馈的同时实现端到端优化？
• RQ2 如何在不为每个 η 值重新训练的前提下，高效近似由 η 索引的连续 SMI 后验族？
• RQ3 在 SMI 设置中，使用归一化流作为变分族是否能比平均场 VI 提供更好的不确定性量化？
• RQ4 VMP 框架能否通过同时估计所有模块的影响参数来发现错误设定的模块？
• RQ5 在 ELPD 估计的计算成本和准确性方面，VMP 的性能与嵌套 MCMC 或基于网格的方法相比如何？

主要发现

• VMP-流框架实现了单一模型的联合、可微训练，可近似所有 η 范围内的 SMI 后验，将训练成本从 C 的指数级降低至与切割数线性相关。
• 该方法在不确定性量化方面优于平均场 VI，其结果与 MCMC 基线一致，未出现方差低估现象，而 MFVI 则存在此问题。
• 与训练 VMP 映射以预测 η 依赖参数相比，VMP-流实现了更快、更稳定的收敛，得益于更优的优化动力学。
• 变分近似在 η 变化时精确插值于变分切割（Yu et al., 2021）与标准变分贝叶斯之间，保持了 SMI 的理论性质。
• 该框架支持对 η 的高效 ELPD 最大化，实现最优影响参数的自动选择，无需对每个 η 进行采样。
• 一旦识别出合适的流结构（如基于耦合层的 MLP 条件化有理样条变换器），该方法对网络架构选择不敏感，且在各类模型中均表现出一致的性能。