[论文解读] Flow-based sampling for multimodal and extended-mode distributions in lattice field theory

Daniel C. Hackett, Chih‐Chen Hsieh+8 more|arXiv (Cornell University)|Jul 1, 2021

Gaussian Processes and Bayesian Inference参考文献 4被引用 35

一句话总结

论文开发基于流的模型来在晶格场论中对多模分布建模，并提出与传统采样器的复合增强以实现高效、精确采样。它还分析训练方案以避免模态崩溃并在二维实标量场理论上进行测试。

ABSTRACT

Recent results have demonstrated that samplers constructed with flow-based generative models are a promising new approach for configuration generation in lattice field theory. In this paper, we present a set of training- and architecture-based methods to construct flow models for targets with multiple separated modes (i.e.~vacua) as well as targets with extended/continuous modes. We demonstrate the application of these methods to modeling two-dimensional real and complex scalar field theories in their symmetry-broken phases. In this context we investigate different flow-based sampling algorithms, including a composite sampling algorithm where flow-based proposals are occasionally augmented by applying updates using traditional algorithms like HMC.

研究动机与目标

• 在晶格场论中动机并解决多模分布的采样挑战。
• 开发能够在不显式知道模态的情况下捕捉多个分离模态的基于流的模型。
• 提出复合和增强的 MCMC 方案，以在保持精确性的同时改善模态之间的混合。
• 探索训练策略以避免模态崩溃和内尾部权重偏低。
• 将构造的多模态流模型应用于二维实标量场理论并评估采样效率。

提出的方法

• 基于更新的 MCMC 与带有反 KL 自训练的流采样的回顾。
• 对多模采样病理如模态崩溃和内尾权重不足的分析。
• 通过混合和对称混合构造来建立多模态流模型。
• 包括前向 KL 与绝热再训练的训练策略以减轻模态崩溃。
• 将流提案与增强更新如 HMC 相结合的复合 MCMC 以增强模态跳跃。
• 在 2D 的晶格标量场理论中的应用，评估流基 MCMC 与增强方案。

实验结果

研究问题

• RQ1 如何训练基于流的模型以准确表示晶格场论中的多模目标分布？
• RQ2 在多模目标的流训练中防止模态崩溃的有效策略有哪些？
• RQ3 混合与基于对称性的混合构造是否能提供对所有模态的稳健覆盖？
• RQ4 相比纯流基或传统 MCMC，在多模理论的采样效率方面，复合或增强的 MCMC 方案如何比较？

主要发现

• 流模型能够在二维实标量场理论中表示双模分布，但可能低估内部尾部，影响纯流基 MCMC。
• 模态流模型的混合和单模型对称混合可以覆盖所有模态。
• 增强的 MCMC，结合流提案与 HMC 更新，产生更高效的采样并且比仅流基 MCMC 更可靠。
• 训练策略如前向 KL、绝热再训练、以及流距离正则化有助于缓解模态崩溃并提高多模覆盖。
• 借助流基提案和传统更新的复合采样算法在多模设置下可优于纯 HMC 与流基 MCMC。