[论文解读] Generative models for sampling of lattice field theories

Matija Medvidović, Juan Carrasquilla+2 more|arXiv (Cornell University)|Dec 2, 2020

Cold Atom Physics and Bose-Einstein Condensates参考文献 28被引用 6

一句话总结

本文提出了一种基于对抗性神经网络的马尔可夫链蒙特卡洛方法 A-NICE MC，该方法可自主学习生成格点场论中的不相关样本，且无需预先存在的训练数据集。通过训练生成模型以最小化马尔可夫链中的自相关性，该方法实现了在比以往更大的系统尺寸下对 $φ^4$ 格点场论的高效采样，相较于哈密顿蒙特卡洛（HMC），其推理速度更快且存储需求更低。

ABSTRACT

We explore a self-learning Markov chain Monte Carlo method based on the Adversarial Non-linear Independent Components Estimation Monte Carlo, which utilizes generative models and artificial neural networks. We apply this method to the scalar $φ^4$ lattice field theory in the weak-coupling regime and, in doing so, greatly increase the system sizes explored to date with this self-learning technique. Our approach does not rely on a pre-existing training set of samples, as the agent systematically improves its performance by bootstrapping samples collected by the model itself. We evaluate the performance of the trained model by examining its mixing time and study the ergodicity of generated samples. When compared to methods such as Hamiltonian Monte Carlo, this approach provides unique advantages such as the speed of inference and a compressed representation of Monte Carlo proposals for potential use in downstream tasks.

研究动机与目标

• 开发一种无需预先存在的样本数据集进行训练的自学习 MCMC 方法。
• 将自学习 MCMC 采样扩展至更高维度的格点场论，特别是弱耦合区域的 $φ^4$ 理论。
• 通过对抗性训练生成模型最小化自相关性，提升采样效率。
• 通过存储训练好的模型而非原始样本，实现更快的推理速度和更低的存储开销。
• 评估生成的马尔可夫链的遍历性和混合时间，以确保物理一致性。

提出的方法

• 该方法采用对抗性非线性独立分量估计蒙特卡洛（A-NICE MC），利用生成神经网络参数化 MCMC 中的提议分布。
• 模型通过损失函数进行训练，该损失函数基于模型自身生成的样本最小化马尔可夫链的自相关性。
• 训练通过基于梯度的优化完成，无需外部标注数据或预先存在的样本集。
• 提议分布通过迭代方式更新，以改善混合性并减少连续样本之间的相关性。
• 该方法仅依赖于解析的格点作用量作为输入，确保与标准场论公式的兼容性。
• 训练完成后，模型可快速生成独立样本，从而避免重复进行 MCMC 扫描。

实验结果

研究问题

• RQ1 基于生成模型的自学习 MCMC 方法是否能有效采样格点场论，而无需预先存在的数据集？
• RQ2 A-NICE MC 方法在 $φ^4$ 格点场论中的自相关性和混合时间表现如何？
• RQ3 与以往的自学习 MCMC 方法相比，该方法在多大程度上可扩展至更大的系统尺寸？
• RQ4 在自相关性和统计效率方面，A-NICE MC 与哈密顿蒙特卡洛（HMC）相比表现如何？
• RQ5 训练后的模型能否区分物理场构型与随机高斯噪声，表明其已正确学习目标分布？

主要发现

• A-NICE MC 方法成功在比以往自学习 MCMC 技术更大的系统尺寸下对弱耦合区域的 $φ^4$ 格点场论进行了采样。
• 马尔可夫链的有效样本量（ESS）在训练过程中系统性增加，表明混合性改善且自相关性降低。
• 对于大多数可观测量，包括两点关联函数和伊辛模型能量密度，A-NICE MC 的自相关衰减速度优于 HMC，即使 HMC 被调整至匹配接受率。
• 模型通过训练动态和损失函数行为，展现出对物理样本与随机高斯噪声的区分能力，表明其已正确学习目标分布。
• 除平均磁化强度外，A-NICE MC 的集成自相关时间（tau）在所有可观测量上均低于 HMC，表明其采样效率更优。
• 计算成本从采样阶段转移到训练阶段，使得可部署紧凑模型，实现无需存储大规模样本集的快速按需推理。