[论文解读] Sampling U(1) gauge theory using a re-trainable conditional flow-based model

Ankur Singha, Dipankar Chakrabarti+1 more|arXiv (Cornell University)|Jun 1, 2023

Medical Imaging Techniques and ApplicationsMedicine参考文献 43被引用 3

一句话总结

该论文提出一种可再训练的条件归一化流（C-NF）模型，用于在二维U(1)规范场论中采样，缓解大$β$值下的拓扑冻结问题。该模型在低$β$值HMC样本上进行训练，这些样本具有较低自相关性，通过马尔可夫链蒙特卡洛（MH）接受率50–60%实现对高$β$区域的外推，且通过再训练可提升对远离训练区域$β$值的泛化能力。

ABSTRACT

Sampling topological quantities in the Monte Carlo simulation of Lattice Gauge Theory becomes challenging as we approach the continuum limit of the theory. In this work, we introduce a Conditional Normalizing Flow (C-NF) model to sample U(1) gauge theory in two dimensions, aiming to mitigate the impact of topological freezing when dealing with smaller values of the U(1) bare coupling. To train the conditional flow model, we utilize samples generated by Hybrid Monte Carlo (HMC) method, ensuring that the autocorrelation in topological quantities remains low. Subsequently, we employ the trained model to interpolate the coupling parameter to values where training was not performed. We thoroughly examine the quality of the model in this region and generate uncorrelated samples, significantly reducing the occurrence of topological freezing. Furthermore, we propose a re-trainable approach that utilizes the model's own samples to enhance the generalization capability of the conditional model. This method enables sampling for coupling values that are far beyond the initial training region, expanding the applicability of the model.

研究动机与目标

• 解决在小格点间距（$\beta \to \infty$）下U(1)格点规范场论模拟中的拓扑冻结问题，此时HMC在拓扑荷上的自相关性很高。
• 通过机器学习生成不相关配置，克服标准蒙特卡洛采样在连续极限附近存在的局限性。
• 开发一种以裸耦合$\beta$为条件的归一化流模型，以实现对训练区域之外$\beta$值的泛化。
• 利用可再训练框架提升模型泛化能力，实现对HMC因拓扑冻结而失效的高$\beta$区域的外推采样。
• 通过马尔可夫链蒙特卡洛校正确保生成样本的统计正确性，即使在模型外推情况下也能保持精确采样。

提出的方法

• 在低$\beta$值（$\beta_S$）的HMC生成配置上训练条件归一化流（C-NF），此时拓扑自相关性较低。
• 将流模型以作用量参数$\beta$为条件，通过反向KL散度学习分布$p(U_\mu(n) \mid \beta) \propto e^{-S(U,\beta)}$。
• 将训练好的C-NF用作独立马尔可夫链蒙特卡洛（MH）算法中的提议分布，以在较大$\beta$值（$\beta_L$）下生成精确样本。
• 通过未训练$\beta$值下的积分自相关时间（$\tau_{\text{int}}$）和MH接受率评估模型质量。
• 实施可再训练方法：在中间$\beta$值（如$\beta=6$）生成样本，使用这些样本以正向KL散度对C-NF进行再训练，以提升对远离原始训练区域$\beta$值的泛化能力。
• 通过在再训练过程中每$\beta$值将训练小批量大小减少50%，保持模型效率，确保稳定性和可扩展性。

实验结果

研究问题

• RQ1 在二维U(1)规范场论中，基于低$\beta$值HMC样本训练的条件归一化流模型能否准确外推至高$\beta$区域？
• RQ2 与标准HMC模拟相比，C-NF模型在多大程度上减轻了拓扑冻结？
• RQ3 当使用外推的C-NF作为提议分布时，其在未训练$\beta$值范围内的MH接受率是否稳定？
• RQ4 使用其自身生成的样本对C-NF模型进行再训练，能否提升其对远超原始训练区域$\beta$值的泛化能力？
• RQ5 在再训练过程中使用正向KL散度是否能防止模式崩溃，并增强多模态拓扑区域中的采样保真度？

主要发现

• C-NF模型显著减轻了拓扑冻结：HMC在50,000次MCMC步骤内表现出明显的拓扑荷冻结，而C-NF模型在各拓扑区域能够维持波动行为。
• 在广泛未训练的$\beta$值范围内，MH接受率稳定在50–60%之间，表明外推模型具有强大的泛化能力。
• 对于$\beta = 7.5$，MH接受率约为52%，证实了模型即使在训练区域之外也能生成高质量的提议。
• 在中间$\beta$值（如$\beta=6$）使用其自身样本对C-NF模型进行再训练后，$\beta=9$处的MH接受率提升至约40%，而原始模型在此处已降至约30%。
• 模型在训练集合中实现了约30%的有效样本量（ESS），表明其对下游可观测量具有足够的统计效率。
• 可再训练框架使得在远超初始训练区域的$\beta$值下实现采样成为可能，而无需重新运行昂贵的HMC模拟。