[论文解读] Learning Trivializing Gradient Flows for Lattice Gauge Theories

Simone Bacchio, Pan Kessel+2 more|arXiv (Cornell University)|Jan 1, 2022

Particle physics theoretical and experimental studies被引用 1

一句话总结

本文提出了一种混合机器学习方法，通过利用连续归一化流改进L"uscher的微扰构造，学习格点规范场论中的平凡化梯度流。通过使用微扰初始化的伴随方法训练流的系数函数，该方法仅用14个参数即实现了与现有深度学习模型相当的性能——远少于现有模型的数个数量级，从而实现了更快的训练速度和更好的可解释性，同时保持与标准格点场论工具的兼容性。

ABSTRACT

We propose a unifying approach that starts from the perturbative construction of trivializing maps by Lüscher and then improves on it by learning. The resulting continuous normalizing flow model can be implemented using common tools of lattice field theory and requires several orders of magnitude fewer parameters than any existing machine learning approach. Specifically, our model can achieve competitive performance with as few as 14 parameters while existing deep-learning models have around 1 million parameters for $SU(3)$ Yang--Mills theory on a $16^2$ lattice. This has obvious consequences for training speed and interpretability. It also provides a plausible path for scaling machine-learning approaches toward realistic theories.

研究动机与目标

• 为解决格点规范场论模拟中的关键减速问题，这是数值研究量子场论的主要障碍。
• 克服基于深度学习的平凡化映射的局限性，后者因在高维场空间中采样不佳而无法扩展。
• 将L"uscher的微扰梯度流构造与现代机器学习（尤其是连续归一化流）统一起来。
• 在保持或提升现有深度学习方法性能的同时，降低模型复杂度和训练成本。
• 在不依赖专用机器学习库的前提下，利用标准格点场论工具实现可扩展、可解释且高效的模拟。

提出的方法

• 以L"uscher的微扰梯度流为起点，将流的系数函数参数化为流时间的可学习函数。
• 使用连续归一化流建模平凡化映射，其中流由神经网络或样条参数化的向量场定义。
• 通过随机梯度下降训练流参数，以最小化目标函数 C(θ) = ⟨SFθ(V)⟩，使作用量趋于常数（即实现平凡化）。
• 应用伴随状态方法，高效计算损失函数相对于流参数的梯度，从而实现端到端训练。
• 使用每圈10个节点的三次样条插值表示系数函数，以实现非线性、灵活的流演化。
• 使用标准格点场论工具实现模型，避免依赖专用深度学习框架。

实验结果

研究问题

• RQ1 所提出的学习梯度流能否在格点规范场论中超越L"uscher的微扰平凡化映射？
• RQ2 仅使用O(10)个参数的连续归一化流能否在性能上匹配或超过参数量约为100万个的深度学习模型？
• RQ3 微扰初始化是否能显著提升高维场空间中训练的稳定性和收敛性？
• RQ4 该方法能否在不使用专用机器学习库的前提下，仅通过标准格点场论工具实现？
• RQ5 参数数量和模型架构如何影响学习到的平凡化映射的性能与可扩展性？

主要发现

• 所提出的方法仅用14个参数即实现了具有竞争力的性能，远少于在16²格点上对SU(3)杨-米尔斯理论最先进的深度学习模型所需的约100万个参数。
• 模型B（使用三次样条和更高阶环矩的420个参数）在性能和收敛性方面显著优于现有深度学习模型。
• 流的系数函数在训练过程中变得高度非平凡，表明模型学习到了L"uscher线性近似之外的复杂、非微扰修正。
• 从L"uscher展开进行的微扰初始化显著提升了训练稳定性和早期性能，解决了将机器学习扩展到真实理论时的关键瓶颈。
• 该方法与标准格点场论工具完全兼容，无需专用深度学习库，从而增强了可访问性，并可无缝集成到现有模拟工作流中。
• 当样条节点数超过10个后，性能提升趋于饱和，表明每系数函数使用10个节点已足够实现最优性能。