[论文解读] Loop Amplitudes from Precision Networks

Simon Badger, Anja Butter+3 more|arXiv (Cornell University)|Jun 29, 2022

Reservoir Engineering and Simulation Methods被引用 11

一句话总结

本文提出使用基于损失和性能的提升策略的贝叶斯神经网络（BNNs）来学习量子场论中的一圈振幅，特别针对大型强子对撞机（LHC）中的双光子加喷流过程。该方法在训练数据上实现了亚百分之一的精度，在测试数据上达到百分之一级别的准确度，尤其在高振幅区域表现显著提升，并具备稳健的不确定性估计，即使在训练样本减少的情况下亦表现良好。

ABSTRACT

Evaluating loop amplitudes is a time-consuming part of LHC event generation. For di-photon production with jets we show that simple, Bayesian networks can learn such amplitudes and model their uncertainties reliably. A boosted training of the Bayesian network further improves the uncertainty estimate and the network precision in critical phase space regions. In general, boosted network training of Bayesian networks allows us to move between fit-like and interpolation-like regimes of network training.

研究动机与目标

• 为解决在高多重性过程（如 $gg \to \gamma\gamma g$）中高效且精确计算一圈振幅的挑战。
• 提升机器学习代理模型在标准方法因训练数据稀疏而失效的相空间区域中对振幅的预测精度。
• 开发一种训练策略，通过在贝叶斯网络中结合基于损失和性能的提升方法，实现拟合型与插值型训练区间的平滑过渡。
• 利用贝叶斯网络固有的概率框架，确保高精度振幅预测的同时提供可靠的不确定性估计。

提出的方法

• 作者使用贝叶斯神经网络（BNNs）对20维相空间中的圈振幅进行回归，同时学习振幅值及其不确定性。
• 提出基于损失的提升方法：根据BNN的似然损失对训练样本进行重加权，优先关注网络置信度较低的区域。
• 应用基于性能的提升方法，放大最大振幅值区域的训练损失，从而提升关键相空间区域的插值精度。
• 该训练策略实现了从拟合型到插值型区间的平滑过渡，提升了精度而不损害不确定性估计。
• 该方法在 $2\to 3$ 过程 $gg \to \gamma\gamma g$ 上进行了验证，并扩展至更复杂的 $2\to 4$ 过程 $gg \to \gamma\gamma gg$，采用更大规模的网络架构。
• 通过拉普拉辛分布评估不确定性一致性，并对比训练数据与测试数据的运动学分布，以评估泛化能力。

实验结果

研究问题

• RQ1 基于自适应提升策略的贝叶斯网络是否能在训练数据有限的情况下，实现在整个相空间中的高精度振幅回归？
• RQ2 基于损失的提升方法如何改善贝叶斯神经网络在振幅回归训练中的不确定性估计？
• RQ3 基于性能的提升方法在对LHC现象学至关重要的高振幅区域中，能在多大程度上提升预测精度？
• RQ4 结合两种提升策略是否能在显著提升插值性能的同时保持可靠的不确定性估计？
• RQ5 当训练数据减少时，该方法的鲁棒性如何？是否能保持精度与不确定性估计的一致性？

主要发现

• 基础BNN在 $2\to 3$ 过程的训练数据上实现了亚百分之一的精度，在测试数据上达到百分之一级别的吻合度。
• 基于性能的提升显著改善了最大1%振幅区域的精度，使其达到百分之一级别，大幅提升了关键相空间区域的预测准确性。
• 基于损失的提升带来了行为良好的不确定性估计；而基于性能的提升虽在训练数据上轻微降低了不确定性估计质量，但整体提升了精度。
• 该方法在数据减少时仍保持鲁棒性：当训练样本从90k减少到9k时，精度仅出现轻微下降，归功于提升策略。
• 运动学分布显示，基于性能的提升显著改善了低采样尾部区域的预测效果，尽管存在轻微的不确定性估计权衡，但对测试数据集的泛化能力良好。
• 对于 $2\to 4$ 过程，提升后的BNN实现了更高的振幅精度和一致的不确定性估计，且在性能提升后出现过拟合现象，表明成功向插值模式转移。