[论文解读] Multi-variable Integration with a Neural Network

D. Maître, Roi Santos-Mateos|arXiv (Cornell University)|Nov 5, 2022

Model Reduction and Neural Networks被引用 6

一句话总结

本文提出一种基于神经网络的方法，通过训练深度网络近似被积函数的原函数，实现对辅助变量的精确解析积分，从而加速多变量参数积分。该方法在粒子物理应用中实现了千分之一至百分之一级别的精度，并相较标准数值积分实现了40–125倍的速度提升，且随着被积函数复杂度的增加，性能进一步提升。

ABSTRACT

In this article we present a method for automatic integration of parametric integrals over the unit hypercube using a neural network. The method fits a neural network to the primitive of the integrand using a loss function designed to minimize the difference between multiple derivatives of the network and the function to be integrated. We apply this method to two example integrals resulting from the sector decomposition of a one-loop and two-loop scalar integrals. Our method can achieve per-mil and percent accuracy for these integrals over a range of invariant values. Once the neural network is fitted, the evaluation of the integral is between 40 and 125 times faster than the usual numerical integration method for our examples, and we expect the speed gain to increase with the complexity of the integrand.

研究动机与目标

• 用可微的神经网络代理替代传统数值积分，实现参数积分的快速、可重用评估。
• 通过在完整的s-x空间上联合训练，利用辅助变量和参数的平滑性。
• 实现在不重新运行独立蒙特卡洛积分的情况下，对大量参数值高效评估积分。
• 在来自区域分解的高能物理真实积分中，展示该方法的可行性与性能提升。
• 探索基于导数的损失函数在训练深度网络以近似复杂被积函数原函数方面的潜力。

提出的方法

• 训练一个深度神经网络以近似被积函数f的原函数F，其中参数s和辅助变量x均作为输入。
• 损失函数通过最小化网络对x变量的k阶偏导数与被积函数f之间的均方误差来优化。
• 通过边界求值公式精确计算积分I(s)：I(s) = Σ_{x_i=0,1} (-1)^{k−∑x_i} N(s; x_1,…,x_k)。
• 使用准蒙特卡洛或基于格点的网格从s-x空间中采样训练数据，以确保参数和积分变量的均匀覆盖。
• 使用多个网络副本估计不确定性，且副本间的方差主导于潜在偏差。
• 该方法利用网络在单次训练后对s值的泛化能力，实现对新参数集的快速评估。

实验结果

研究问题

• RQ1 能否训练神经网络以足够精度近似高维参数被积函数的原函数，满足物理应用需求？
• RQ2 基于导数的损失训练是否能在保持精度的同时，实现对辅助变量的精确解析积分？
• RQ3 在参数空间中重复评估时，该方法在速度和可扩展性方面相较于标准数值积分能提升多少？
• RQ4 训练数据采样策略的选择（如准蒙特卡洛与格点）如何影响收敛性和精度？
• RQ5 在该框架中，网络容量、训练时间与评估速度之间存在何种权衡？

主要发现

• 在一系列物理参数值下，该方法对一环积分实现了千分之一精度，对二环积分实现了百分之一精度。
• 在测试案例中，使用训练好的神经网络评估积分的速度比标准数值积分快40至125倍。
• 随着被积函数复杂度的增加，预计速度提升将进一步扩大，使该方法在高维或计算昂贵的被积函数中更具优势。
• 网络训练耗时约10小时，但成本可分摊至一环约3.6亿次评估和二环约600万次评估，使其在大规模应用中具有成本效益。
• 使用多个网络副本可同时提升精度和不确定性估计，前提是预测中的方差主导于偏差。
• 该方法实现了对大量参数值的快速、可重用积分评估，而无需重新运行独立的数值积分。