[論文レビュー] Multi-variable Integration with a Neural Network

D. Maître, Roi Santos-Mateos|arXiv (Cornell University)|Nov 5, 2022

Model Reduction and Neural Networks被引用数 6

ひとこと要約

本稿では、被積分関数の原始関数を近似する深層ネットワークを訓練することで、多変数パラメトリック積分を高速化するニューラルネットワークベースの手法を提案する。この手法により、補助変数に関して正確な解析的積分が可能となり、物理的応用において1000分の1〜1%の精度を達成し、標準的な数値積分と比較して40〜125倍の高速化が実現される。性能は被積分関数の複雑さに応じて向上する。

ABSTRACT

In this article we present a method for automatic integration of parametric integrals over the unit hypercube using a neural network. The method fits a neural network to the primitive of the integrand using a loss function designed to minimize the difference between multiple derivatives of the network and the function to be integrated. We apply this method to two example integrals resulting from the sector decomposition of a one-loop and two-loop scalar integrals. Our method can achieve per-mil and percent accuracy for these integrals over a range of invariant values. Once the neural network is fitted, the evaluation of the integral is between 40 and 125 times faster than the usual numerical integration method for our examples, and we expect the speed gain to increase with the complexity of the integrand.

研究の動機と目的

• 従来の数値積分を、高速で再利用可能なパラメトリック積分の評価を可能にする微分可能でニューラルネットワークに置き換えること。
• 全 s-x 空間において、補助変数とパラメータの両方の滑らかさを活用し、同時に学習すること。
• 独立したモンテカルロ積分を繰り返し実行せずに、多数のパラメータ値に対して効率的な積分評価を可能にすること。
• セクタ分解からの現実的な高エネルギー物理学の積分において、本手法の実現可能性と性能向上を示すこと。
• 複雑な被積分関数の原始関数を近似するための深層ネットワークを学習する際に、導出に基づく損失関数の可能性を検討すること。

提案手法

• 被積分関数 f の原始関数 F を近似するための深層ニューラルネットワークを、パラメータ s と補助変数 x を入力として訓練する。
• 損失関数は、ネットワークの x 変数に関する k 階偏微分と被積分関数 f の間の平均二乗誤差を最小化する。
• 積分 I(s) は境界評価公式により正確に計算される： I(s) = Σ_{x_i=0,1} (-1)^{k−∑x_i} N(s; x_1,…,x_k)。
• 訓練データは、パラメータと積分変数の両方が均等にカバーされるように、準モンテカルロ法または格子ベースのグリッドを用いて s-x 空間からサンプリングする。
• 複数のネットワークレプリカを用いて不確実性を推定し、レプリカ間の分散が予測のバイアスを上回ることが期待される。
• 1回の訓練で s 値の範囲にわたる一般化能力を活用し、新しいパラメータセットに対して高速な評価が可能になる。

実験結果

リサーチクエスチョン

• RQ1 高次元パラメトリック被積分関数の原始関数を、物理的応用に十分な精度で近似できるようにニューラルネットワークを学習できるか？
• RQ2 導出に基づく損失関数による学習により、補助変数に関して正確な解析的積分が可能になり、同時に精度を維持できるか？
• RQ3 繰り返しのパラメータ空間における評価において、本手法が標準的な数値積分をどれほど上回る速度とスケーラビリティを達成できるか？
• RQ4 訓練データのサンプリング戦略の選択（例：準モンテカルロ法 vs. グリッド）が収束性と精度に与える影響はいかほどか？
• RQ5 本フレームワークにおいて、ネットワーク容量、学習時間、評価速度の間のトレードオフはどのようなものか？

主な発見

• テストケースにおいて、1ループ積分では1000分の1の精度、2ループ積分では1%の精度が、物理的パラメータ値の範囲で達成された。
• 訓練済みニューラルネットワークを用いた積分評価は、標準的な数値積分と比較して40〜125倍高速であった。
• 被積分関数の複雑さが増すと、この速度向上はさらに大きくなると予想され、高次元または高コストな被積分関数に対して特に有利である。
• ネットワークの訓練には約10時間かかるが、1ループでは約3億6000万回の評価、2ループでは約600万回の評価にわたってコストが均等化され、スケールアップにおいて費用対効果が高くなる。
• 複数のネットワークレプリカの使用により、精度と不確実性推定の両方が向上し、予測の分散がバイアスを上回る限り有効である。
• 独立した数値積分を繰り返し実行せずに、多数のパラメータ値に対して高速で再利用可能な積分評価が可能になった。