[論文レビュー] JetFlow: Generating Jets with Conditioned and Mass Constrained Normalising Flows

Benno Käch, D. Krücker+4 more|arXiv (Cornell University)|Jan 1, 2022

Generative Adversarial Networks and Image Synthesis被引用数 18

ひとこと要約

この論文では、ジェット質量と粒子数に条件付けられた正規化フロー・モデルであるJetFlowを提案する。高次元のジェットデータ、特に複雑な相関関係を持つデータを生成するために、有理二次スプライン結合層を用いる。ジェット質量に条件付けられ、フローが制約されることで、JetNetデータセットにおいて最先端の性能を達成し、ジェット質量分布の正確なモデリングと安定的で高速な学習が可能になる。

ABSTRACT

Fast data generation based on Machine Learning has become a major research topic in particle physics. This is mainly because the Monte Carlo simulation approach is computationally challenging for future colliders, which will have a significantly higher luminosity. The generation of collider data is similar to point cloud generation with complex correlations between the points. In this study, the generation of jets with up to 30 constituents with Normalising Flows using Rational Quadratic Spline coupling layers is investigated. Without conditioning on the jet mass, our Normalising Flows are unable to model all correlations in data correctly, which is evident when comparing the invariant jet mass distributions between ground truth and generated data. Using the invariant mass as a condition for the coupling transformation enhances the performance on all tracked metrics. In addition, we demonstrate how to sample the original mass distribution by interpolating the empirical cumulative distribution function. Similarly, the variable number of constituents is taken care of by introducing an additional condition on the number of constituents in the jet. Furthermore, we study the usefulness of including an additional mass constraint in the loss term. On the exttt{JetNet} dataset, our model shows state-of-the-art performance combined with fast and stable training.

研究の動機と目的

• 将来の高インテンシティ衝突機におけるモンテカルロシミュレーションの計算負荷を軽減するため、機械学習を用いて高速でリアルなジェットデータを生成すること。
• 標準的な正規化フローがジェット成分間の複雑な相関関係をモデリングする際の限界を克服すること。
• ジェットの全般的な特徴、例えばインバリアント質量や粒子数に条件付けを施すことで、ジェット生成の性能を向上させること。
• 生成されたジェット質量分布が実データと一致するように、質量制約と経験的累積分布関数（ECDF）補間を組み込むこと。
• JetNetデータセットにおいて、安定的で高速な学習と高精度な生成を実現し、最先端の性能を示すこと。

提案手法

• 高次元ジェットデータ（最大90次元：30粒子 × 3特徴量）をモデリングするために、有理二次スプライン結合層を用いた正規化フローを採用する。
• ジェットのインバリアント質量と粒子数に条件付けを施すことで、グローバルな相関関係のモデリングを向上させる。
• 生成過程で真のジェット質量分布からのサンプリングのために、経験的累積分布関数（ECDF）補間を用いる。
• 生成された質量分布が真の分布と一致するように、損失関数に質量制約を適用する。
• 三角行列をとるヤコビアンを持つ複数の結合層を連結することで、逆写像の可能性と効率的な行列式計算を保証する。
• 負の対数尤度の最小化による最尤推定を用いて学習し、安定した収束を確保する。

実験結果

リサーチクエスチョン

• RQ1 ジェット質量と粒子数に条件付けられた正規化フローは、標準的なフローと比較して、ジェット成分間の複雑な相関関係をより効果的にモデル化できるか？
• RQ2 インバリアント質量に条件付けを施すことで、条件なしのフローと比較して、生成されたジェット質量分布の忠実度はどの程度向上するか？
• RQ3 固定サイズのサブセットで学習したモデルが、変動する成分数（例：27〜30粒子）のジェットにどの程度一般化できるか？
• RQ4 損失関数に質量制約を組み込むことで、生成された分布と実データの間の一致度はさらに向上するか？
• RQ5 過剰サンプリング（学習データセットよりはるかに多くのイベントを生成する場合）において、モデルの一般化性能はどの程度保たれるか？

主な発見

• ヴァニラ正規化フロー（VNF）は、生成されたデータと真のデータの間でインバリアント質量分布に顕著な乖離を示すため、相関関係を正しくモデリングできない。
• ジェット質量に条件付けを施したフロー（CNF(m)）は、性能を顕著に向上させ、生成された質量分布が真の分布と非常に近くなる。
• 完全に条件付けられ、制約が施されたモデル（CCNF(m,n)）は、JetNetデータセットの全6評価指標で最先端の性能を達成した。
• モデルは変動する粒子数（最低27粒子）のジェットを成功裏に生成でき、低粒子数領域のデータが疎であるためわずかなずれが生じる可能性があるが、大きな問題はない。
• 100倍の過剰サンプリングですら深刻なアーティファクトを引き起こさず、学習データサイズを超えた堅牢な一般化性能を示している。
• 相関ヒートマップの結果、生成されたデータと実データの間に顕著な差異は認められず、モデルが複雑な特徴相関を正確に保持していることが確認された。