[論文レビュー] CaloFlow II: Even Faster and Still Accurate Generation of Calorimeter Showers with Normalizing Flows

Claudius Krause, David Shih|arXiv (Cornell University)|Oct 21, 2021

Computational Physics and Python Applications参考文献 28被引用数 30

ひとこと要約

CaloFlow v2 は、教師モデル MAF からの Probability Density Distillation を通して高速 IAF を訓練し、Geant4 のカロリメーターのショーを模倣する。前の CaloFlow と同等の忠実度で約 10^4× の速度アップを達成し、GAN 時代の速度に匹敵しつつ高精度を維持。

ABSTRACT

Recently, we introduced CaloFlow, a high-fidelity generative model for GEANT4 calorimeter shower emulation based on normalizing flows. Here, we present CaloFlow v2, an improvement on our original framework that speeds up shower generation by a further factor of 500 relative to the original. The improvement is based on a technique called Probability Density Distillation, originally developed for speech synthesis in the ML literature, and which we develop further by introducing a set of powerful new loss terms. We demonstrate that CaloFlow v2 preserves the same high fidelity of the original using qualitative (average images, histograms of high level features) and quantitative (classifier metric between GEANT4 and generated samples) measures. The result is a generative model for calorimeter showers that matches the state-of-the-art in speed (a factor of $10^4$ faster than GEANT4) and greatly surpasses the previous state-of-the-art in fidelity.

研究の動機と目的

• LHC および HL-LHC における Geant4 のボトルネックを緩和するため、快速かつ高精度なカロリメーターショーのシミュレーションを動機づける。
• Geant4 のショー分布に高い忠実度を保つ高速サンプリング機能を持つ生成モデルを開発する。

提案手法

• Flow I (小型) を用いて入力エネルギーに条件付けられた沈着エネルギーをモデル化し、Flow II (大型) を用いてエネルギーに条件付けられたショーの形状をモデル化する。
• 遅い MAF ベースのサンプリングを、Probability Density Distillation（教師-生徒トレーニング）による高速 IAF に置換する。
• x-loss、z-loss、追加の中間・パラメータレベルの整合性項（Lx、Lz、Lx(i)、Lz(i)、Lkappa）を含む複合損失で、学生 IAF を教師 MAF に合わせて訓練する。
• Flow 間の逐次整合性を強制する、x-および z-loss 成分を組み合わせた完全導き型の訓練目的を採用する（Eq. 17）。
• 定性的ビジュアル、ヒストグラム、分類器ベースの指標、タイミングベンチマークによって忠実度を評価する。
• サンプリングの大規模な高速化を達成しつつ、アーキテクチャは CaloFlow v1 と同等性を維持する。

実験結果

リサーチクエスチョン

• RQ1 高速サンプリング IAF を訓練して、カロリメーターショー生成における遅い高忠実度 MAF に一致させることができるか？
• RQ2 どの損失項と訓練戦略が、Geant4 レベルの忠実度を達成するために学生 IAF を教師 MAF に最もよく一致させるか？
• RQ3 CaloFlow v2 は、GAN-および Geant4 と同等の生成速度を提供しつつ、ハイ忠実度のショー特徴を保持しているか？
• RQ4 粒子タイプごとに Geant4、CaloFlow v1、CaloFlow v2 の分類器ベースの忠実度指標はどう比較されるか？
• RQ5 大規模ショーサンプリングタスクにおける実用的な生成時間の利得はどれくらいか？

主な発見

• CaloFlow v2 は e+、γ、π+ のショー全体で、学生が教師 NLL のほぼ飽和を達成する。
• 学生の定性的な平均ショー画像とFlow II のヒストグラムは、Geant4 および教師の出力とほぼ一致し、モード崩壊は見られない。
• 分類器指標は Geant4 と CaloFlow v2 の学生間で高忠実度を維持しており、粒子タイプを問わず GAN ベースのベースラインより有意に優れている。
• タイミングベンチマークは、CaloFlow v2 のサンプリング速度が CaloGAN に匹敵し、Geant4 よりはるかに高速である（生成時に Geant4 の約 ~10^4× 高速の場合もある）。
• 完全導き型訓練（Eq. 17）は、テストした構成の中で最良の NLL パフォーマンスを示した。
• このアプローチは高次元のカロリメータデータにスケールし、より複雑なカロリメータ構成への拡張の可能性を提供する。