[論文レビュー] Unifying Simulation and Inference with Normalizing Flows

Haoxing Du, Claudius Krause+4 more|arXiv (Cornell University)|Apr 29, 2024

Simulation Techniques and ApplicationsDecision Sciences被引用数 3

ひとこと要約

本稿では、正規化フロー（NF）を用いた統一的なフレームワークを提案し、検出器のキャリブレーションと不確実性評価を実現する。条件付きNFからの最尤推定（MLE）により、事前分布に依存しないエネルギー回帰と、1シャワーごとの解像度推定が可能となる。この手法は、直接回帰法よりもバイアスを低減し、非ガウス的で非対称な解像度関数を捉えることができ、ATLASに類似したコンピュータシミュレーションによるコロイメータデータセットを用いた実験で、キャリブレーション精度が向上し、1シャワーごとの不確実性推定が信頼性を持つことを示した。

ABSTRACT

There have been many applications of deep neural networks to detector calibrations and a growing number of studies that propose deep generative models as automated fast detector simulators. We show that these two tasks can be unified by using maximum likelihood estimation (MLE) from conditional generative models for energy regression. Unlike direct regression techniques, the MLE approach is prior-independent and non-Gaussian resolutions can be determined from the shape of the likelihood near the maximum. Using an ATLAS-like calorimeter simulation, we demonstrate this concept in the context of calorimeter energy calibration.

研究の動機と目的

• 高エネルギー物理学における検出器キャリブレーションと不確実性評価（UQ）を、深層生成モデルを用いて統合すること。
• 事前分布に依存するための欠陥を有する直接回帰手法の限界を克服すること。
• 点推定を超えてキャリブレーション精度を向上させるために、1シャワーごとの解像度推定を可能にすること。
• 正規化フローが、ガウス近似では到達できない非ガウス的で非対称な解像度関数を捉えることができるかどうかを実証すること。

提案手法

• 本手法は、条件付き正規化フロー（NF）を用い、特にマスクドアーロレグレッシブフロー（MAFs）と有理二次スプライン（RQS）を組み合わせて、尤度 $ p(E_{\text{dep}} | E_{\text{inc}}) $ をモデル化し、サンプリングと密度推定の両方を可能にする。
• NFは、$ -\log p_{1}(\vec{E} | E_{\text{inc}}) $ を最小化する最尤推定（MLE）により学習させ、事前分布に依存せず、正確な尤度へのアクセスを保証する。
• 入力特徴量は前処理される：$ E_{\text{inc}} \to \log_{10}(E_{\text{inc}}/10\ \text{GeV}) $ および $ E_i \to 2(\log_{10}(E_i + 1\ \text{keV}) - 1) $ により、学習の安定化を図る。
• 過学習を防ぐために、学習および評価の際、ボクセルエネルギーに [0, 0.1] keV の一様ノイズを適用する。
• Adam最適化を用い、バッチサイズ200で150エポックにわたり学習を行う。学習率はマルチステップスケジュールを採用する。
• 1シャワーごとの解像度は、モード付近の尤度の曲率から推定され、イベントごとの不確実性評価が可能になる。

Figure 1: Generated versus reference energy distributions in our new ECAL+HCAL calorimeter setup for uniformly distributed incident energies $E_{\rm inc}$ . The energy deposited in layer $i$ is denoted by $E_{i}$ and the energy deposited in the calorimeter is denoted by $E_{\rm dep}=\sum_{i=0}^{6}E_

実験結果

リサーチクエスチョン

• RQ1 正規化フローは、事前分布に依存しない形で、検出器キャリブレーションと不確実性評価を統合できるか？
• RQ2 NFを用いたMLEベースのキャリブレーションは、直接回帰法と比較してバイアスと解像度推定の両面で優れているか？
• RQ3 NFは、ガウス近似では捉えきれない非ガウス的で非対称な解像度関数を捉えることができるか？
• RQ4 NFから得られる1シャワーごとの解像度推定は、キャリブレーション精度と相関しているか？ 信頼性があると示唆されるか？
• RQ5 NFから得られる完全な尤度は、点推定やガウス近似を超えてキャリブレーションを改善できるか？

主な発見

• 10万件のパイオンシャワーを含むシミュレーテッド・コロイメータデータセットにおいて、CaloFlow（NFベースのキャリブレーション手法）は、直接DNN回帰モデルと比較して顕著にバイアスが低減した。
• CaloFlowから推定された平均的な1シャワーごとの解像度は、完全な解像度関数とよく一致しており、その信頼性が裏付けられた。
• CaloFlowによるより小さい1シャワーごとの解像度は、より高いキャリブレーション精度と関連しており、不確実性推定が意味的かつ信頼性を持つことが示された。
• 本手法は、非ガウス的で非対称な解像度関数を捉えることができ、ガウス近似が対称的かつガウス型の解像度を仮定するのに対し、優位性を示した。
• NFアプローチにより、完全な解像度関数へのアクセスが可能となり、従来の手法よりも正確で柔軟性に富んだ不確実性評価が実現された。

Figure 2: Plot of likelihood evaluated using CaloFlow for a given calorimeter shower originating from a 30 GeV pion (left), 60 GeV pion (middle) and 90 GeV pion (right), respectively. In each plot, the true incident energy $E_{\rm true}$ is shown by the vertical black line, and the evaluated likelih