[论文解读] Unifying Simulation and Inference with Normalizing Flows

Haoxing Du, Claudius Krause+4 more|arXiv (Cornell University)|Apr 29, 2024

Simulation Techniques and ApplicationsDecision Sciences被引用 3

一句话总结

本文提出了一种基于归一化流（NFs）的统一框架，用于探测器校准与不确定性量化，其中通过条件NFs进行最大似然估计（MLE），实现了无需先验的能谱回归与每事例分辨率估计。该方法在模拟的ATLAS型量能器数据集上表现优于直接回归，减少了偏差，并能捕捉非高斯、非对称的分辨率函数，实现了更高的校准精度与可靠的每事例不确定性估计。

ABSTRACT

There have been many applications of deep neural networks to detector calibrations and a growing number of studies that propose deep generative models as automated fast detector simulators. We show that these two tasks can be unified by using maximum likelihood estimation (MLE) from conditional generative models for energy regression. Unlike direct regression techniques, the MLE approach is prior-independent and non-Gaussian resolutions can be determined from the shape of the likelihood near the maximum. Using an ATLAS-like calorimeter simulation, we demonstrate this concept in the context of calorimeter energy calibration.

研究动机与目标

• 通过深度生成模型统一高能物理中的探测器校准与不确定性量化（UQ）。
• 解决直接回归方法的局限性，后者依赖先验且缺乏不确定性估计。
• 实现每事例分辨率估计，以超越点估计提升校准精度。
• 证明归一化流能够捕捉高斯近似无法处理的非高斯、非对称分辨率函数。

提出的方法

• 该方法使用条件归一化流（NFs），具体为带理性二次样条（RQS）的掩码自回归流（MAFs），以建模似然 $ p(E_{\text{dep}} | E_{\text{inc}}) $，从而支持采样与密度估计。
• NF通过最大似然估计（MLE）进行训练，以最小化 $ -\log p_{1}(\vec{E} | E_{\text{inc}}) $，确保无需先验且可精确访问似然。
• 输入特征经预处理：$ E_{\text{inc}} \to \log_{10}(E_{\text{inc}}/10\ \text{GeV}) $ 与 $ E_i \to 2(\log_{10}(E_i + 1\ \text{keV}) - 1) $，以稳定训练。
• 在训练与评估期间，对体素能量施加 [0, 0.1] keV 的均匀噪声，以防止对微小特征的过拟合。
• 模型使用 Adam 优化器训练 150 个周期，批量大小为 200，并采用多阶段学习率调度。
• 通过似然函数在众数附近的曲率估计每事例分辨率，从而实现实例级不确定性量化。

Figure 1: Generated versus reference energy distributions in our new ECAL+HCAL calorimeter setup for uniformly distributed incident energies $E_{\rm inc}$ . The energy deposited in layer $i$ is denoted by $E_{i}$ and the energy deposited in the calorimeter is denoted by $E_{\rm dep}=\sum_{i=0}^{6}E_

实验结果

研究问题

• RQ1 归一化流能否以无需先验的方式统一探测器校准与不确定性量化？
• RQ2 基于 MLE 的 NF 校准方法在偏差与分辨率估计方面与直接回归相比如何？
• RQ3 NF 能否捕捉高斯假设无法处理的非高斯、非对称分辨率函数？
• RQ4 从 NF 中估计的每事例分辨率是否与校准精度相关，表明其可靠性？
• RQ5 NF 提供的完整似然是否能超越点估计与高斯近似，实现更优的校准？

主要发现

• 基于 NF 的校准方法（CaloFlow）在模拟量能器中 10 万个 π 介子事例上，相比直接 DNN 回归模型，显著降低了偏差。
• 从 CaloFlow 估计的平均每事例分辨率与完整分辨率函数高度一致，验证了其可靠性。
• CaloFlow 中更小的每事例分辨率与更高的校准精度相关，表明其不确定性估计具有实际意义且可靠。
• 该方法成功捕捉了非高斯、非对称的分辨率函数，相较于假设对称、高斯形状分辨率的高斯近似具有优势。
• NF 方法可访问完整的分辨率函数，从而实现比以往方法更精确、更灵活的不确定性量化。

Figure 2: Plot of likelihood evaluated using CaloFlow for a given calorimeter shower originating from a 30 GeV pion (left), 60 GeV pion (middle) and 90 GeV pion (right), respectively. In each plot, the true incident energy $E_{\rm true}$ is shown by the vertical black line, and the evaluated likelih