[论文解读] Chained Quantile Morphing with Normalizing Flows

S. Bright-Thonney, Philip Harris+2 more|arXiv (Cornell University)|Sep 27, 2023

Particle physics theoretical and experimental studiesPhysics and Astronomy被引用 3

一句话总结

本文提出了一种基于深度学习的方法，称为基于归一化流的链式分位数形态变换（CQM-NF），通过将模拟事件分布变换为更贴近真实数据的分布，以校正高能物理中的蒙特卡洛模拟。该方法利用可逆归一化流来建模连续的条件累积分布函数，通过迭代方式校正可观测量，同时保持复杂的关联性，在蒙特卡洛覆盖不足的区域中优于重新加权方法，并为高维粒子级数据提供了一种稳健的替代传统形态变换的方案。

ABSTRACT

Accounting for inaccuracies in Monte Carlo simulations is a crucial step in any high energy physics analysis. It becomes especially important when training machine learning models, which can amplify simulation inaccuracies and introduce large discrepancies and systematic uncertainties when the model is applied to data. In this paper, we introduce a method to transform simulated events to better match data using normalizing flows, a class of deep learning-based density estimation models. Our proposal uses a technique called chained quantile morphing, which corrects a set of observables by iteratively shifting each entry according to a conditonal cumulative density function. We demonstrate the technique on a realistic particle physics dataset, and compare it to a neural network-based reweighting method. We also introduce a new contrastive learning technique to correct high dimensional particle-level inputs, which naively cannot be efficiently corrected with morphing strategies.

研究动机与目标

• 为解决高能物理分析中由于蒙特卡洛模拟不准确而引起的系统性不确定性，特别是当训练机器学习模型时。
• 开发一种连续、可微且精确的替代方案，以取代离散链式分位数形态变换，用于校正模拟事件分布。
• 利用归一化流实现对高维粒子级输入的有效校正——此前标准形态变换难以处理此类问题。
• 在分布匹配和不变量保持方面，比较所提出的CQM-NF方法与传统重新加权和形态变换技术的性能。

提出的方法

• 该方法使用归一化流来学习蒙特卡洛（MC）和数据分布之间条件累积分布函数（CDF）的连续、可逆变换。
• 通过迭代地使用条件CDF $ F_i^{\text{MC}}(x_i|\mathbf{x}_{1:i-1}) $ 和 $ F_i^{\text{Data}}(x_i|\mathbf{x}_{1:i-1}) $ 对每个可观测量进行链式分位数形态变换，确保正确的边缘和条件依赖关系。
• 归一化流架构支持端到端训练，以建模复杂、高维的联合分布，采用可逆且可微的变换。
• 引入对比学习技术，以改善在高维粒子级输入上的校正效果，这些输入在标准形态变换下因稀疏性和复杂性而失效。
• 该方法在保持原始蒙特卡洛样本结构的同时，将其向数据分布移动，最小化物理不变量的失真。
• 该方法在真实粒子物理数据集上进行了评估，并与基于神经网络的重新加权方法进行了比较，结果表明在采样不足区域表现更优。

Figure 1: A schematic demonstrating how chained quantile morphing transforms samples from one $k$ -dimensional PDF $p_{\mathrm{MC}}(x_{1},\ldots,x_{k})$ to another $p_{D}(x_{1},\ldots,x_{k})$ . The shaded regions in blue, green, and orange denote the conditional quantiles of variables $x_{i}$ , $z_{

实验结果

研究问题

• RQ1 归一化流能否为高能物理中蒙特卡洛模拟的校正提供一种连续且精确的替代方案，以取代离散链式分位数形态变换？
• RQ2 在传统形态变换策略失效的高维粒子级输入中，所提出的CQM-NF方法的校正性能如何？
• RQ3 在蒙特卡洛样本覆盖较差的相空间区域，CQM-NF是否优于依赖事件权重的重新加权技术？
• RQ4 与重新加权方法相比，该方法在保持不变量（如重建粒子质量）方面的能力如何？
• RQ5 对比学习能否提升复杂、高维粒子物理数据上形态变换模型的训练与泛化能力？

主要发现

• CQM-NF方法成功地将模拟事件分布校正为更贴近真实数据的分布，尤其在蒙特卡洛覆盖不足的区域表现优异，而此时重新加权方法因缺乏训练样本而失效。
• 在一个包含MC样本中缺失相关性的5维模型中，CQM-NF准确恢复了数据分布，而重新加权方法在覆盖不足区域无法再现数据分布。
• 在一个共振衰变模型中，重新加权方法完美保持了重建不变量质量分布，而CQM-NF由于对复杂动量-$\delta\phi$关系学习不完善，引入了展宽效应。
• 尽管存在不变量质量的展宽，CQM-NF在蒙特卡洛分布与数据无重叠的区域仍提供了比重新加权更稳健的校正效果。
• 对比学习技术使得对高维粒子级输入的有效校正成为可能，而这些输入在标准形态变换方法下原本难以处理。
• 该方法表明，归一化流能够有效建模用于形态变换的复杂条件CDF，从而在高能物理应用中实现精确且可微的校正。

Figure 2: Using CQM to morph between a pair of two-dimensional datasets (top row). The bottom row shows the transformed distribution after morphing the $x$ -axis (left) then the $y$ -axis (right).