[论文解读] CaloMan: Fast generation of calorimeter showers with density estimation on learned manifolds

Jesse C. Cresswell, Brendan Leigh Ross+4 more|arXiv (Cornell University)|Nov 23, 2022

Particle physics theoretical and experimental studies参考文献 40被引用 36

一句话总结

CaloMan 通过在该流形上学习一个低维流形的强度分布估计器，实现对真实淋浴的快速、有条件生成。相较于先前方法在保持真实感的同时获得了显著的加速。

ABSTRACT

Precision measurements and new physics searches at the Large Hadron Collider require efficient simulations of particle propagation and interactions within the detectors. The most computationally expensive simulations involve calorimeter showers. Advances in deep generative modelling - particularly in the realm of high-dimensional data - have opened the possibility of generating realistic calorimeter showers orders of magnitude more quickly than physics-based simulation. However, the high-dimensional representation of showers belies the relative simplicity and structure of the underlying physical laws. This phenomenon is yet another example of the manifold hypothesis from machine learning, which states that high-dimensional data is supported on low-dimensional manifolds. We thus propose modelling calorimeter showers first by learning their manifold structure, and then estimating the density of data across this manifold. Learning manifold structure reduces the dimensionality of the data, which enables fast training and generation when compared with competing methods.

研究动机与目标

• 推动快速的卡洛里计量淋浴模拟，以降低LHC探测器研究中的计算成本。
• 提出一个两步方法，首先学习卡洛里计量淋浴的流形，然后在该流形上估计密度。
• 证明基于流形的密度估计能够在保持高层次特征准确性的前提下实现快速生成。

提出的方法

• 使用广义自编码器（变分自编码器）来学习卡洛里计量淋浴的低维流形（潜在维度 ~20）。
• 在潜在空间训练条件正规化流（神经样条流）来估计 p(z|E_inc)，从而在流形上得到 p_M(x|E_inc)。
• 将密度估计器对入射能量进行条件化，同时使自编码器对能量无条件化，以用于聚类。
• 通过Levina-Bickel估计器（k最近邻）估计内在维度以设定潜在维度。
• 通过对体素能量归一化并附加 E_dep 作为特征来预处理数据；通过 VAE 解码器解码，并在生成时应用预处理还原步骤。

实验结果

研究问题

• RQ1 如何在一个低维学习流形上表示卡洛里计量淋浴？
• RQ2 是否可以在学习到的流形上有效地估计密度以生成真实的淋浴？
• RQ3 内在维度对训练效率和生成速度有何影响？
• RQ4 CaloMan 在真实感和速度上与现有的快速淋浴生成器相比如何？

主要发现

• 基于 k=10 的 Levina-Bickel 估计器，光子淋浴数据的内在维度约为 20（d ≈ 20）。
• 一个两步模型，在流形上使用 VAE，并对 p(z|E_inc) 使用条件正规化流，能实现真实的高层特征。
• 二分类器区分真实 vs 生成的淋浴，AUC 达到 0.78，低于 1.0 但与现有方法具有竞争力（CaloScore reported 0.98）。
• 生成速度显著快于先前方法，针对大批量（例如 50k/100k）单淋浴均摊时间低至 0.02 ms。
• 在 1k 和 10k 批设置下，单样本时间约为 0.02 到 0.09 ms 之间，相比 CaloScore (40 ms) 和 CaloFlow II (0.08 ms) 显示出显著加速。
• 生成的淋浴与沉积能量分布和能量中心匹配；宽度需要进一步改进，且对 E_inc 的条件化可以改善逐层能量分配。