[论文解读] Score-based Generative Models for Calorimeter Shower Simulation

V. M. Mikuni, Benjamin Nachman|arXiv (Cornell University)|Jun 17, 2022

Computational Physics and Python Applications被引用 4

一句话总结

该论文提出了CaloScore，首次将基于分数的生成模型应用于对撞机物理中的电磁量能器簇射模拟。它利用扩散模型在Fast Calorimeter Simulation Challenge 2022的三个数据集上生成高保真、高维的量能器簇射，实现了最先进的真实感，具备稳定且可扩展的训练过程与精确的似然估计，尽管生成时间仍是相较于GAN的瓶颈。

ABSTRACT

Score-based generative models are a new class of generative algorithms that have been shown to produce realistic images even in high dimensional spaces, currently surpassing other state-of-the-art models for different benchmark categories and applications. In this work we introduce CaloScore, a score-based generative model for collider physics applied to calorimeter shower generation. Three different diffusion models are investigated using the Fast Calorimeter Simulation Challenge 2022 dataset. CaloScore is the first application of a score-based generative model in collider physics and is able to produce high-fidelity calorimeter images for all datasets, providing an alternative paradigm for calorimeter shower simulation.

研究动机与目标

• 探索基于分数的生成模型作为现有快速模拟方法在对撞机物理中的新颖替代方案。
• 评估基于扩散的分数模型在Fast Calorimeter Simulation Challenge 2022提供的高维量能器簇射数据集上的性能。
• 解决先前模型的局限性，如GAN中的模式崩溃问题以及归一化流的可扩展性问题。
• 在保持高保真生成的同时，实现可扩展、稳定的训练并进行精确的似然估计。
• 评估归纳偏置与体素化策略对模型效率与性能的影响。

提出的方法

• 该方法采用基于分数的生成模型，通过扩散过程上的分数匹配学习数据对数密度的梯度（即“分数”）。
• 评估了三种不同的扩散过程：子-VP、VP和VE随机微分方程（SDEs），每种具有不同的漂移与扩散系数。
• 模型采用U-Net架构，结合残差块与正弦位置编码，以处理体素化的量能器簇射。
• 训练通过凸分数匹配损失进行，实现稳定优化，无需对抗性竞争。
• 推理时采用反向SDE采样，从噪声生成逼真的簇射，每个样本需多步完成。
• 应用了如几何体素化与坐标变换等归纳偏置，以提升样本质量并减少模型参数量。

实验结果

研究问题

• RQ1 基于分数的生成模型能否在多样化、高维的数据集上生成高保真的量能器簇射？
• RQ2 不同的SDE公式（子-VP、VP、VE）如何影响生成簇射的真实感与保真度？
• RQ3 基于分数的模型能否在保持可扩展性与稳定性的同时实现精确的似然估计？
• RQ4 体素化策略与几何归纳偏置如何影响模型的效率与性能？
• RQ5 与GAN和归一化流相比，生成质量与推理速度之间的权衡如何？

主要发现

• CaloScore在Fast Calorimeter Simulation Challenge 2022的全部三个数据集上成功生成了逼真的量能器簇射，包括具有数万个体素的最高维数据集。
• 在最高维数据集上，子-VP SDE变体优于VP与VE SDE，其在多个可观测量上与Geant4模拟结果更一致。
• 在所有测试分布中，CaloScore的保真度优于WGAN-GP基线，仅在生成时间上落后，后者快3至16倍。
• 模型展现出良好的可扩展性，参数量取决于架构而非输入维度，尤其在数据集2与3中使用几何归纳偏置时更为明显。
• 常规体素化仅在坐标变换后支持卷积操作，引入了非物理的空体素，可通过更优的预处理改进。
• 能量守恒难以强制执行；虽为数据集1添加了归一化头，但未来更有效的做法是采用类似CaloFlow的两步条件方法。