[论文解读] Variational Autoencoders for Jet Simulation

Kosei Dohi|arXiv (Cornell University)|Sep 2, 2020

Generative Adversarial Networks and Image Synthesis参考文献 65被引用 5

一句话总结

该论文提出了一种新型变分自编码器（VAE）架构，用于在高能物理中实现快速且精确的喷注图像模拟。通过利用卷积层、学习到的潜在空间以及特征感知损失，VAE 生成的喷注图像在质量上与真实物理可观测量（如质量、pT 和 N-子喷注性）高度一致，且在 GPU 上推理速度相比基于 GAN 的基线模型最高快 6 倍。

ABSTRACT

We introduce a novel variational autoencoder (VAE) architecture that can generate realistic and diverse high energy physics events. The model we propose utilizes several techniques from VAE literature in order to simulate high fidelity jet images. In addition to demonstrating the model's ability to produce high fidelity jet images through various assessments, we also demonstrate its ability to control the events it generates from the latent space. This can be potentially useful for other tasks such as jet tagging, where we can test how well jet taggers can classify signal from background for events generated by the VAE. We test this idea by seeing the signal efficiency vs background rejection for different types of jet images produced by our model. We compare our VAE with generative adversarial networks (GAN) in several ways, most notably in speed. The architecture we propose is ultimately a fast, stable, and easy-to-train deep generative model that demonstrates the potential of VAEs in simulating high energy physics events.

研究动机与目标

• 开发一种快速且可靠的生成模型，用于模拟高能物理中的喷注图像，以解决现有基于 GAN 方法的局限性。
• 探究 VAE 是否能够生成在质量、pT 和 N-子喷注性等物理可观测量上具有高保真度的真实喷注图像。
• 评估 VAE 学习潜在空间中解耦且可解释特征的能力，以实现对喷注生成的可控性。
• 将 VAE 的推理速度与最先进的基于 GAN 的模型（如 LAGAN）进行比较，特别是在 CPU 和 GPU 上的表现。
• 研究特征感知损失在提升喷注模拟中图像质量和物理一致性方面的有效性。

提出的方法

• 模型采用卷积编码器-解码器架构，对喷注图像进行压缩与重建，潜在空间由均值向量和对数方差向量参数化。
• VAE 使用重参数化采样技术，使随机潜在空间可通过反向传播进行端到端训练。
• 损失函数结合了重建项（输入与输出图像之间的 MSE）和 KL 散度项，以将潜在分布正则化为标准高斯分布。
• 引入特征感知损失，替代标准 L2 损失，通过比较预训练网络的中间特征图来提升图像的真实性。
• 模型在 Pythia 生成的喷注图像数据集上进行训练，应用数据增强和归一化以提升泛化能力。
• 推理通过从学习到的潜在分布中采样实现，从而能够生成具有可控特征的多样化喷注图像。

实验结果

研究问题

• RQ1 VAE 架构能否生成在质量、横动量（pT）和 N-子喷注性等关键物理可观测量上保持高保真度的喷注图像？
• RQ2 VAE 的潜在空间在多大程度上实现了对物理特征（如 W 玻色子与 QCD 喷注特征）的解耦与控制？
• RQ3 与基于 GAN 的模型（如 LAGAN）相比，VAE 的推理速度如何，特别是在 CPU 和 GPU 上的表现？
• RQ4 与标准 L2 损失相比，使用特征感知损失是否能提升生成喷注图像的真实感与物理一致性？
• RQ5 VAE 是否能在无需对抗训练的情况下实现稳定训练？这对其性能与泛化能力有何影响？

主要发现

• VAE 生成的喷注图像在质量上与真实 Pythia 生成的喷注图像高度一致，其质量、pT、N-子喷注性及像素强度分布均表现良好。
• 潜在空间表现出稳定的解耦性：W 玻色子与 QCD 喷注特征在所有潜在维度上均被保留，且在图 24 中可见稳定差异。
• 在 GPU 上，VAE 的生成速率达每秒 24,209 个事件，约为 LAGAN（GPU 上 4,102 个事件/秒）的 6 倍。
• 特征感知损失显著提升了图像质量，相比标准 L2 损失，生成的图像更清晰、更逼真。
• 由于无需对抗训练，模型训练更简单，优化过程更平滑，收敛更稳定。
• VAE 展现出强大的泛化能力与可控性，潜在空间插值可生成在喷注类型间合理过渡的图像。