[论文解读] End-To-End Latent Variational Diffusion Models for Inverse Problems in High Energy Physics

Alexander Shmakov, Kevin Thomas Greif+4 more|arXiv (Cornell University)|May 17, 2023

Generative Adversarial Networks and Image Synthesis被引用 23

一句话总结

引入 Variational Latent Diffusion (VLD)，用于将高维 LHC 探测器数据端到端展开至真值级别的部分子分布，相较基线在分布层保真度方面有改进。

ABSTRACT

High-energy collisions at the Large Hadron Collider (LHC) provide valuable insights into open questions in particle physics. However, detector effects must be corrected before measurements can be compared to certain theoretical predictions or measurements from other detectors. Methods to solve this extit{inverse problem} of mapping detector observations to theoretical quantities of the underlying collision are essential parts of many physics analyses at the LHC. We investigate and compare various generative deep learning methods to approximate this inverse mapping. We introduce a novel unified architecture, termed latent variation diffusion models, which combines the latent learning of cutting-edge generative art approaches with an end-to-end variational framework. We demonstrate the effectiveness of this approach for reconstructing global distributions of theoretical kinematic quantities, as well as for ensuring the adherence of the learned posterior distributions to known physics constraints. Our unified approach achieves a distribution-free distance to the truth of over 20 times less than non-latent state-of-the-art baseline and 3 times less than traditional latent diffusion models.

研究动机与目标

• 激励高能物理中的展开（逆问题），并强调从探测器层到真值层的未分箱、维度很高的映射的必要性。
• 提出一个统一的端到端 Variational Latent Diffusion (VLD) 框架，将潜在扩散、变分自编码器与物理信息约束结合。
• 展示在半强子对撞事件中相比基线，全球分布保真度和物理上自洽的后验分布的改进。

提出的方法

• 引入 Variational Latent Diffusion (VLD)，将条件编码器、条件/无条件 VAE 和扩散过程统一为一个目标。
• 采用连续时间、方差保持的扩散，具有可学习的噪声时间表和用于预测原始数据的去噪网络。
• 引入物理信息一致性损失，以强制质量-能量-动量之间的关系 M^2 = E^2 - ||p||^2。
• 探索端到端训练变体：VLD、UC-VLD（无条件解码器）和 C-VLD（有条件编码器/解码器）。
• 将潜在空间条件化为探测器观测，通过一个置换不变的 jet Transformer 编码器和一个潜在的 parton 编码器/解码器。
• 使用多种距离度量（Wasserstein、Energy、KS、KL 64/128/256-bin）对半强子对 t tbar 数据进行评估。

实验结果

研究问题

• RQ1 端到端的变分潜在扩散能否改进高维探测器数据到真值级别的 parton 分布的展开？
• RQ2 条件编码器、VAE 和扩散的联合训练是否比分离组件在分布层保真度和物理一致性方面表现更好？
• RQ3 条件策略（无条件解码器与有条件解码器）对重建质量和后验真实度的影响？
• RQ4 物理信息约束如何影响重建稳定性以及诸如质量、能量和动量等派生量的一致性？
• RQ5 所提出的模型在超出半强子 t tbar 拓扑的粒子物理高维逆问题中的扩展性如何？

主要发现

• VLD 模型在各距离度量上取得最佳性能，UC-VLD 和 VLD 的表现优于基线。
• 条件解码器变体（C-VLD、CVAE）在此设置下使重建变差，表明无条件解码器在推理数据中更稳健。
• 潜在扩散模型（VLD/UC-VLD）优于直接潜在方法（CINN、VDM），端到端训练优于预训练的 LDM。
• VLD 的后验采样更平滑，更接近真实的 parton 配置，能够捕捉诸如双峰中微子η分布等特征。
• 物理信息一致性损失提升稳定性，使预测中的质量-能量-动量关系对齐。
• 在55个组件中，总距离指标显示 VLD/UC-VLD 的距离低于基线，指示更优的全局分布保真度。