[论文解读] Machine-Learning Compression for Particle Physics Discoveries

Jack H. Collins, Yifeng Huang+3 more|arXiv (Cornell University)|Oct 20, 2022

Particle physics theoretical and experimental studies被引用 4

一句话总结

该论文提出了一种基于机器学习的压缩框架，采用带有最优传输的$\beta$-VAE对粒子物理中的完整对撞事件进行有损压缩，可在不同压缩级别下实现高保真重建。该方法保留了用于区分信号模型的判别性特征，超越了部分触发数据的限制，在$\beta \approx 10^{-3}$时实现了区分两个二muon共振信号的AUC > 0.9，展示了其在模型无关新物理发现中的实用性。

ABSTRACT

In collider-based particle and nuclear physics experiments, data are produced at such extreme rates that only a subset can be recorded for later analysis. Typically, algorithms select individual collision events for preservation and store the complete experimental response. A relatively new alternative strategy is to additionally save a partial record for a larger subset of events, allowing for later specific analysis of a larger fraction of events. We propose a strategy that bridges these paradigms by compressing entire events for generic offline analysis but at a lower fidelity. An optimal-transport-based $β$ Variational Autoencoder (VAE) is used to automate the compression and the hyperparameter $β$ controls the compression fidelity. We introduce a new approach for multi-objective learning functions by simultaneously learning a VAE appropriate for all values of $β$ through parameterization. We present an example use case, a di-muon resonance search at the Large Hadron Collider (LHC), where we show that simulated data compressed by our $β$-VAE has enough fidelity to distinguish distinct signal morphologies.

研究动机与目标

• 为解决当前触发系统丢弃大多数事件（尤其是具有复杂或稀有特征的事件）的局限性。
• 通过实现可变保真度的完整事件有损压缩，弥合全事件与部分事件记录策略之间的差距。
• 开发一种机器学习方法，自动学习适用于多种下游分析的压缩表示，而无需重新训练。
• 利用压缩事件数据实现模型无关的新物理情景发现与区分。

提出的方法

• 该方法使用基于2- Wasserstein距离（通过Sinkhorn算法近似）的损失函数的变分自编码器（VAE），实现基于最优传输的重建。
• 输入事件以粒子3-动量矢量（$p_T/HT, \eta, \phi$）的点云形式表示，按每事件总横向动量$H_T$进行归一化。
• VAE通过可调超参数$\beta$控制重建保真度与潜在空间压缩之间的权衡。
• 采用多目标学习策略，使VAE能够同时在所有$\beta$值下有效，避免为每个压缩级别单独训练。
• 编码器采用Deepsets/粒子流网络（PFN），解码器为将潜在码映射回重建事件点云的全连接神经网络。
• 重建损失为$L = \langle S(x,x'(z))/\beta + D_{\text{KL}}(q(z|x)\|p(z)) \rangle_{p(x)}$，其中$S$为Sinkhorn近似的地球移动距离。

实验结果

研究问题

• RQ1 单个参数化VAE模型是否能在不重新训练的情况下，以多种保真度级别压缩完整对撞事件？
• RQ2 压缩后的事件数据是否保留了足够的信息，以区分仅使用部分事件数据时无法区分的两种不同新物理信号模型？
• RQ3 由$\beta$控制的压缩保真度如何影响重建事件在信号分类中的判别能力？
• RQ4 压缩表示的有效信息量（以比特计）是多少？其随$\beta$如何变化？
• RQ5 压缩数据是否能超越标准可观测量（如$H_T$或二muon质量）提升信号与背景的分离效果？

主要发现

• VAE通过可调保真度参数$\beta$实现了有效压缩，其中$\beta \lesssim 10^{-2}$对应有效自由度数量的平台区，表明表示学习稳定。
• 当$\beta \approx 10^{-3}$时，重建事件保留了足够信息，可实现区分两个二muon共振信号模型的AUC > 0.9，显著优于仅使用部分触发数据（AUC = 0.71）。
• 潜在空间中的KL散度随$\beta$增加而减小，热容$C_{\text{KL}}$在$\beta \approx 10^{-4}$处出现急剧下降，表明出现过拟合且泛化能力下降。
• 潜在表示中的有效自由度数量在$\beta \lesssim 10^{-2}$时稳定在$\sim 2C \approx 100$左右，表明事件结构具有稳健且低维的表示。
• 该方法实现了对新物理的模型无关敏感性，尤其在暗喷注等场景中，标准可观测量无法将信号与多喷注背景区分开。
• 将压缩事件数据与$H_T$及二muon质量可观测量结合，可实现超越任一单一可观测量的信号分离效果，展现出协同增益。