[论文解读] Explainable Equivariant Neural Networks for Particle Physics: PELICAN

Alexander Bogatskiy, Timothy J. Hoffman+3 more|arXiv (Cornell University)|Jul 31, 2023

Particle physics theoretical and experimental studies被引用 5

一句话总结

PELICAN 是一种基于对称性设计的排列等变且洛伦兹不变的神经网络架构，专为粒子物理学而开发，在喷注子结构任务中实现了最先进性能，包括顶夸克标记、夸克-胶子区分以及四维动量回归，且参数量远少于同类模型，同时通过物理启发的架构设计实现了高度可解释性。

ABSTRACT

PELICAN is a novel permutation equivariant and Lorentz invariant or covariant aggregator network designed to overcome common limitations found in architectures applied to particle physics problems. Compared to many approaches that use non-specialized architectures that neglect underlying physics principles and require very large numbers of parameters, PELICAN employs a fundamentally symmetry group-based architecture that demonstrates benefits in terms of reduced complexity, increased interpretability, and raw performance. We present a comprehensive study of the PELICAN algorithm architecture in the context of both tagging (classification) and reconstructing (regression) Lorentz-boosted top quarks, including the difficult task of specifically identifying and measuring the $W$-boson inside the dense environment of the Lorentz-boosted top-quark hadronic final state. We also extend the application of PELICAN to the tasks of identifying quark-initiated vs.~gluon-initiated jets, and a multi-class identification across five separate target categories of jets. When tested on the standard task of Lorentz-boosted top-quark tagging, PELICAN outperforms existing competitors with much lower model complexity and high sample efficiency. On the less common and more complex task of 4-momentum regression, PELICAN also outperforms hand-crafted, non-machine learning algorithms. We discuss the implications of symmetry-restricted architectures for the wider field of machine learning for physics.

研究动机与目标

• 开发一种显式尊重粒子物理学过程中固有的排列对称性和洛伦兹对称性的机器学习架构。
• 通过将基本物理对称性嵌入网络架构，降低模型复杂度并提升喷注子结构任务中的可解释性。
• 在洛伦兹Boost的顶夸克衰变中实现对衰变产物（如W玻色子）四维动量的高精度回归，该任务此前未被机器学习方法解决。
• 在顶夸克标记和夸克-胶子标记任务中以极少参数实现卓越性能，尤其在IRC安全变体中表现突出。
• 为粒子物理学应用提供一种通用、可解释的框架，超越喷注子结构任务，涵盖轨迹重建与事例级分析。

提出的方法

• PELICAN 使用排列等变且洛伦兹协变的聚合网络，以粒子级四维动量作为输入，确保在粒子排列和洛伦兹变换下保持不变性。
• 该架构采用可学习的、尊重对称性的聚合层，替代标准的全连接层或注意力机制，从而减少参数量并增强可解释性。
• 为实现IRC安全性，网络在聚合器中使用洛伦兹不变的Soft Drop多重性作为加权因子，提升对共线和红外发散的鲁棒性。
• 模型端到端训练用于分类（标记）和回归（四维动量重建），损失函数根据每项任务量身定制。
• 通过将学习到的权重解释为物理可观测量，增强可解释性，实现对模型决策的直接粒子级分析。
• 该框架已扩展至五类喷注的多分类喷注识别任务，证明其在二分类任务之外的泛化能力。

Figure 1: The 15 binary arrays of rank $4$ that represent the basis elements of the permutation equivariant aggregators of PELICAN.

实验结果

研究问题

• RQ1 一种显式编码排列对称性和洛伦兹对称性的神经网络架构，是否能在喷注子结构任务中以显著更少的参数量超越通用模型？
• RQ2 通过对称性感知设计强制实现IRC安全性，在不损失性能的前提下，能在多大程度上提升对共线和红外分裂的鲁棒性？
• RQ3 PELICAN是否能在具有挑战性的任务中实现最先进性能，即在洛伦兹Boost的顶夸克喷注中重建W玻色子的四维动量？
• RQ4 PELICAN学习到的权重的可解释性与标准深度学习模型相比如何？能否直接关联到物理可观测量？
• RQ5 该对称性约束的架构能否推广至其他粒子物理学任务，如夸克-胶子标记和多分类喷注识别？

主要发现

• PELICAN 在仅使用数百个参数的情况下，实现了洛伦兹Boost顶夸克标记的最先进性能，与现有方法相比显著降低了模型复杂度。
• 在W玻色子四维动量回归任务中，PELICAN 在横向动量上达到6.8%的分辨率，质量分辨率为8.5%，ΔR分辨率为3.1 centirad，与非IRC安全基线相比仅相差约10%。
• IRC安全变体的PELICAN在顶夸克标记和夸克-胶子标记任务中保持高性能，与非IRC安全版本相比仅出现3–10%的性能下降。
• 在五类喷注的多分类识别任务中，PELICAN 展现出强大的泛化能力和优异性能，凸显其在二分类任务之外的灵活性。
• 模型学习到的权重可直接解释为物理可观测量，实现了利用机器学习对喷注子结构进行前所未有的粒子级分析。
• 即使在IRC分裂扰动（如将一束粒子分裂为两个）下，IRC安全的PELICAN模型仅表现出10–25%的性能下降，显著优于非IRC安全的基线模型。

Figure 2: The PELICAN equivariant block updating square arrays.