[论文解读] Do graph neural networks learn traditional jet substructure?

Farouk Mokhtar, R. Kansal+1 more|arXiv (Cornell University)|Nov 17, 2022

Particle physics theoretical and experimental studies被引用 5

一句话总结

本文研究了图神经网络（GNNs），特别是ParticleNet，是否学习到高能物理中传统的喷射子结构可观测量，如顶夸克喷射中喷射数（prong count）等。通过逐层显著性传播（LRP），作者表明训练后的ParticleNet模型会优先关注连接不同次喷射的边——尤其是在三喷射顶夸克喷射中——证明该模型隐式地学习并利用了已知的基于物理的子结构特征。

ABSTRACT

At the CERN LHC, the task of jet tagging, whose goal is to infer the origin of a jet given a set of final-state particles, is dominated by machine learning methods. Graph neural networks have been used to address this task by treating jets as point clouds with underlying, learnable, edge connections between the particles inside. We explore the decision-making process for one such state-of-the-art network, ParticleNet, by looking for relevant edge connections identified using the layerwise-relevance propagation technique. As the model is trained, we observe changes in the distribution of relevant edges connecting different intermediate clusters of particles, known as subjets. The resulting distribution of subjet connections is different for signal jets originating from top quarks, whose subjets typically correspond to its three decay products, and background jets originating from lighter quarks and gluons. This behavior indicates that the model is using traditional jet substructure observables, such as the number of prongs -- energetic particle clusters -- within a jet, when identifying jets.

研究动机与目标

• 研究最先进的图神经网络（如ParticleNet）是否学习到高能物理中用于喷射子结构分析的传统可观测量。
• 通过分析学习到的图边的显著性，理解ParticleNet在顶夸克喷射分类中的决策过程。
• 确定模型的注意力机制是否与已知的物理特征（如喷射中的喷射数）一致。
• 评估模型学习到的连接模式是否反映了顶夸克喷射与QCD喷射之间已知的子结构差异。
• 使用可解释人工智能（XAI）技术（如逐层显著性传播，LRP）评估GNN在粒子物理中的可解释性。

提出的方法

• 在14 TeV的顶夸克衰变喷射和QCD二喷射的基准数据集上训练ParticleNet模型，每喷射包含200个主要成分。
• 应用逐层显著性传播（LRP）为图中的边分配显著性分数，识别出对模型预测影响最大的粒子连接。
• 计算在不同N值下，连接不同次喷射的边（即次喷射间边）占N个最相关边的比例，以评估子结构依赖性。
• 使用反-kT算法（R=0.8）从喷射成分中定义次喷射，以实现一致的子结构识别。
• 对比未训练和训练后模型的边显著性分布，观察训练过程中连接模式的变化。
• 对10个随机初始化的未训练模型和一个完全训练的模型取平均，以确保统计稳健性。

实验结果

研究问题

• RQ1 与QCD喷射相比，ParticleNet GNN在分类顶夸克喷射时是否学会优先关注连接不同次喷射的边？
• RQ2 在训练过程中，相关边的分布如何变化？其变化是否反映了已知的子结构差异？
• RQ3 模型中最相关的边在多大程度上对应于物理可观测量（如喷射中的喷射数）？
• RQ4 模型对次喷射间边的注意力是否与顶夸克喷射中三喷射子结构的存在相关？
• RQ5 基于LRP的可解释性分析能否揭示模型隐式学习到如N-子喷射性（N-subjettiness）或能量关联函数等物理启发特征？

主要发现

• 训练后的ParticleNet模型在分类顶夸克喷射时，会为连接不同次喷射的边分配更高的显著性，相较于QCD喷射。
• 随着模型训练，对于顶夸克喷射，N个最相关边中连接不同次喷射的边的比例显著增加，表明模型学习到了子结构感知的连接模式。
• 顶夸克喷射的相关边分布显示，相连粒子之间的平均ΔR分离度高于QCD喷射，与已知的三喷射子结构一致。
• 未训练模型在边显著性方面对顶夸克喷射和QCD喷射的处理方式相似，但这种差异仅在训练后显现。
• 模型学习到的边显著性模式与传统子结构可观测量（如喷射数、N-子喷射性）一致。
• 结果表明，ParticleNet隐式地学习并利用了对传统喷射子结构分析至关重要的物理启发特征。