[論文レビュー] Do graph neural networks learn traditional jet substructure?

Farouk Mokhtar, R. Kansal+1 more|arXiv (Cornell University)|Nov 17, 2022

Particle physics theoretical and experimental studies被引用数 5

ひとこと要約

この論文は、粒子物理学における伝統的なジェットの部分構造観測量（例：トップクォークジェットのプリング数）が、Graph Neural Networks (GNNs)、特にParticleNetによって学習されるかを調査する。層別重要度プロパゲーション（LRP）を用いて、著者らは訓練済みのParticleNetモデルが、特に三本のプリングを持つトップクォークジェットにおいて、異なる部分ジェットを接続するエッジを優先して学習していることを示した。これは、モデルが知られている物理的基盤の部分構造特徴を暗黙的かつ効果的に学習・利用していることを示している。

ABSTRACT

At the CERN LHC, the task of jet tagging, whose goal is to infer the origin of a jet given a set of final-state particles, is dominated by machine learning methods. Graph neural networks have been used to address this task by treating jets as point clouds with underlying, learnable, edge connections between the particles inside. We explore the decision-making process for one such state-of-the-art network, ParticleNet, by looking for relevant edge connections identified using the layerwise-relevance propagation technique. As the model is trained, we observe changes in the distribution of relevant edges connecting different intermediate clusters of particles, known as subjets. The resulting distribution of subjet connections is different for signal jets originating from top quarks, whose subjets typically correspond to its three decay products, and background jets originating from lighter quarks and gluons. This behavior indicates that the model is using traditional jet substructure observables, such as the number of prongs -- energetic particle clusters -- within a jet, when identifying jets.

研究の動機と目的

• 最新のグラフニューラルネットワーク（例：ParticleNet）が、高エネルギー物理学で用いられる伝統的なジェット部分構造観測量を学習するかを調査すること。
• 学習済みのグラフエッジの重要度を分析することで、ParticleNetのトップクォークジェット分類における意思決定プロセスを理解すること。
• モデルの注目メカニズムが、ジェット内のプリング数といった既知の物理的特徴と整合しているかを特定すること。
• モデルが学習した接続パターンが、トップクォークジェットとQCDジェットの間で知られている部分構造の違いを反映しているかを評価すること。
• 層別重要度プロパゲーション（LRP）のような説明可能なAI（XAI）技術を用いて、素粒子物理学におけるGNNの解釈可能性を評価すること。

提案手法

• 14 TeVのトップクォーク崩壊およびQCD二ジェットからなるベンチマークデータセットを用いて、1ジェットあたり200個の主要成分を持つParticleNetモデルを訓練した。
• 層別重要度プロパゲーション（LRP）を適用し、グラフ内のエッジに重要度スコアを割り当て、モデルの予測に最も影響を与える粒子間接続を同定した。
• 部分構造依存性を評価するために、異なるN値に対して、最も重要なN個のエッジのうち、異なる部分ジェットを接続するもの（すなわち、部分ジェット間エッジ）の割合を計算した。
• 部分ジェットの定義には、R=0.8のanti-kTアルゴリズムを用い、一貫性のある部分構造同定を可能にした。
• 訓練前と訓練済みモデルのエッジ重要度分布を比較し、学習過程での接続パターンの変化を観察した。
• 統計的安定性を確保するため、10個のランダム初期化された未訓練モデルと1つの完全に訓練済みモデルの平均をとった。

実験結果

リサーチクエスチョン

• RQ1 トップクォークジェットとQCDジェットを分類する際、ParticleNet GNNは異なる部分ジェットを接続するエッジを、QCDジェットよりも優先的に学習するか？
• RQ2 学習過程で、関連するエッジの分布はどのように変化するのか？ また、これは既知の部分構造の違いを反映しているか？
• RQ3 モデルの最も関連性の高いエッジが、ジェット内のプリング数といった物理的観測量とどの程度一致するか？
• RQ4 モデルの注目が、トップクォークジェットにおける三本のプリング部分構造の有無と相関しているか？
• RQ5 LRPに基づく解釈可能性は、N-サブジェットネスやエネルギー相関関数といった物理的インフォームド特徴を、モデルが暗黙的に学習していることを明らかにできるか？

主な発見

• 訓練済みのParticleNetモデルは、QCDジェットと比較して、トップクォークジェット分類において、異なる部分ジェットを接続するエッジに高い重要度を割り当てるよう学習している。
• モデルの学習が進むにつれ、トップクォークジェットにおいて、最も重要なN個のエッジのうち部分ジェット間エッジを占める割合が顕著に増加し、部分構造に配慮した接続性が学習されていることが示された。
• トップクォークジェットの関連エッジ分布は、QCDジェットと比較して、接続された粒子間の平均ΔR隔たりが大きいことが分かった。これは、既知の三本プリング部分構造と整合している。
• 未訓練モデルでは、トップクォークジェットとQCDジェットの両方においてエッジ重要度が類似した扱いを受けるが、訓練を経て初めてその差が現れる。
• モデルが学習したエッジ重要度パターンは、プリング数やN-サブジェットネスといった従来の部分構造観測量と整合的である。
• 結果から、ParticleNetが、従来のジェット部分構造解析の中心的である物理的インフォームド特徴を、暗黙的かつ効果的に学習・利用していることが示された。