[論文レビュー] PELICAN: Permutation Equivariant and Lorentz Invariant or Covariant Aggregator Network for Particle Physics

Alexander Bogatskiy, Timothy J. Hoffman+2 more|arXiv (Cornell University)|Nov 1, 2022

Computational Physics and Python Applications被引用数 10

ひとこと要約

PELICAN は、ペairwise 4 モーメンタム内積を入力として用いることで、置換等変性およびローレンツ不変性／共変性を強制する、素粒子物理学向けの新しいニューラルネットワークアーキテクチャである。既存の手法と比較して顕著に低いモデル複雑度で、トップクォークジェットタギングおよび W ボソン 4 モーメンタム再構成で最先端の性能を達成している。

ABSTRACT

Many current approaches to machine learning in particle physics use generic architectures that require large numbers of parameters and disregard underlying physics principles, limiting their applicability as scientific modeling tools. In this work, we present a machine learning architecture that uses a set of inputs maximally reduced with respect to the full 6-dimensional Lorentz symmetry, and is fully permutation-equivariant throughout. We study the application of this network architecture to the standard task of top quark tagging and show that the resulting network outperforms all existing competitors despite much lower model complexity. In addition, we present a Lorentz-covariant variant of the same network applied to a 4-momentum regression task.

研究の動機と目的

• 素粒子物理学における基本的対称性、特にローレンツ不変性および置換等変性を尊重する機械学習アーキテクチャの開発。
• ネットワークアーキテクチャに物理的制約を直接埋め込むことでモデル複雑度を低減し、解釈可能性と一般化性能を向上。
• 高パラメータ数アーキテクチャに依存せずに、ジェットタギングおよび 4 モーメンタム再構成タスクで既存の汎用的ディープラーニングモデルを上回る性能を達成。
• 検出器効果が存在する中でも、トップクォーク崩壊ジェットから W ボソン 4 モーメンタムを正確に再構成可能にする。
• 対称性に配慮したアーキテクチャが、標準的なディープラーニング手法と比較して少ないパラメータで優れた性能を達成できることを示すこと。

提案手法

• ネットワークは、ジェット成分の 4 モーメンタムベクトルから導出される、ローレンツ不変なペアワイズ内積 $p_i \cdot p_j$ の完全な集合を入力特徴として使用。
• Ref. [7, 19] の一般的なフレームワークに基づく置換等変性層を採用し、粒子順序の置換に対して等変性を保証。
• 等変性を複数層にわたって維持するメッセージパッシングに類似した集約スキームを採用し、高次相互作用のモデリングを可能に。
• 回帰タスクでは、トップクォーク崩壊からの W ボソンの全 4 モーメンタムを予測し、$p_T$、質量、角度分解能に基づく損失関数を用いる。
• 標準的な最適化を用いてエンドツーエンドで訓練し、パラメータ数を少なく（回帰タスクで 36k）、対称性を活用して容量を低減。
• 真値データおよび DELPHES でシミュレートされた検出器レベルデータの両方で評価し、実験的効果への耐性を評価。

実験結果

リサーチクエスチョン

• RQ1 ローレンツ不変性および置換等変性を強制するニューラルネットワークアーキテクチャが、モデル複雑度を低減しつつジェットタギングで最先端の性能を達成できるか？
• RQ2 対称性に配慮した設計は、汎用的ディープラーニングモデルと比較して、素粒子物理学タスクにおける一般化性能および耐性をどのように向上させるか？
• RQ3 このような対称性を尊重するアーキテクチャは、トップクォーク崩壊ジェットから W ボソンの 4 モーメンタムを正確に再構成できるか？
• RQ4 不変内積を入力として用いることで、集約段階における複雑で幅広い全結合層の必要性が排除できるか？
• RQ5 PELICAN の性能は、モーメンタム再構成において、有名な非 ML 手法（ジョンズ・ホプキンス・タッガー）と比較してどうなるか？

主な発見

• PELICAN はたった 12k パラメータで最先端のジェットタギング性能を達成し、競合モデルと比べて顕著に少ない。
• 検出器シミュレーションなしのモーメンタム再構成では、$\sigma_{p_T} = 0.83\%$ および $\sigma_m = 1.21\%$ を達成し、同じデータでジョンズ・ホプキンス・タッガー（$\sigma_{p_T} = 0.70\%$, $\sigma_m = 1.29\%$）を上回った。
• 完全に含まれるジェットのサブセットでは、全結合ベースラインと比較して $\sigma_{p_T} = 0.32\%$ および $\sigma_m = 0.76\%$ を達成。
• DELPHES でシミュレートされた検出器効果を考慮した場合、$p_T$ 分解能誤差を JH の 10.8% から 5.6% に、質量分解能を 8.3% から 3.2% に低減。
• 検出器効果に対しても高い性能を維持し、角度分解能では $\sigma_{\psi} = 4.2$ センチラジアンを達成（JH ベースラインは 8.9）。
• JH タグged サブセットでは $\sigma_{p_T} = 0.28\%$ を達成し、元のタッガーを上回る精度でのモーメンタム再構成が可能であることが示された。