[論文レビュー] Machine-Learning Compression for Particle Physics Discoveries

Jack H. Collins, Yifeng Huang+3 more|arXiv (Cornell University)|Oct 20, 2022

Particle physics theoretical and experimental studies被引用数 4

ひとこと要約

本稿では、最適輸送を用いた$\beta$-VAEを用いて、素粒子物理学における全イベントの損失あり圧縮を機械学習ベースのフレームワークで提案し、さまざまな圧縮レベルにおいて高精度な再構成を可能にしている。この手法により、部分的トリガー情報にとどまらない、信号モデルの識別に有用な特徴を保持でき、$\beta \approx 10^{-3}$の条件下で二つのディミュオン共鳴状態信号を区別するAUC >0.9を達成し、モデルに依存しない新物理発見の有効性を示している。

ABSTRACT

In collider-based particle and nuclear physics experiments, data are produced at such extreme rates that only a subset can be recorded for later analysis. Typically, algorithms select individual collision events for preservation and store the complete experimental response. A relatively new alternative strategy is to additionally save a partial record for a larger subset of events, allowing for later specific analysis of a larger fraction of events. We propose a strategy that bridges these paradigms by compressing entire events for generic offline analysis but at a lower fidelity. An optimal-transport-based $β$ Variational Autoencoder (VAE) is used to automate the compression and the hyperparameter $β$ controls the compression fidelity. We introduce a new approach for multi-objective learning functions by simultaneously learning a VAE appropriate for all values of $β$ through parameterization. We present an example use case, a di-muon resonance search at the Large Hadron Collider (LHC), where we show that simulated data compressed by our $β$-VAE has enough fidelity to distinguish distinct signal morphologies.

研究の動機と目的

• 現在のトリガーシステムが多数のイベントを破棄するという制限を克服すること。
• 全イベント記録と部分イベント記録の戦略の間のギャップを埋めるために、可変な忠実度で全イベントの損失あり圧縮を可能にすること。
• 再トレーニングが不要な複数の下流解析に適した圧縮表現を自動で学習する機械学習手法を開発すること。
• 圧縮されたイベントデータを用いて、モデルに依存しない新物理のシナリオの同定と識別を可能にすること。

提案手法

• この手法は、Sinkhornアルゴリズムを用いて近似された2-Wasserstein距離に基づく損失関数を用いた変分オートエンコーダー（VAE）を採用し、最適輸送に基づく再構成を可能にしている。
• 入力イベントは、各イベントごとに全横運動量$H_T$で正規化された粒子3ベクトル（$p_T/HT, \eta, \phi$）の点群として表現される。
• VAEは、再構成忠実度と潜在空間の圧縮のトレードオフを制御する調整可能なハイパーパrameter $\beta$ を用いて訓練される。
• 複数の目的の学習戦略により、VAEは同時にすべての$\beta$値に対して有効であるようにパrameter化され、各圧縮レベルごとに別々にトレーニングする必要がなくなる。
• エンコーダーはDeepsets/粒子フローネットワーク（PFN）であり、デコーダーは潜在コードを再構成されたイベント点群に戻す全結合ニューラルネットワークである。
• 再構成損失は$L = \langle S(x,x'(z))/\beta + D_{\text{KL}}(q(z|x)\|p(z)) \rangle_{p(x)}$ であり、$S$ はSinkhorn近似による地球移動距離（Earth Mover's Distance）を表す。

実験結果

リサーチクエスチョン

• RQ1 再トレーニングが不要な状態で、1つのパrameter化されたVAEモデルが複数の忠実度レベルで全コライダーイベントを圧縮できるか？
• RQ2 圧縮されたイベントデータが、部分的イベントデータでは区別できない2つの異なる新物理信号モデルを区別するのに十分な情報を保持できるか？
• RQ3 $\beta$ で制御される圧縮忠実度が、信号分類のための再構成イベントの識別力にどのように影響するか？
• RQ4 圧縮表現の有効な情報量（ビット単位）は何か？また、$\beta$ とともにどのようにスケーリングされるか？
• RQ5 圧縮データは、$H_T$ やディミュオン質量といった標準的観測量を超えて、信号と背景の分離を改善できるか？

主な発見

• VAEは調整可能な忠実度パrameter $\beta$ を用いた有効な圧縮を達成しており、$\beta \lesssim 10^{-2}$ の場合、有効な自由度の数に plateau が見られ、安定した表現学習を示している。
• $\beta \approx 10^{-3}$ の場合、再構成されたイベントは、二つのディミュオン共鳴状態信号モデルをAUC > 0.9で区別できる十分な情報を保持しており、部分的トリガーデータのみではAUC = 0.71にとどまるのと比べて顕著に優れている。
• 潜在空間におけるKLダイバージェンスは$\beta$の増加に伴い減少し、熱容量$C_{\text{KL}}$は$\beta \approx 10^{-4}$で急激に低下し、過学習と一般化能力の喪失を示している。
• $\beta \lesssim 10^{-2}$ の場合、潜在表現における有効な自由度の数は$\sim 2C \approx 100$に安定し、イベント構造の強固で低次元の表現であることを示唆している。
• この手法により、特に標準的観測量が多ジェット背景と信号を区別できない「ダークシャワー」のようなシナリオにおいて、新物理に対するモデルに依存しない感度が可能になる。
• 圧縮されたイベントデータと$H_T$、ディミュオン質量の観測量を組み合わせることで、単一の観測量を超える信号分離が達成され、相乗効果の有効性が示された。