[論文レビュー] Adversarial domain adaptation to reduce sample bias of a high energy physics event classifier

Jose M. Clavijo, P. C. F. Glaysher+2 more|arXiv (Cornell University)|Jan 1, 2021

Particle physics theoretical and experimental studies被引用数 3

ひとこと要約

本論文は、LHCにおけるレアな$t\bar{t}H$（H→bb）信号の高エネルギー物理学的イベント分類におけるサンプルバイアスを低減するため、勾配反転層を備えたドメイン adversarial ニューラルネットワーク（DANN）を提案する。信号対バックグラウンドの分類器と、ドメイン特徴量を最小化するドメイン識別器を同時に学習することで、バックグラウンドモデル依存性を低減し、信号純度の不確実性を50%の効率で47%から0.3%に削減する。

ABSTRACT

We apply adversarial domain adaptation in unsupervised setting to reduce sample bias in a supervised high energy physics events classifier training. We make use of a neural network containing event and domain classifier with a gradient reversal layer to simultaneously enable signal versus background events classification on the one hand, while on the other hand minimizing the difference in response of the network to background samples originating from different Monte Carlo models via adversarial domain classification loss. We show the successful bias removal on the example of simulated events at the Large Hadron Collider with signal versus background classification and discuss implications and limitations of the method.

研究の動機と目的

• モンテカルロシミュレーションで異なるバックグラウンドモデルを用いて訓練された高エネルギー物理学分類器におけるサンプルバイアスの課題に対処すること。
• 訓練時に使用された特定のバックグラウンドモデルに分類器が依存するのを軽減し、それによって測定における大きな不確実性が生じるのを防ぐこと。
• ラベルなしのターゲットデータを必要とせず、実際の衝突データへの非教師付きドメイン適応を可能にすること。
• 複雑で高次元の物理学データにおける adversarial ドメイン適応のハイパーパramータと訓練安定性の影響を調査すること。
• ドメイン不変表現を学習しつつ分類性能を維持できるかを、現実的なLHC物理学のユースケースにおいて実証すること。

提案手法

• 共有の特徴抽出器と、信号/バックグラウンド分類用とドメイン分類用（バックグラウンドモデル）の2つの別々のブランチを持つ深層ニューラルネットワークを実装する。
• 特徴抽出器とドメイン分類器の間に勾配反転層（GRL）を統合し、逆方向に勾配をバックプロパゲートすることで、特徴抽出器がドメイン不変表現を学習するよう促進する。
• ラベル付きソースデータ（シミュレーテッドイベント）とラベルなしターゲットデータ（代替MCバックグラウンドモデル）を用い、分類とドメイン適応をバランスさせる組み合わせ損失関数で、エンドツーエンドでネットワークを訓練する。
• ドメイン分類器に線形活性化関数と損失関数を用いることで、訓練の安定性と収束性を向上させる。
• ラベルなしのターゲットデータを必要としない手順を用いて、ラベル分類器に与えるドメイン分類器の影響を制御するハイパーパramータ$\lambda$の最適化を行う。
• 信号純度、中央値の有意水準、ROC曲線下の面積といった物理学的関連指標を用いて性能を評価し、適応ありと適応なしのモデルを比較する。

実験結果

リサーチクエスチョン

• RQ1 高エネルギー物理学的イベント分類において、モンテカルロバックグラウンドモデルの違いによって生じる分類器バイアスを、adversarial ドメイン適応が効果的に低減できるか。
• RQ2 ハイパーパramータ、特に$\lambda$の選択が、ドメイン適応訓練プロセスの性能と安定性に与える影響は。
• RQ3 ラベルなしのターゲットデータを前提に、高次元の物理学的ジェット特性からどれほどドメイン不変特徴を学習できるか。
• RQ4 ラベル分布シフト（例えば、ソースとターゲットドメインにおける信号対バックグラウンド比の違い）が、非教師付きドメイン適応の成功に与える影響は。
• RQ5 本手法を、複数の代替バックグラウンドモデルや他の不確実性要因を一度の訓練で扱えるように拡張できるか。

主な発見

• 提案されたドメイン adversarial ネットワークは、信号効率50%の条件下で、バックグラウンドモデルの選択による信号純度の不確実性を47%から0.3%にまで低減し、測定感度を顕著に向上させた。
• ドメイン適応後でも元の分類性能の大部分を維持しており、AUC ≈ 0.95という高いROC曲線下の面積を達成した。
• ドメイン分類器に非線形関数ではなく線形活性化関数と損失関数を用いることで、訓練の安定性と収束性が顕著に向上した。
• 実データにおける信号対バックグラウンド比の正確な推定がなければ、ラベル分布シフトのため、分類にわずかな残存バイアスが生じる可能性があることが示され、主な制限要因となった。
• 複数ドメインへの拡張は有望であるが、データ分布シフトとラベル分布シフトの両方を同時に処理することは、未解決の課題のまま残っている。
• 本ケースでは、データとラベルシフトの両方を同時に適応するための疑似ラベル化アプローチが不十分であることが判明し、実際の衝突データへの非教師付き適応を完全に実現するには、より高度なアーキテクチャの必要性が示唆された。