[論文レビュー] Creating Simple, Interpretable Anomaly Detectors for New Physics in Jet Substructure

Layne Bradshaw, Spencer Chang+1 more|arXiv (Cornell University)|Mar 2, 2022

Anomaly Detection Techniques and Applications参考文献 95被引用数 30

ひとこと要約

本論文は、エネルギーフローテンソル多項式（EFPs）を用いて自己符号化器ベースの異常検出器の意思決定を蒸留することで、畳み込み自己符号化器に基づくジェット部分構造における解釈可能で高水準の観測可能な代替モデルを2つ提案する。直接異常スコアを学習する戦略と、2つのイベントの順序を学習する戦略の両方とも、バックグラウンドイベントにおいて自己符号化器と約83％の一致を示し、8つの信号モデルのうち7つにおいて自己符号化器を上回る性能を発揮する。これにより、解釈可能な検出器が性能を犠牲にすることなく、複雑なブラックボックスモデルに匹敵することが示された。

ABSTRACT

Anomaly detection with convolutional autoencoders is a popular method to search for new physics in a model-agnostic manner. These techniques are powerful, but they are still a "black box," since we do not know what high-level physical observables determine how anomalous an event is. To address this, we adapt a recently proposed technique by Faucett et al., which maps out the physical observables learned by a neural network classifier, to the case of anomaly detection. We propose two different strategies that use a small number of high-level observables to mimic the decisions made by the autoencoder on background events, one designed to directly learn the output of the autoencoder, and the other designed to learn the difference between the autoencoder's outputs on a pair of events. Despite the underlying differences in their approach, we find that both strategies have similar ordering performance as the autoencoder and independently use the same six high-level observables. From there, we compare the performance of these networks as anomaly detectors. We find that both strategies perform similarly to the autoencoder across a variety of signals, giving a nontrivial demonstration that learning to order background events transfers to ordering a variety of signal events.

研究の動機と目的

• 深層学習ベースの異常検出器の『ブラックボックス』的性質を解消し、その意思決定を解釈可能にする。
• 生ジェット画像ではなく、少数の高水準観測量に依存する、モデルに依存しない解釈可能な異常検出手法を開発する。
• バックグラウンドイベントにおける意思決定の順序が、信号イベントへと伝搬するかを検証し、実験的解析における実用的で妥当な異常検出を可能にする。
• 単純で人間が読みやすいモデルが、複雑な自己符号化器と同等またはそれ以上の性能を示すかを実証する。

提案手法

• QCDバックグラウンドのジェット画像のみで訓練された畳み込み自己符号化器を、ターゲットの異常検出器として用いる。
• エネルギーフローテンソル多項式（EFP）の基底から得られる高水準観測量を用いて、2種類の解釈可能なモララー・ネットワークを学習する、知識蒸留に類似したアプローチを採用する。
• 高水準ネットワークは、少数のEFPを入力として、自己符号化器の異常スコアを直接予測する。
• ペアドニューラルネットワークは、異なる（ただし重複する）EFPのセットを用いて、自己符号化器の基準に従い、2つのイベントのうちどちらがより異常でないかを予測することで、イベントの順序を学習する。
• 自己符号化器のバックグラウンド意思決定順序を最もよく再現するEFPの組み合わせを特定するための反復的選択手順を採用する。
• 両方のモララー・ネットワークをバックグラウンドイベントのみで教師なしに訓練することで、未観測の信号モデルへの一般化を保証する。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックスな自己符号化器ベースの異常検出器の意思決定を、少数の解釈可能な高水準観測量に蒸留することは可能か？
• RQ2 バックグラウンドイベントで訓練されたモララー・ネットワークが、多様な信号モデルにおいても自己符号化器と同等の意思決定順序を保持するか？
• RQ3 異常検出の行動を捉えるために、どの高水準観測量が最も重要か？
• RQ4 解釈可能で単純なモデルが、新物理信号の検出において元の自己符号化器を上回ることができるか？
• RQ5 自己符号化器がバックグラウンドイベントで示す性能が、透明なモデルに蒸留された際に、信号イベントでの性能の予測に役立つか？

主な発見

• 両方のモララー戦略とも、バックグラウンドイベントの順序付けにおいて自己符号化器と約83％の一致を示し、意思決定の忠実度が非常に高いことが示された。
• 高水準ネットワークとペアドニューラルネットワークは、独立して同じ6つの主要なEFPを、異常検出に最も有用な観測量として同定した。
• モララー・ネットワークは、テストされた8つの新物理信号のうち7つにおいて、元の自己符号化器を上回る性能を発揮し、バックグラウンドの意思決定順序の転送が可能であることを示した。
• わずか6つのEFPのみを用いることで、高い性能の異常検出が可能となり、モデルの複雑さは著しく低下し、解釈可能性が向上した。
• 結果から、自己符号化器の潜在空間が、ジェット部分構造の複雑さといった物理的に意味のある特徴を捉えていることが裏付けられ、これらは単純で人間が読みやすい観測量によって再構築可能であることが明らかになった。
• 研究により、バックグラウンドイベントにおける教師なし異常検出の性能が、解釈可能なモデルを通じて信号検出に効果的に転送可能であることが確認された。