[論文レビュー] Anomaly Awareness

Charanjit K. Khosa, Verónica Sanz|arXiv (Cornell University)|Jul 20, 2020

Particle physics theoretical and experimental studies被引用数 14

ひとこと要約

本論文では、異常検出を向上させるために、通常のデータで分類器を訓練するとともに、修正されたコスト関数を介して多様な異常を損失関数に明示的に組み込むことで、異常認識（Anomaly Awareness）と呼ばれるハイブリッド機械学習手法を導入する。この手法は、素粒子物理学およびコンピュータビジョンのタスクにおいて、以前に観測されていない異常を検出する際のロバスト性を向上させ、LHCのジェットトポロジーおよびMNISTベースのベンチマークで、異常タイプに関する最小限の事前知識で優れた性能を示す。

ABSTRACT

We present a new algorithm for anomaly detection called Anomaly Awareness. The algorithm learns about normal events while being made aware of the anomalies through a modification of the cost function. We show how this method works in different Particle Physics situations and in standard Computer Vision tasks. For example, we apply the method to images from a Fat Jet topology generated by Standard Model Top and QCD events, and test it against an array of new physics scenarios, including Higgs production with EFT effects and resonances decaying into two, three or four subjets. We find that the algorithm is effective identifying anomalies not seen before, and becomes robust as we make it aware of a varied-enough set of anomalies.

研究の動機と目的

• 従来の教師ありおよび教師なし異常検出手法には、既知の異常が未知の新規現象に一般化できないという限界があることに対処すること。
• モデルに依存しないハイブリッド学習フレームワークを構築し、教師ありおよび教師なし学習の要素を組み合わせることで、未知の異常の検出を向上させること。
• LHC探索における特定の新物理シナリオに関する事前仮定への依存度を低減し、よりロバストでモデルに依存しない異常検出を可能にすること。
• LHCのジェットトポロジーおよび標準的なコンピュータビジョンベンチマーク（例：MNIST）を含む多様な分野で、この手法の有効性を検証すること。
• トレーニング中に多様な異常タイプに「意識」を向けることで、新規異常の検出における一般化性能とロバスト性が向上することを示すこと。

提案手法

• 本手法は、通常のイベントのみを用いた事前分類実行から始まり、ニューラルネットワークを用いて2つの通常の過程（例：標準模型のトップ対QCDジェット）を区別するように訓練する。
• その後の「異常認識トレーニング」段階では、通常および異常イベントを含む修正されたコスト関数を用いてモデルをファインチューニングする。この際、異常例の影響を制御するハイパーパrameter λAA を用いる。
• 損失関数は、異常を誤分類するのをより強く罰するように調整され、これによりモデルが異常スコアを通常クラスの境界から遠ざけ、潜在空間内の明確な別領域へと押しやるよう促される。
• アーキテクチャは入力タイプに応じて調整される：ジェット画像には畳み込みニューラルネットワーク（CNN）、ヒッグスボソン崩壊シナリオにおける運動量特徴ベクトルには全結合ネットワークを適用する。
• 分類器の出力確率分布を異常スコアの代理として用い、通常クラスの信頼度から逸脱するか、不確実性が高い場合に異常とみなす。
• 本手法は、LHCベースのシミュレーション（太いジェットトポロジー、ヒッグス＋光子＋ジェット）および標準ベンチマーク（MNIST、CIFAR-10、fMNIST）を用いて検証され、分野を越えた一般化性能が評価される。

実験結果

リサーチクエスチョン

• RQ1 通常のイベントで訓練された機械学習モデルが、トレーニング中に多様な異常タイプに明示的に「意識」させられることで、以前に観測されていない異常を検出する能力が向上するか？
• RQ2 トレーニングプロセスに複数の異常タイプを組み込むことで、モデルの新規異常検出における一般化能力はどのように変化するか？
• RQ3 異常認識手法は、LHCにおけるモデルに依存しない探索において、標準的な教師ありおよび教師なし異常検出手法をどの程度上回るか？
• RQ4 本手法は、MNIST や CIFAR-10 といった非物理的データセットに対しても有効性を維持するか。これは、分野を越えた適用可能性を示す。
• RQ5 ハイパーパrameter λAA は、異なるシナリオにおけるモデルの異常検出感度およびロバスト性にどのように影響を与えるか？

主な発見

• 異常認識アルゴリズムは、EFT効果を伴うヒッグス生成や、2〜4個のサブジェットに崩壊する共鳴状態を含む新物理シナリオからの太いジェットトポロジーにおいて、異常を効果的に同定し、ベースラインモデルを上回る性能を示した。
• 1つの異常タイプ（例：ZH生成）で訓練した場合、異常スコア分布に顕著なシフトが観察され、検出能力の向上が示された。
• 2つ以上の異常タイプ（例：ZH、axion、graviton）を組み込むことで、さらにロバスト性が向上し、異常発生源の具体的な性質に依存しなくなる傾向が見られた。
• 本手法は非物理的データセットに対しても効果的に一般化される：MNISTで2つのMNIST数字を学習した場合、CIFAR-10、fMNIST、nMNISTが異常として正しく検出された。
• トレーニング時に使用した異常セットの多様性が増すほど、アルゴリズムの性能が向上し、異常タイプに「意識」を持つことで一般化性能が強化されることを確認した。
• 本手法は、異常構造に関する事前知識が不要であるため、素粒子物理学におけるモデルに依存しない探索に適している。