[論文レビュー] Decorrelation with conditional normalizing flows

Samuel Klein, T. Golling|arXiv (Cornell University)|Nov 4, 2022

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本論文では、高エネルギー物理学における機械学習分類子の保護された属性（例：不変質量）からの相関を解消するため、条件付き正規化フローの使用を提案する。信号分離能力を保持しつつ、質量依存のバックグラウンド形状の変化（背景彫刻）を排除する。この手法は最小限の性能低下でほぼ完全な相関除去を達成し、従来手法と比較して、バッブルハンティング感度を顕著に向上させる。

ABSTRACT

The sensitivity of many physics analyses can be enhanced by constructing discriminants that preferentially select signal events. Such discriminants become much more useful if they are uncorrelated with a set of protected attributes. In this paper we show that a normalizing flow conditioned on the protected attributes can be used to find a decorrelated representation for any discriminant. As a normalizing flow is invertible the separation power of the resulting discriminant will be unchanged at any fixed value of the protected attributes. We demonstrate the efficacy of our approach by building supervised jet taggers that produce almost no sculpting in the mass distribution of the background.

研究の動機と目的

• 信号が豊富なサンプルが、分類子と不変質量との相関により、滑らかでないバックグラウンド分布を歪めてしまう高エネルギー物理学解析におけるバックグラウンド質量彫刻問題に対処すること。
• 保護された属性（例：質量）の各値において、元の分類子の分離能力を保持する後処理による相関除去手法を開発すること。
• 分類子の質量との相関に依存しない、質量スペクトル全体にわたる一様なバックグラウンド拒否を保証することで、バッブルハンティング解析の堅牢性を高めること。
• 任意の分類子および保護された属性の組み合わせに適用可能で、元のモデルの再訓練を必要としない、柔軟で可逆なフレームワークを提供すること。

提案手法

• 条件付き正規化フローを訓練し、分類子スコア $ s_{\phi}(\boldsymbol{x}) $ を $ f_{\theta}(s_{\phi}(\boldsymbol{x}), \boldsymbol{m}) $ という新しい表現に写像する。ここで $ \boldsymbol{m} $ は保護された属性（例：質量）を表す。
• 変数変換の公式に従い、最大対数尤度によりフローを訓練し、変換後の出力が $ \boldsymbol{m} $ に依存しないベース分布に従うようにすることで、相関の解消を達成する。
• フローの可逆性により、$ \boldsymbol{m} $ の各固定値において信号分離能力（例：AUC）が変化せず、分類子の有用性が保持される。
• スコアの順序がすべての質量値において維持されるように、フローを単調増加に制約することで、分離能力の維持に不可欠な順序の保存を確保する。
• 任意の事前に訓練された分類器の上流に後処理層として適用可能であり、元のモデルの再訓練なしに相関除去が可能である。
• 代替手法として条件付き分位数回帰も評価した。同様の相関除去性能を示したが、不連続な分位数予測により、推定の安定性に劣り、フロー手法より信頼性が低い。

実験結果

リサーチクエスチョン

• RQ1 後処理変換により、不変質量などの保護された属性からの分類子の相関を、信号分離能力の低下を伴わずに解消できるか？
• RQ2 標準的な相関除去手法と比較して、条件付き正規化フローは質量スペクトル全体にわたる一様なバックグラウンド拒否をどの程度効果的に達成できるか？
• RQ3 事前に訓練された分類器の出力に条件付きフローを適用することで、高エネルギー物理学におけるバッブルハンティング解析の堅牢性が向上するか？
• RQ4 分類器の出力と入力特徴量の両方に対して相関除去を施した場合、分類器性能にどのような影響があるか？
• RQ5 複数回の実行にわたる安定性と相関除去性能の観点から、条件付き正規化フローは分位数回帰と比べてどのように差がつくか？

主な発見

• 条件付き正規化フローは、バックグラウンド質量分布とランダムサンプルとの間のジェンセン・ショーンハイマー・ダイバージェンス（JSD）が約 0.001 にまで低下することで、質量変数からのほぼ完全な相関除去を達成した。
• 標準的な vDNN では質量を含む AUC が 0.90 であったが、フローによる相関除去後は 0.84 に低下した。しかし、これは性能低下を示すものではなく、信号質量分布上の期待 AUC は両モデルで 0.84 に保たれている。
• 条件付きフローによる相関除去を施した DisCo 分類器は、標準的 DisCo や入力特徴量の相関除去を施した DisCo よりも優れた性能を示し、出力段階での相関除去が入力段階のものよりも効果的かつコストが低いことを示している。
• 可逆変換により、すべての質量ビンにおいてイベントのスコア順序が保持されるため、各質量値において信号分離能力が保持されている。
• 分位数回帰も良好な相関除去性能を示したが、不連続な分位数予測のため、実行回数にわたる分散が高く、フロー手法よりも信頼性に劣る。
• 図 9 に示すように、バックグラウンド拒否レベルが高くなるほど、条件付きフローと分位数回帰の両方が相関除去を維持しており、本手法はさまざまな拒否レベルにおいても堅牢である。