[論文レビュー] An unfolding method based on conditional Invertible Neural Networks (cINN) using iterative training

Mathias Backes, Anja Butter+2 more|arXiv (Cornell University)|Dec 16, 2022

Neural Networks and Applications被引用数 7

ひとこと要約

本稿では、高エネルギー物理学におけるイベントごとのアンフォールディングに向け、反復的条件付き可逆ニューラルネットワーク（IcINN）を提案する。シミュレーション訓練データと実データの間の不一致を解消することを目的とし、データ駆動型リウェートリングを用いて尤度モデルを反復的に改善することで、高次元の位相空間においてアンフォールディングの精度を向上させる。Toyモデルおよび $pp\to Z\gamma\gamma$ の疑似データにおいて、閉じた性質の確認と不確実性の制御が有効に実施され、高い性能を示した。

ABSTRACT

The unfolding of detector effects is crucial for the comparison of data to theory predictions. While traditional methods are limited to representing the data in a low number of dimensions, machine learning has enabled new unfolding techniques while retaining the full dimensionality. Generative networks like invertible neural networks~(INN) enable a probabilistic unfolding, which map individual events to their corresponding unfolded probability distribution. The accuracy of such methods is however limited by how well simulated training samples model the actual data that is unfolded. We introduce the iterative conditional INN~(IcINN) for unfolding that adjusts for deviations between simulated training samples and data. The IcINN unfolding is first validated on toy data and then applied to pseudo-data for the $pp o Z γγ$ process.

研究の動機と目的

• シミュレーション訓練サンプルが実検出器効果を完全に捉えられていないという、データ-MCの不一致に起因するアンフォールディングの継続的課題に対処すること。
• バインニングを伴わず、イベントレベルの情報を完全に保持する高次元的でスケーラブルなアンフォールディング手法を開発すること。
• 条件付き可逆フローを用いて、シミュレーション訓練データと実データの間のずれを反復的に補正することで、アンフォールディングの精度を向上させること。
• 実データ応用において、位相空間の各領域にわたる信頼性の高い不確実性推定と相関モデリングを保証すること。
• 実験的データにIcINNを適用可能な再現可能でオープンソースのフレームワークを提供すること。

提案手法

• 本手法は、条件付き可逆ニューラルネットワーク（cINN）を用いて、事後分布 $p(x|y)$ をモデル化し、再構築済みデータから真値レベルの分布への確率的かつイベント単位のアンフォールディングを可能にする。
• 反復的リウェートリングループを導入：各アンフォールディングステップの後、アンフォールド済みデータと真値MCを用いて分類器を再トレーニングし、データ-MCの不一致を是正する。
• cINNは、残差接続を備えた条件付きカップリングブロックアーキテクチャで構築され、ADAM最適化とサイクル学習率スケジューリングを用いて最適化される。
• 分類器は、真値レベルのMCとアンフォールド済み再構築データを識別するようにトレーニングされ、反復的アンフォールディングに起因するクラス不均衡を補うために損失関数が重み付けされる。
• 反復的プロセスにより、各ステップで尤度モデルが更新され、シミュレーションの不正確さに起因するバイアスが段階的に低減される。
• 閉じた性質の確認は、各反復でアンフォールド済みデータと真値分布を比較することで実施され、収束性と信頼性が検証される。

実験結果

リサーチクエスチョン

• RQ1 反復的修正を施したcINN尤度モデルは、高次元アンフォールディングにおけるデータ-MC不一致に起因するバイアスを低減できるか？
• RQ2 本手法は、現実的な疑似データにおいて、位相空間の各領域にわたる統計的不確実性と相関関係をどのように保持・伝搬するか？
• RQ3 反復的リウェートリングは、単一ステップのcINNや従来手法と比較して、イベントごとのアンフォールディングの忠実性をどの程度向上できるか？
• RQ4 複数の反復にわたり、過学習を避けても安定性と収束性を維持できるか？
• RQ5 バインニングや次元削減を伴わず、$pp\to Z\gamma\gamma$ のような複雑な多次元プロセスに対しても、本手法は効果的に適用可能か？

主な発見

• IcINN手法は、データ-MC不一致に起因するバイアスを効果的に低減した。複数の反復後、アンフォールド済みデータと真値分布との間に良好な一致が確認された。
• $pp\to Z\gamma\gamma$ の疑似データ研究において、反復的アプローチは非反復的cINNに比べてアンフォールディングの精度を向上させた。特に、強い検出器効果が現れる領域で顕著な改善が得られた。
• 統計的不確実性と位相空間の各領域にわたる相関関係が、反復的プロセス全体にわたり一貫してモデル化され、伝搬された。これにより、物理的応用が信頼性を持って可能となった。
• 分類器ベースのリウェートリングステップは強く収束し、反復を重ねるごとにアンフォールド済みデータと真値MC分布との一致度が向上した。
• データおよびMC両方の閉じた性質の確認において、本手法は頑健であることが示された。MCでは期待通りの小さなずれが観測され、データでは各反復ごとにずれが制御され、改善傾向を示した。
• 比プロットを用いた包括的なチェックを通じて、本手法の安定性と正確性が検証された。