[論文レビュー] Machine learning as an instrument for data unfolding

A. Glazov|arXiv (Cornell University)|Jan 1, 2017

Machine Learning and Data Classification参考文献 2被引用数 17

ひとこと要約

本論文は、畳み込みを分類問題として扱い、分類損失関数を用いた順序ニューラルネットワークを用いて、検出器のスメア効果を補正する機械学習ベースのアンフォールディング手法を提案する。この手法は、複数の再構築変数を用いて、イベントごとのアンフォールディングを安定的かつバイアスフリーに実行でき、トゥイ・シミュレーションにおいて収束性と統計的精度の向上を示す。特に、分解能特性が異なる変数を統合することで顕著な改善が得られる。

ABSTRACT

A method for correcting for detector smearing effects using machine learning techniques is presented. Compared to the standard approaches the method can use more than one reconstructed variable to infere the value of the unsmeared quantity on event by event basis. The method is implemented using a sequential neural network with a categorical cross entropy as the loss function. It is tested on a toy example and is shown to satisfy basic closure tests. Possible application of the method for analysis of the data from high energy physics experiments is discussed.

研究の動機と目的

• 再構築変数のビニングに依存せずに、高エネルギー物理学のデータアンフォールディングにおける検出器スメアの問題に取り組む。
• アンフォールディングを分類問題として扱う機械学習手法を開発し、再構築観測量に基づいて各イベントに真値のビンを割り当てる。
• 閉包テストと事前分布の更新を用いた反復的精錬により、バイアスのない収束性を保証する。
• 特に分解能が補完的である変数を統合した一括アンフォールディングフレームワークにおける利点を示す。
• 従来の行列逆転や正則化に基づくアンフォールディング手法に対するスケーラブルでデータ駆動型の代替手法を提供し、複雑な高エネルギー物理学解析への統合可能性を有する。

提案手法

• アンフォールディング問題を多クラス分類タスクとして定式化し、各イベントを再構築変数に基づいて最も確率の高い真値ビンに割り当てる。
• 3層の順序ニューラルネットワークを採用：入力層（N_inp ニューロン、1または2変数）、活性化関数に ReLU を用いた中間層（κ×N_bin² 個のニューロン、κ≈8）、出力層（N_bin 個の softmax で活性化されたニューロン）。
• カテゴリカル交差エントロピー損失を用いる：H(p, q) = −Σ_e Σ_i p_e,i log q_e,i、ここで p_e,i は one-hot 真値ラベル、q_e,i は予測確率。
• 学習率を動的に調整する ADADELTA 最適化法を適用し、効率的な学習を実現。
• 反復的アンフォールディング手順を実装：初期事前分布（例：一様分布または真値ベース）で学習し、データに適用し、予測確率に基づいて事前分布を更新し、再学習を繰り返し、収束するまで繰り返す。
• 異なる乱数シードを用いた20回の独立した学習セッションの平均を取ることで、統計的不確実性を低減。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは再構築変数のビニングに依存せずに、イベントごとのアンフォールディングを効果的に実行できるか？
• RQ2 反復的機械学習アンフォールディング手順は、バイアスを導入せずに真の元の分布に収束するか？
• RQ3 特に異なるスメアモデルを持つ複数の再構築変数を統合することで、アンフォールディングの正確性と統計的精度はどのように向上するか？
• RQ4 反復回数が増加する際、アンフォールディング分布におけるビン間の反相関を回避し、安定性を維持できるか？
• RQ5 特に1つの変数が分解能が悪い場合に、単一変数アンフォールディングと比較して、統計的不確実性はどの程度低減されるか？

主な発見

• MLアンフォールディング手法は、ゼロレベルおよび第一レベルの閉包テストをすべて通過し、モデルアーキテクチャと学習戦略が十分かつバイアスフリーであることを確認した。
• 反復的手順は急速に収束し、10回目の反復で安定した結果を示し、それ以降はオscillatory（振動的）な挙動を示し、過学習とビン間の反相関を示唆している。
• 一様事前分布を用いた場合、1つの再構築変数での予測精度（PA）は約65％に達し、対象にログノーマルスメアを持つ第二の変数を追加すると約70％に向上した。
• 第二の再構築変数の導入により、図6右に示すように、アンフォールディング結果の統計的不確実性が低減された。
• 真値と再構築変数の間の誤調整に対しても感受性が低く、ネットワークが学習した境界によって自動的に有効なビニングが決定される。
• GPU搭載のラップトップ上で1エポックの学習に約5秒を要するが、収束と不確実性推定を含めた全学習は、多数の学習セッションと反復回数を要するため、計算的に高コストである。