[論文レビュー] Application of a Convolutional Neural Network for image classification to the analysis of collisions in High Energy Physics

Celia Fernández Madrazo, Ignacio Heredia+2 more|arXiv (Cornell University)|Aug 23, 2017

Particle physics theoretical and experimental studies被引用数 4

ひとこと要約

本論文は、高エネルギー物理学の衝突を画像ベースの表現として提案する。粒子の運動量とジェットデータを224×224×3のRGB画像に変換することで、事前学習済みの畳み込みニューラルネットワーク（CNN）—例えばResNet50—を用いたイベント分類が可能になる。この手法は、トップクォーク対（ttbar）イベントとバックグラウンド過程（Drell-YanおよびW+jets）を区別する分類効率が約95%に達し、従来の順方向型ニューラルネットワークより信号 vs バックグラウンドの識別性能が優れている。

ABSTRACT

The application of deep learning techniques using convolutional neural networks to the classification of particle collisions in High Energy Physics is explored. An intuitive approach to transform physical variables, like momenta of particles and jets, into a single image that captures the relevant information, is proposed. The idea is tested using a well known deep learning framework on a simulation dataset, including leptonic ttbar events and the corresponding background at 7 TeV from the CMS experiment at LHC, available as Open Data. This initial test shows competitive results when compared to more classical approaches, like those using feedforward neural networks.

研究の動機と目的

• 高エネルギー物理学における衝突分類に、特に畳み込みニューラルネットワーク（CNN）を適用する可能性を検討すること。
• 運動量とジェットデータを224×224×3のRGB画像に変換することで、粒子物理学イベントの直感的な視覚的表現を構築すること。
• 従来の機械学習手法（例：順方向型ニューラルネットワーク）と比較して、CNNの複雑な衝突イベント分類性能を評価すること。
• LHCのCMS実験から得た実際のシミュレーションデータを用いて、CNNがttbarイベントにおける信号 vs バックグラウンドの識別に果たす可能性を評価すること。

提案手法

• シミュレートされた陽子-陽子衝突からの粒子レベルの観測量（運動量、ジェット情報）を、カスタムPythonパイプラインを用いて224×224×3のRGB画像に変換する。
• ImageNetで事前学習済みの重みを用いた、事前学習済みのResNet50アーキテクチャを用いて、粒子物理学の画像データに対する転移学習を実施する。
• 高性能GPU上でAdam最適化アルゴリズムを用い、40エポックにわたりCNNを訓練し、トレーニング中に回転、平行移動、反転などのデータ拡張を適用する。
• 訓練・検証・テストの3分割を標準的な80/10/10の比率で行い、過学習を防ぎ、モデルの評価を堅牢にする。
• ResNet50の入力要件に適合させるために、入力をすべて224×224ピクセルにリサイズする。
• 5層の順方向型ニューラルネットワーク（FNN）（1層あたり500ユニット、ドロップアウト率50%）を用いて、相対的な性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 粒子データを画像として表現した場合、畳み込みニューラルネットワーク（CNN）が高エネルギー物理学の衝突イベントを効果的に分類できるか？
• RQ2 CNNの性能は、従来の順方向型ニューラルネットワーク（FNN）と比較して、ttbarイベントとバックグラウンドを区別する際、どのように異なるか？
• RQ3 画像ベースの表現が、正確な分類に必要な物理的情報をどれほど保持しているか？
• RQ4 ImageNetで事前学習済みの重みを用いた転移学習は、シミュレートされたLHCデータにおける分類性能を向上させるか？

主な発見

• 50/50の分割で、CNNはttbar+jetsイベントとDrell-YanおよびW+jetsバックグラウンドを区別する信号 vs バックグラウンド分類効率で95.4%を達成した。
• CNNは95%のttbar+jetsイベントを正しく分類し、W+jetsイベントの4%とDrell-Yanイベントの5%を誤って信号と分類した。
• 対照的に、順方向型ニューラルネットワーク（FNN）は94.6%の低い信号 vs バックグラウンド効率を示し、本タスクにおいてCNNの優れた性能が裏付けられた。
• FNNはインvariant massタギングのような単純な分類タスクでは優れた性能を示したが、CNNは信号 vs バックグラウンド識別においてFNNを上回った。
• 画像表現法により、追加の粒子に対して円を追加するだけで、可変長イベントの処理が直感的に行えるようになった。これに対して、ベクトルベースのFNNではゼロパディングが必要だった。
• JSONベースのデータ抽出および画像生成を含む前処理パイプラインは、効果的かつ再利用可能であり、コードは公開済みである。