[論文レビュー] Variational Autoencoders for Jet Simulation

Kosei Dohi|arXiv (Cornell University)|Sep 2, 2020

Generative Adversarial Networks and Image Synthesis参考文献 65被引用数 5

ひとこと要約

本論文は、高エネルギー物理学におけるジェット画像の高速かつ正確なシミュレーションを目的とした、新規の変分オートエンコーダー（VAE）アーキテクチャを提案する。畳み込み層、学習された潜在空間、および特徴量の知覚的損失を活用することで、質量、pT、N-サブジェット性といった重要な物理的性質を保持したリアルなジェット画像を生成する。特にGPU上で、GANベースのベースラインと比較して最大6倍速い推論性能を達成している。

ABSTRACT

We introduce a novel variational autoencoder (VAE) architecture that can generate realistic and diverse high energy physics events. The model we propose utilizes several techniques from VAE literature in order to simulate high fidelity jet images. In addition to demonstrating the model's ability to produce high fidelity jet images through various assessments, we also demonstrate its ability to control the events it generates from the latent space. This can be potentially useful for other tasks such as jet tagging, where we can test how well jet taggers can classify signal from background for events generated by the VAE. We test this idea by seeing the signal efficiency vs background rejection for different types of jet images produced by our model. We compare our VAE with generative adversarial networks (GAN) in several ways, most notably in speed. The architecture we propose is ultimately a fast, stable, and easy-to-train deep generative model that demonstrates the potential of VAEs in simulating high energy physics events.

研究の動機と目的

• 既存のGANベースの手法に課題があることを踏まえ、高エネルギー物理学におけるジェット画像のシミュレーションに向けた高速かつ信頼性の高い生成モデルを開発すること。
• VAEが質量、pT、N-サブジェット性といった物理観測量に高い忠実度でリアルなジェット画像を生成できるかどうかを検証すること。
• 潜在空間における特徴量の分離性と解釈可能性を学習し、制御可能なジェット生成が可能かどうかを評価すること。
• LAGANなどの最先端のGANベースのモデルと比較して、CPUおよびGPU上でのVAEの推論速度を評価すること。
• 特徴量の知覚的損失が、ジェットシミュレーションにおける画像品質と物理的一致性を向上させる有効性を調査すること。

提案手法

• モデルは畳み込みエンコーダーとデコーダー構造を用い、ジェット画像を圧縮・再構成する。潜在空間は平均および対数分散ベクトルによってパrameter化される。
• VAEは再パラメータ化サンプリングを採用し、確率的潜在空間を介したバックプロパゲーションを可能にし、エンドツーエンドの学習を実現する。
• 損失関数は、入力画像と出力画像の間のMSE（再構成項）と、潜在分布を単位ガウス分布に正則化するKLダイバージェンス項の組み合わせから構成される。
• 標準的なL2損失に代えて、事前学習済みネットワークの内部特徴マップを比較することで、画像のリアルさを向上させる特徴量の知覚的損失が導入されている。
• データ拡張と正規化を適用することで一般化性能を向上させ、Pythiaが生成したジェット画像のデータセット上でモデルを学習する。
• 推論は学習済み潜在分布からのサンプリングによって実行され、制御可能な特徴を有する多様なジェット画像の生成が可能になる。

実験結果

リサーチクエスチョン

• RQ1 VAEアーキテクチャは、質量、横方向運動量（pT）、N-サブジェット性といった主要な物理観測量を高い忠実度で保持したジェット画像を生成できるか？
• RQ2 VAEの潜在空間は、WボソンとQCDジェットの特徴を、どの程度分離し、制御可能にしているか？
• RQ3 LAGANなどのGANベースのモデルと比較して、CPUおよびGPU上でのVAEの推論速度はどの程度か？
• RQ4 特徴量の知覚的損失を用いることで、標準的なL2損失と比較して、生成画像のリアルさと物理的一致性が向上するか？
• RQ5 敵対的訓練が不要であるため、VAEは安定して学習可能であり、その性能と一般化能力にどのような影響を与えるか？

主な発見

• VAEは、質量、pT、N-サブジェット性、ピクセル強度分布の観点から、実際のPythiaが生成したジェットと類似したジェット画像を生成している。
• 潜在空間には一貫した分離性が見られる：WボソンとQCDジェットの特徴は、すべての潜在次元に保存されており、図24に明確に可視化されている。
• GPU上での生成レートは1秒間に24,209イベントに達し、これはLAGAN（GPU上1秒間に4,102イベント）の約6倍速い。
• 特徴量の知覚的損失は、画像品質を顕著に向上させ、L2損失に比べてよりシャープでリアルなジェット画像を生成している。
• 敵対的訓練が不要なため、GANよりも学習が容易であり、滑らかな最適化と安定した収束が実現されている。
• VAEは優れた一般化性能と制御性を示しており、潜在空間の補間によって、ジェットタイプ間の妥当な遷移が得られている。