[論文レビュー] CaloMan: Fast generation of calorimeter showers with density estimation on learned manifolds

Jesse C. Cresswell, Brendan Leigh Ross+4 more|arXiv (Cornell University)|Nov 23, 2022

Particle physics theoretical and experimental studies参考文献 40被引用数 36

ひとこと要約

CaloMan はカロリメータ・ショーの低次元多様体を密度推定器とともに学習し、その多様体上で現実的なしゃーの高速な条件付き生成を可能にする。 従来法に比べて大幅な高速化を実現しつつ、現実性を維持する。

ABSTRACT

Precision measurements and new physics searches at the Large Hadron Collider require efficient simulations of particle propagation and interactions within the detectors. The most computationally expensive simulations involve calorimeter showers. Advances in deep generative modelling - particularly in the realm of high-dimensional data - have opened the possibility of generating realistic calorimeter showers orders of magnitude more quickly than physics-based simulation. However, the high-dimensional representation of showers belies the relative simplicity and structure of the underlying physical laws. This phenomenon is yet another example of the manifold hypothesis from machine learning, which states that high-dimensional data is supported on low-dimensional manifolds. We thus propose modelling calorimeter showers first by learning their manifold structure, and then estimating the density of data across this manifold. Learning manifold structure reduces the dimensionality of the data, which enables fast training and generation when compared with competing methods.

研究の動機と目的

• LHC検出器研究における計算コストを削減するための高速カロリメータ・ショーのシミュレーションの動機づけ。
• 最初にカロリメータ・ショーの多様体を学習し、その多様体上で密度を推定する二段階アプローチを提示。
• 多様体ベースの密度推定が、高レベル特徴を正確に保ちながら高速な生成を提供できることを示す。

提案手法

• 一般化オートエンコーダ（変分オートエンコーダ）を用いて、カロリメータ・ショーの低次元多様体（潜在次元 ~20）を学習する。
• 潜在空間上で条件付き正規化フロー（ニューラルスプラインフロー）を訓練し、p(z|E_inc) を推定して多様体上の p_M(x|E_inc) を得る。
• 密度推定器を入射エネルギーで条件付けしつつ、クラスタリング目的でオートエンコーダをエネルギーで条件付けせずに保つ。
• Levina-Bickel 推定量（k最近傍）を用いて固有次元を推定し、潜在次元を設定。
• データを前処理としてボクセルエネルギーを正規化し、E_dep を特徴量として追加する。VAEデコーダで復号し、生成時に前処理を元に戻す手順を適用。）

実験結果

リサーチクエスチョン

• RQ1 カロリメータ・ショーは低次元の学習済み多様体上でどのように表現できるか？
• RQ2 学習済み多様体上で密度を効果的に推定して現実的なしゃーを生成できるか？
• RQ3 固有次元が訓練効率と生成速度に与える影響はどのようなものか？
• RQ4 CaloMan は現実性と速度の点で既存の高速ショー生成器とどう比較されるか？

主な発見

Batch Size	Number of Showers	Time per Shower (ms)
1000	1000	0.0598
1000	100000	0.0844
10000	10000	0.0265
10000	100000	0.0246
50000	50000	0.0216
50000	100000	0.0201

• 光子ショーのデータの固有次元は約20（d ≈ 20）、k=10 Levina-Bickel推定量に基づく。
• 多様体上のVAEとp(z|E_inc)の条件付き正規化フローを組み合わせた二段階モデルは、現実的な高レベル特徴を達成する。
• 実データと生成ショーを識別する二値分類器はAUC0.78を達成、1.0には及ばないが従来法と競合（CaloScoreは0.98と報告）。
• 生成速度は従来法より著しく速く、同時計算で大規模バッチ（例: 50k/100k）で1ショーあたり0.02 ms程度までエ amortized 可能。
• 1kおよび10kバッチ設定では、サンプル時間は約0.02～0.09 ms/ショーで、CaloScore（40 ms）および CaloFlow II（0.08 ms）より大幅に高速化を示す。
• 生成ショーは沈着エネルギー分布とエネルギーの中心に一致するが、幅はさらなる改善が必要で、E_incによる条件付けは層別エネルギー配分を改善できる可能性。