[논문 리뷰] CaloFlow II: Even Faster and Still Accurate Generation of Calorimeter Showers with Normalizing Flows

Claudius Krause, David Shih|arXiv (Cornell University)|2021. 10. 21.

Computational Physics and Python Applications참고 문헌 28인용 수 30

한 줄 요약

CaloFlow v2는 교사 MAF로부터 확률밀도 증류를 통해 빠른 IAF를 학습시켜 Geant4 칼로리미터 샤워를 모사하고, 속도는 약 10^4× 향상되며 충실도는 이전 CaloFlow와 비슷하고 GAN 시기 속도와 매칭하면서 높은 정확도를 유지한다.

ABSTRACT

Recently, we introduced CaloFlow, a high-fidelity generative model for GEANT4 calorimeter shower emulation based on normalizing flows. Here, we present CaloFlow v2, an improvement on our original framework that speeds up shower generation by a further factor of 500 relative to the original. The improvement is based on a technique called Probability Density Distillation, originally developed for speech synthesis in the ML literature, and which we develop further by introducing a set of powerful new loss terms. We demonstrate that CaloFlow v2 preserves the same high fidelity of the original using qualitative (average images, histograms of high level features) and quantitative (classifier metric between GEANT4 and generated samples) measures. The result is a generative model for calorimeter showers that matches the state-of-the-art in speed (a factor of $10^4$ faster than GEANT4) and greatly surpasses the previous state-of-the-art in fidelity.

연구 동기 및 목표

• LHC 및 HL-LHC에서 Geant4 병목 현상을 완화하기 위해 빠르고 정확한 칼로리미터 샤워 시뮬레이션을 동기부여합니다.
• Geant4 샤워 분포에 높은 충실도를 유지하는 빠른 샘플링 생성 모델을 개발합니다.

제안 방법

• Flow I (small)를 사용하여 입력 에너지에 조건화된 deposited energies를 모델링하고, Flow II (large)를 에너지에 조건화된 샤워 형태를 모델링합니다.
• 느린 MAF 기반 샘플링을 Probability Density Distillation(teacher-student 학습)을 통한 빠른 IAF로 교체합니다.
• 학생 IAF를 x-손실, z-손실 및 추가의 중간- 및 매개변수 수준 매칭 항(Lx, Lz, Lx(i), Lz(i), Lkappa)을 포함하는 합성 손실을 통해 교사 MAF와 일치시키도록 훈련합니다.
• x- 및 z-손실 구성요소를 결합한 완전 지도 학습 objective를 사용하여 흐름 간의 단계별 일치를 강제합니다(Eq. 17).
• 정성적 시각화, 히스토그램, 분류기 기반 지표, 타이밍 벤치마크를 통해 충실도를 평가합니다.
• 샘플링에서 큰 속도 향상을 달성하면서 아키텍처 면에서 CaloFlow v1과의 동등성을 유지합니다.

실험 결과

연구 질문

• RQ1 빠른 샘플링 IAF를 학습시켜 더 느리고 고충실도인 MAF와 Calorimeter 샤워 생성을 맞출 수 있는가?
• RQ2 어떤 손실 항과 학습 전략이 학생 IAF를 교사 MAF와 가장 잘 정렬시켜 Geant4 수준의 충실도를 달성하게 하는가?
• RQ3 CaloFlow v2가 GAN 및 Geant4에 비견되는 생성 속도를 제공하면서도 고충실도 샤워 특징을 유지하는가?
• RQ4 입자 유형별로 Geant4, CaloFlow v1, CaloFlow v2 간 classifier 기반 충실도 지표가 어떻게 비교되는가?
• RQ5 대규모 샤워 샘플링 작업에서 실제적인 생성 시간 이점은 무엇인가?

주요 결과

• CaloFlow v2는 e+, γ, π+ 샤워 전반에서 학생이 교사 NLL의 거의 포화에 이르는 성능을 달성한다.
• 학생으로부터의 정성적 평균 샤워 이미지와 Flow II 히스토그램은 Geant4 및 교사 출력과 거의 일치하며 모드 붕괴가 없다.
• 분류기 지표는 Geant4 대 CaloFlow v2 학생 간의 충실도가 높게 유지되며 입자 유형 전반에서 GAN 기반 기준선보다 실질적으로 우수하다.
• 타이밍 벤치마크는 CaloFlow v2 샘플링 속도가 CaloGAN과 비슷하고 Geant4보다 훨씬 빠르며 (생성에서 Geant4보다 최대 약 10^4× 빠름).
• 다수의 손실 항을 갖춘 완전 지도 학습(Eq. 17)은 테스트 구성 중 최상의 NLL 성능을 보인다.
• 이 접근법은 고차원 칼로리미터 데이터에 스케일링되며 더 복잡한 칼로리미터 구성으로의 확장 가능성을 제시한다.