[논문 리뷰] Generative Networks for Precision Enthusiasts

Anja Butter, Theo Heimel외 5명|arXiv (Cornell University)|2021. 10. 22.

Computational Physics and Python Applications인용 수 30

한 줄 요약

논문은 kinematic distributions에 대해 percent-level 정확도를 달성하는 INN 기반 LHC 이벤트 생성기(DiscFlow)를 개발하고, 판별기와 Bayesian/조건부 불확실성 제어를 통한 학습 전략을 도입한다.

ABSTRACT

Generative networks are opening new avenues in fast event generation for the LHC. We show how generative flow networks can reach percent-level precision for kinematic distributions, how they can be trained jointly with a discriminator, and how this discriminator improves the generation. Our joint training relies on a novel coupling of the two networks which does not require a Nash equilibrium. We then estimate the generation uncertainties through a Bayesian network setup and through conditional data augmentation, while the discriminator ensures that there are no systematic inconsistencies compared to the training data.

연구 동기 및 목표

• 가변 최종 상태 다중성(multiplicity)을 갖는 Z+jets 이벤트에 대해 학습된 위상 공간 밀도에서 percent-level 재현 정밀도를 시연한다.
• INN 생성기를 학습 데이터와의 일관성 향상을 위해 판별기와 함께 공동으로 학습시키는 방법을 보인다.
• 베이지안 INN과 조건부 증강을 통해 잔여 불확실성을 정량화하고 제어하기 위한 불확실성 추정 메커니즘을 도입한다.
• Nash 평형에 의존하지 않고 제어된 재가중 및 공동 학습이 가능하도록 DiscFlow 아키텍처를 개발한다.

제안 방법

• 잠재 공간에서 위상 공간 관측값으로 매핑하기 위해 정규화 흐름 기반 가역 신경망(cINN)을 사용하여 pp -> Z(mu mu)+jets(1–3 제트)로의 사건을 다룬다.
• 제트 다중성에 따라 기초 네트워크를 조건화하고 다중성별 하위망을 추가하여 가변 최종 상태 차원을 처리한다.
• 3차 스플라인 결합 블록을 적용하여 복잡한 위상 공간 패턴을 효율적으로 학습하고 운동학 관측치에 대한 조건화를 포함한다.
• 판별기(DiscFlow)를 도입하여 생성기를 재가중하거나 공동 학습시켜 Delta R 및 Z 질량과 같은 분포를 percent-level 정확도로 향상시킨다.
• 네트워크 가중치 분포를 샘플링하여 위상 공간에 대한 불확실성 맵을 추출하는 베이지안 INN(BINN)을 구현한다.
• 이론적/체계적 불확실성을 제어하기 위해 조건부 증강과 판별기 기반 재가중을 활용한다.

Figure 2: Jet-jet correlations for events with two jets. We show truth (left) and INN-generated events (right).

실험 결과

연구 질문

• RQ1 정규화 흐름 INN 생성기가 LHC 유사 Z+jets 위상 공간 분포를 percent-level 정밀도로 재현할 수 있는가?
• RQ2 판별기 기반 재가중과 공동 DiscFlow 학습이 표준 INN 성능을 넘어 도전적인 운동학적 특성을 향상시키는가?
• RQ3 베이지안 및 조건부 증강 기술을 사용하여 생성된 이벤트의 불확실성을 어떻게 정량화하고 제어할 수 있는가?
• RQ4 생성된 이벤트를 적대적 학습에서 Nash 균형을 요구하지 않고도 학습 데이터와 일관되게 정렬할 수 있는가?

주요 결과

• INN 기반 생성기가 Z+1, Z+2, Z+3 제트 분포를 벌크 위상 공간 영역에서 percent-level 정확도 및 학습 통계 기대치 내에서 재현한다.
• 판별기 재가중은 어려운 분포(예: 제트 간 Delta R, Z 질량)를 기본 INN을 넘어서 개선하지만 가중 이벤트를 산출한다.
• 공동 DiscFlow 학습은 Nash 균형에 의존하지 않고도 재가중 결과에 상응하는 가중되지 않은 고정밀 분포를 달성할 수 있다.
• 베이지안 INN은 가중치 분포 샘플링과 이벤트 수를 결합하여 위상 공간 불확실성 맵을 제공한다.
• 조건부 증강은 생성 프레임워크 내에서 체계적/이론적 불확실성을 표현하는 경로를 제공한다.

Figure 3: Left: $\Delta R_{j_{1}j_{2}}$ -distribution for $Z+2$ jets events before and after the transformation of Eq.( 9 ). Right: histogram of the weights of the generated events.