[논문 리뷰] Pileup mitigation at the Large Hadron Collider with Graph Neural Networks

Jesús Arjona Martínez, Olmo Cerri외 3명|arXiv (Cornell University)|2018. 10. 18.

Particle physics theoretical and experimental studies참고 문헌 18인용 수 7

한 줄 요약

이 논문은 대형 하드론 충돌기에서 고전하운동량 충돌에서 발생하는 입자를(주정점) 파일업(중첩 충돌)에서 기인한 입자와 구분하는 데 목적이 있는 그래프 신경망 기반 분류기인 PUPPIML을 제안한다. 그래프 구조의 이벤트 표현과 메시지 전달을 활용하여 PUPPI 및 SoftKiller보다 최대 30% 높은 제트 해상도를 달성하며, 다양한 물리 과정에 걸쳐 강력한 일반화 성능을 보이며 성능 저하가 최소한이 된다.

ABSTRACT

At the Large Hadron Collider, the high transverse-momentum events studied by experimental collaborations occur in coincidence with parasitic low transverse-momentum collisions, usually referred to as pileup. Pileup mitigation is a key ingredient of the online and offline event reconstruction as pileup affects the reconstruction accuracy of many physics observables. We present a classifier based on Graph Neural Networks, trained to retain particles coming from high-transverse-momentum collisions, while rejecting those coming from pileup collisions. This model is designed as a refinement of the PUPPI algorithm, employed in many LHC data analyses since 2015. Thanks to an extended basis of input information and the learning capabilities of the considered network architecture, we show an improvement in pileup-rejection performances with respect to state-of-the-art solutions.

연구 동기 및 목표

• 고광도 LHC 이벤트에서 파생되는 파일업 오염 문제를 해결하기 위해, 부산물로 발생하는 낮은 pT 충돌로 인해 물리 관측량의 재구성 정확도가 떨어지는 문제를 다룬다.
• 딥 러닝과 그래프 기반 모델링을 통합하여 파일업 기인 입자를 더 잘 식별하고 억제할 수 있도록 최첨단 PUPPI 알고리즘을 개선한다.
• 다양한 최종 상태, 즉 다중 제트, 바닥 쿼크 및 글루온 붕괴를 포함하여 성능 저하 없이 일반화할 수 있는 모델을 개발한다.
• 국소적인 그래프 컨볼루션을 통해 입자 이벤트의 공간 구조를 활용하여 추론의 계산 가능성과 국소성을 유지한다.

제안 방법

• 모든 이벤트를 그래프로 모델링하며, 입자를 노드로, ΔR < R₁ = 0.3 원판 내에 있는 입자 간에 간선을 연결하여 국소적인 공간 관계를 유지한다.
• 세 층과 네 타임스텝을 갖는 게이트드 그래프 신경망(GGNN) 아키텍처를 사용하여 이웃 입자 간 메시지 전달을 통해 노드 수준의 표현을 개선한다.
• 최종 노드 표현은 읽기 출력 레이어를 통과하여 해당 입자가 주정점에서 기인했을 가능성(파일업이 아님)을 나타내는 확률 점수를 출력한다.
• 교차 엔트로피 손실을 사용하여 분류 성능을 최적화하기 위해, 평균 파일업 상호작용 수가 140까지 다양하게 설정된 Z→νν̄ + 제트 이벤트에서 모델을 훈련시킨다.
• 추론은 각 입자에 대해 확률 점수를 할당함으로써 수행되며, 이는 후속 분석에서 가중치로 사용되거나 입자 거부 기준으로 사용될 수 있다.
• 모델은 검출기 무관하게 설계되어, 검출기 기하학적 구조나 해상도에 대한 가정 없이 복구된 입자 운동량 정보에만 의존한다.

실험 결과

연구 질문

• RQ1 그래프 신경망 아키텍처가 기존의 규칙 기반 및 PUPPI 방식의 알고리즘보다 LHC에서 파일업 억제 성능을 뛰어나게 할 수 있는가?
• RQ2 PUPPIML 모델은 다중 제트 최종 상태 및 바닥 쿼크나 글루온을 포함한 붕괴와 같은 다양한 물리 과정에 대해 얼마나 잘 일반화되는가?
• RQ3 훈련 설정, 특히 평균 파일업 수준에 따라 모델의 성능이 얼마나 의존하는가?
• RQ4 모델은 계산의 국소성과 효율적인 병렬 처리를 유지하면서도 높은 성능을 유지를 할 수 있는가?

주요 결과

• PUPPI 알고리즘 대비 제트 연관 양상에서 최대 30%의 해상도 향상을 달성하였으며, SoftKiller 대비 더 큰 향상도 기록하였다.
• Z→νν̄ + 제트, 톰 쿼크 붕괴, 힉스 보존 붕괴를 포함한 다양한 물리 과정에 대해 효과적으로 일반화되었으며, AUC 성능 저하가 미미하였다.
• 평균 파일업 수가 140일 경우에도 높은 성능 유지되었으며, GGNN 층 수와 은닉 차원 수를 감소시켜도 AUC 값 감소 폭이 0.2% 미만이었다.
• Titan Xp GPU에서 평균 파일업 수 140일 때 추론 속도는 약 10 이벤트/초였으며, PUPPI나 SoftKiller보다 10배 이상 느렸지만, 아키텍처 및 구현 최적화로 향상 가능성이 있다.
• 입자 간 거리가 ΔR < 1.2 이내인 입자들만 특정 입자의 분류에 영향을 주므로 국소성이 유지되어 비동기 메시지 전달을 통한 병렬 처리 가능성이 있다.
• 입자 거부 기준은 훈련 샘플에 약간의 의존성을 보였지만, 다양한 파일업 구성에 걸쳐 강건함을 시사한다.