[논문 리뷰] Reconstruction of overlapping electromagnetic showers in calorimeters using Transformers

Yuliia Maidannyk, Fabrice Couderc외 2명|arXiv (Cornell University)|2026. 03. 18.

Particle physics theoretical and experimental studies인용 수 0

한 줄 요약

이 논문은 겹치는 전자기 샤워를 재구성하기 위한 두 단계 아키텍처와 단일 단계 그래프 트랜스포머(ClusTEX)를 포함한 딥 러닝 기반 클러스터링 방법을 제시하고, 새로운 위치 인코딩 전략과 토이 및 ECAL 유사 토폴로지에서의 강건한 성능을 보여준다.

ABSTRACT

Accurate clustering of electromagnetic energy deposits is essential for reconstructing photons and electrons in modern hadron collider experiments, where boosted topologies and pileup cause overlapping showers and ambiguous energy assignment. We present deep learning-based clustering approaches that reconstruct particle energy and position directly from calorimeter readout. The study includes a two-step strategy in which candidate seed windows are identified and then jointly processed via distance-weighted message passing or attention mechanism and a single-step graph transformer, ClusTEX, which performs candidate selection and reconstruction in one inference stage. ClusTEX uses a novel positional encoding scheme that separates local coordinates within the graph from global detector coordinates, enabling efficient, geometry-aware inference. Models are trained on GEANT4 simulations of a simplified (toy) and an ECAL-inspired topology with an explicit $η-ϕ$ dependence. Performance is evaluated using efficiency, energy and position resolutions and splitting rate - reconstruction of two objects for a single photon. In the toy calorimeter, attention-based interactions improve the reconstruction of overlapping showers relative to both the standard algorithm and distance-driven message passing, while maintaining performance on isolated photons and reducing splitting without multi-pass inference. For boosted $π^0 oγγ$, the attention-based model retains di-photon mass reconstruction capability, where the standard algorithm becomes inefficient. In the ECAL-inspired topology, ClusTEX provides the best overall performance, yielding improved energy resolution and reduced splitting compared to two-step approaches and the standard algorithm. It also remains robust under localized detector failures, showing improved stability and partial recovery of energy in non-responsive channels.

연구 동기 및 목표

• HL-LHC 환경에서 일반적으로 발생하는 고 채움도 및 샤워 중첩하에서 칼로리미터의 Elektromagnetic 에너지 덴포its의 클러스터링 개선 동기를 제시한다.
• 칼로리미터 읽기에서 에너지와 충돌 위치를 직접 재구성하는 ML 기반 클러스터링 접근법을 개발한다.
• CMS PFClustering 기준선과 GNN 접근법에 비해 2단계(두 단계)와 단일단계(transformer 기반) 아키텍처를 비교한다.
• 토이 및 ECAL 유사 토폴로지의 기하학적 효과와 검출기 비균일성에 대한 강건성을 평가한다.

제안 방법

• SeedFinder를 도입해 후보 시드 윈도를 식별하고 회귀를 위한 하위 집합을 선택한다.
• 두 단계 PoEN 네트워크를 개발한다: 거리 가중치 메시지 전달 PoEN(DW-PoEN)과 주의(attention) 기반 PoEN(GAT-PoEN)으로 다수 후보에서 에너지와 위치를 공동으로 재구성한다.
• 단일 단계 그래프 트랜스포머(ClusTEX)를 구현해 하나의 추론 단계에서 후보 선택과 재구성을 수행하고, 새로운 로컬/글로벌 위치 인코딩 전략을 적용한다.
• 그래프 윈도 내 로컬 위치를 윈도우 특징에 연결하고, 전역 검출기 중심 위치 임베딩을 추가해 기하학 인식 추론을 가능하게 한다.
• 토이 칼로리미터와 ECAL 유사 토폴로지의 Geant4 시뮬레이션으로 학습 및 검증하며, 겹치는 샤워 및 채널 고장 시나리오를 포함한다.
• SeedFinder를 사용해 P_SF를 가진 시드를 필터링하고 상위 후보를 PoEN 또는 ClusTEX로 최종 재구성한다。）

Figure 1 : Left: realistic CMS ECAL simulation geometry, where each PbWO 4 crystal is quasi-projective and aligned toward the interaction point with a 3 ∘ tilt in both the $z$ and $\phi$ directions. Right (top): example calorimeter window for a single-photon event showing the energy deposits in the

실험 결과

연구 질문

• RQ1 Transformer 기반 아키텍처가 PFClustering 및 이전 GNN 접근법에 비해 겹치는 EM 샤워의 에너지와 위치 재구성에 기여할 수 있는가?
• RQ2 주의 기반 및 단일 단계 트랜스포머 모델이 η, φ 의존성 및 채널 고장 등 검출기 기하학적 효과와 비균일성에 대해 강건함을 제공하는가?
• RQ3 제안된 위치 인코딩 체계가 기하학적으로 풍부한 칼로리미터 토폴로지에서의 성능에 어떤 영향을 미치는가?
• RQ4 향상된 π0 → γγ 시나리오에서 이중 샤워 분할 비율 및 이광질량 재구성에 미치는 영향은 무엇인가?
• RQ5 토이 수준에서 ECAL 유사 현실 detector 토폴로지까지의 확장이 가능한가?

주요 결과

• 주의 기반 상호작용(GAT-PoEN)이 표준 알고리즘 및 거리 기반 메시지 전달에 비해 겹치는 샤워 재구성 성능을 향상시키면서도 격리된 광자 성능을 보존하고 다중 패스 추론 없이 분할을 감소시킨다.
• 부스트된 π0 → γγ 이벤트에서 주의 기반 모델은 표준 알고리즘이 비효율적이 되는 이광질량 재구성 능력을 유지한다.
• ClusTEX(단일 단계 트랜스포머)는 ECAL 유사 토폴로지에서 최상의 전체 성능을 보여 에너지 해상도 향상 및 2단계 접근법 및 표준 알고리즘에 비해 분할을 감소시킨다.
• ClusTEX는 국소적 검출기 고장에서도 견고함을 유지하며 비응답 채널에서 에너지의 부분적 회복 및 안정성을 보인다.
• SeedFinder는 후보 윈도를 효과적으로 축소해 높은 효율성을 유지하면서 PoEN/ClusTEX의 공동 재구성을 가능하게 한다.
• 모델은 η,φ 의존성 및 검출기 비균일성을 명시적으로 반영한 Geant4 시뮬레이션에서 학습 및 평가되었으며 기하학 인식 추론의 이점을 입증한다.

Figure 2 : The optimized CNN based SeedFinder (SF) model architecture. The seed window candidates passing the threshold on deposited energy are taken as inputs to the SF model. The model assigns a probability whether the window is centred around the true seed crystal of a generated photon. The netwo