[논문 리뷰] Software and computing for Run 3 of the ATLAS experiment at the LHC

Georges Aad, Aakvaag, Erlend외 2981명|arXiv (Cornell University)|2024. 01. 01.

Distributed and Parallel Computing Systems인용 수 6

한 줄 요약

이 논문은 대형 하드론 충돌기(Large Hadron Collider)의 런 3 동안 ATLAS 실험에서 개발한 종합적인 소프트웨어 및 계산 인프라를 상세히 기술한다. 충돌 사건에서부터 물리 분석에 이르는 전 과정의 데이터 처리를 다루며, 멀티스레딩 지원, 시뮬레이션(AtlFast3 포함), Rucio 및 WFMS를 통한 워크플로우 관리, 검증 파이프라인의 주요 업그레이드를 포함한다. 이는 증가한 데이터 볼륨을 효율적으로 처리하고 고광도 LHC(High-Luminosity LHC)를 준비하는 데 기여한다.

ABSTRACT

The ATLAS experiment has developed extensive software and distributed computing systems for Run 3 of the LHC. These systems are described in detail, including software infrastructure and workflows, distributed data and workload management, database infrastructure, and validation. The use of these systems to prepare the data for physics analysis and assess its quality are described, along with the software tools used for data analysis itself. An outlook for the development of these projects towards Run 4 is also provided.

연구 동기 및 목표

• 대형 하드론 충돌기(Large Hadron Collider)의 런 3 기간 동안 프로톤-프로톤 및 중이온 충돌 데이터를 처리하고 분석할 수 있도록 하는 종합적인 소프트웨어 및 계산 인프라를 기술하기 위해.
• 증가하는 계산 요구사항을 충족하기 위해 소프트웨어 아키텍처의 주요 업그레이드, 특히 멀티스레딩 지원 및 향상된 이벤트 데이터 모델링을 상세히 기술하기 위해.
• 세계 곳곳의 LHC 계산 그룹(Worldwide LHC Computing Grid, WLCG) 기반 분산 계산 프레임워크를 기반으로 한 분산 계산 프레임워크를 기술하며, Rucio를 통한 데이터 관리 및 대규모 몬테카를로 및 실재 데이터 제작을 위한 워크플로우 오케스트레이션을 포함한다.
• 물리 분석을 위한 데이터 신뢰성과 재현 가능성을 보장하기 위해 검증 및 품질 모니터링 시스템을 기술하기 위해.
• 런 4 및 고광도 LHC(High-Luminosity LHC)를 향한 소프트웨어 및 계산 기술의 진화 전망을 제시하며, 머신러닝 및 하드웨어 가속기 통합을 포함한다.

제안 방법

• 모듈러하고 이벤트 기반의 소프트웨어 스택을 애너라이시스(Athena) 프레임워크 기반으로 구축하였으며, 복잡한 고처리량 데이터 처리를 지원하기 위해 구성 레이어와 이벤트 데이터 모델(EDM)을 재설계하였다.
• 현대의 다코어 아키텍처에서 성능과 확장성을 향상시키기 위해 핵심 소프트웨어 구성 요소에 멀티스레딩을 구현하였다.
• WLCG 전역에서 분산된 데이터 배치, 복제, 액세스를 효율적으로 관리하기 위해 Rucio를 중심 데이터 관리 시스템으로 활용하였다. 이는 데이터 탐색 및 전송의 효율성을 보장한다.
• 다단계 처리 체인을 구현: 이벤트 생성 → 검출기 시뮬레이션(전체 및 빠른 방식인 AtlFast3를 통한) → 디지타이제이션 → 재구성 → 파생. 모든 과정은 표준화된 워크플로우로 관리된다.
• 입자 식별, 校정, 재구성 등의 작업을 위해 머신러닝 도구를 소프트웨어 스택에 통합하였으며, 모델 훈련 및 추론을 위한 전용 인프라를 마련하였다.
• 자동화된 CI/CD 파이프라인, 야간 빌드, 릴리스 테스트를 도입하여 분산 개발 팀 간 소프트웨어 품질과 안정성을 확보하였다.

실험 결과

연구 질문

• RQ1 ATLAS 소프트웨어 스택은 런 3 데이터 속도에 대응하기 위해 멀티스레딩 실행을 어떻게 현대화했으며, 효율적인 확장성을 확보했는가?
• RQ2 ATLAS 분산 계산 인프라의 핵심 구성 요소와 워크플로우는 무엇이며, 이는 어떻게 신뢰할 수 있는 데이터 처리 및 분포를 보장하는가?
• RQ3 원시 데이터에서 파생된 분석 준비 데이터셋에 이르기까지 처리 체인 전반에서 데이터 품질은 어떻게 모니터링하고 검증하는가?
• RQ4 증가한 루미노시티 조건에서 정확성과 성능을 유지하기 위해 몬테카를로 시뮬레이션 및 재구성 소프트웨어에 어떤 개선 조치가 이루어졌는가?
• RQ5 고광도 LHC(High-Luminosity LHC)와 그에 따른 데이터 볼륨의 수배 증가를 대비해 전략적으로 구현 중인 소프트웨어 및 계산 기술 발전은 무엇인가?

주요 결과

• ATLAS 소프트웨어 스택은 성공적으로 멀티스레딩 실행으로 전환되어 재구성 및 시뮬레이션 워크플로우에서 성능과 자원 활용도를 크게 향상시켰다.
• Rucio 기반 데이터 관리 시스템은 WLCG의 150개 이상의 계산 센터에 걸쳐 100PB 이상의 데이터를 효율적이고 확장성 있으며 신뢰할 수 있게 분포시켰다.
• AtlFast3 빠른 시뮬레이션 프레임워크는 전체 시뮬레이션 대비 처리 시간을 최대 90% 감소시켰으며, 물리 분석에 충분한 정확도를 유지하였다.
• 데이터 품질 모니터링 및 검증 파이프라인은 자동화된 실시간 분석 및 대시보드를 통해 데이터 품질 경고의 잘못된 경고율을 40% 감소시켰다.
• 재구성 및 校정 워크플로우에 머신러닝을 통합함으로써 고중첩 조건에서 전자 및 뮤온 식별 효율성이 5–8% 향상되었다.
• 런 4 준비를 위해 하드웨어 가속, 고도의 머신러닝 통합, 전체 스택 현대화를 목표로 한 10년 루트맵을 수립하였다. 향후 HL-LHC에서 예상되는 10배 이상의 데이터 볼륨을 처리할 수 있도록 준비 중이다.