[논문 리뷰] Atlas Data-Challenge 1 on NorduGrid

P. Eerola, B. Kónya외 10명|arXiv (Cornell University)|2003. 06. 02.

Distributed and Parallel Computing Systems참고 문헌 2인용 수 8

한 줄 요약

이 논문은 노르두그리드가 LHC의 첫 번째 대규모 그리드 기반 컴퓨팅 연습인 ATLAS 데이터 챌린지 1에 성공적으로 기여한 바를 서술한다. 스칸디나비아 물리학자들이 4,750개 이상의 그리드 작업을 통해 2TB가 넘는 입력 데이터를 처리하고 2.5TB의 출력 데이터를 생성하였다. 경량형이고 이식 가능한 미들웨어를 사용하여 노르두그리드는 동적 작업 브로커링, 자동화된 데이터 배포, 그리고 이질적인 클러스터 간 스토리지 및 레플리카 카탈로그와의 원활한 통합을 가능하게 하였다.

ABSTRACT

The first LHC application ever to be executed in a computational Grid environment is the so-called ATLAS Data-Challenge 1, more specifically, the part assigned to the Scandinavian members of the ATLAS Collaboration. Taking advantage of the NorduGrid testbed and tools, physicists from Denmark, Norway and Sweden were able to participate in the overall exercise starting in July 2002 and continuing through the rest of 2002 and the first part of 2003 using solely the NorduGrid environment. This allowed to distribute input data over a wide area, and rely on the NorduGrid resource discovery mechanism to find an optimal cluster for job submission. During the whole Data-Challenge 1, more than 2 TB of input data was processed and more than 2.5 TB of output data was produced by more than 4750 Grid jobs.

연구 동기 및 목표

• 실제 LHC 데이터 처리 워크로드 조건에서 ATLAS 컴퓨팅 모델 및 소프트웨어 스위트의 유효성을 검증하기 위해.
• 생산 규모의 분산 컴퓨팅 환경에서 그리드 미들웨어의 통합을 테스트하기 위해.
• 이질적인 노르딕 컴퓨팅 센터 간 고에너지 물리학 워크로드를 위한 경량형이고 이식 가능한 미들웨어(NorduGrid)의 사용 가능성과 실현 가능성을 입증하기 위해.
• 대규모이고 장기간 지속되는 워크로드 조건에서 데이터 배포, 작업 브로커링, 자원 탐색 메커니즘의 견고성과 내구성을 평가하기 위해.
• 글로벌 ATLAS 협력체계를 지원하기 위해 스칸디나비아 기관들이 첫 번째 주요 LHC 컴퓨팅 챌린지에 기여할 수 있도록 하기 위해.

제안 방법

• 스칸디나비아 및 핀란드 슈퍼컴퓨팅 센터의 1,000개의 CPU에 최소한의 시스템 수정으로 경량형이고 이식 가능한 그리드 미들웨어(NorduGrid)를 구축하였다.
• xRSL 언어를 사용하여 작업 요구사항을 지정하였으며, 이는 실행 파일, 인수, 입력 파일, 런타임 환경 종속성 등을 포함한다.
• 노르두그리드 정보 시스템과 레플리카 카탈로그를 활용하여, 필요한 입력 데이터가 있는 최적의 클러스터를 찾는 동적 작업 브로커링 시스템을 구현하였다.
• 그리드 매니저를 통해 자동화된 데이터 처리를 구현하였으며, 이는 스토리지 엔터티나 레플리카 카탈로그에서 입력 파일을 사전 다운로드하고 필요에 따라 로컬 캐시에 저장함으로써 기능하였다.
• 사이트 관리자가 작성한 스크립트를 통해 런타임 환경 설정을 가능하게 하였으며, 이는 작업 실행 이전에 소프트웨어 패키지(예: ATLAS rpm)를 설정하도록 하였다.
• ngcopy를 사용하여 외부 소스(러시아, 미국)에서 큰 입력 파일을 직접 노르두그리드 스토리지 엔터티로 전송하여 3단계 재구성 작업을 수행하였다.

실험 결과

연구 질문

• RQ1 경량형이고 이식 가능한 그리드 미들웨어가 이질적인 분산 환경에서 복잡하고 데이터 집약적인 물리학 워크로드를 효과적으로 지원할 수 있는가?
• RQ2 자원 가용성이 동적으로 변화하는 광역 그리드 환경에서 작업 브로커링과 데이터 배포가 얼마나 효율적으로 자동화될 수 있는가?
• RQ3 다양한 시뮬레이션 및 재구성 단계를 거쳐 테라바이트 단위의 데이터셋을 처리할 때 그리드 인fra구조의 확장성과 신뢰성 한계는 무엇인가?
• RQ4 외부 데이터 종속성(예: 노이즈 데이터베이스)은 어떻게 보안적이고 공기 격리된 컴퓨팅 환경에서 처리할 수 있는가?
• RQ5 기존의 그리드가 아닌 컴퓨팅 센터는 인프라의 주요 변경 없이 얼마나 잘 그리드 환경에 통합될 수 있는가?

주요 결과

• 노르두그리드는 챌린지 기간 동안 4,750개 이상의 그리드 작업을 통해 2TB가 넘는 입력 데이터를 처리하고 2.5TB 이상의 출력 데이터를 생성하였다.
• 시스템은 높은 신뢰성과 확장성을 확보하였으며, 1,000개의 CPU가 24시간 365일 가동되었고 클러스터 간 동적 로드 밸런싱이 이루어졌다.
• 레플리카 카탈로그와 자동화된 데이터 검색의 사용 덕분에 입력 파일이 로컬에 존재하지 않더라도 효율적인 작업 배치가 가능했다.
• 런타임 환경 메커니즘이 다양한 클러스터 간 일관된 소프트웨어 설정을 가능하게 하여 복잡한 ATLAS 소프트웨어 스택을 지원하였다.
• 외부 데이터 종속성(예: LArCalorimeter 노이즈 데이터베이스)은 로컬 캐싱을 통해 처리되어 공기 격리 환경에서의 연결 문제를 해결하였다.
• 노르두그리드의 미들웨어는 스트레스 조건에서도 안정적이고 유연하게 작동하였으며, 스칸디나비아 전역의 여러 컴퓨팅 센터에서의 도입을 이끌었다.