[논문 리뷰] Virtual Data in CMS Analysis

Adam Arbree, Paul Avery외 6명|arXiv (Cornell University)|2003. 06. 02.

Distributed and Parallel Computing Systems참고 문헌 6인용 수 3

한 줄 요약

이 논문은 LHC의 CMS 실험에서 고에너지 물리학 분석의 협업, 재현 가능성, 감사 가능성을 향상시키기 위해 카이머라 프레임워크와 ROOT를 사용한 가상 데이터 관리 시스템을 제안한다. 변환과 파생 과정을 통해 데이터 기원을 추적함으로써, 시스템은 동적 데이터 제품 재구성, 자동화된 종속성 관리, 시뮬레이션, 재구성, 분석 워크플로우 간 원활한 통합을 가능하게 하여 대규모 과학 계산에서 협업과 재현 가능성의 수준을 크게 향상시킨다.

ABSTRACT

The use of virtual data for enhancing the collaboration between large groups of scientists is explored in several ways: - by defining ``virtual'' parameter spaces which can be searched and shared in an organized way by a collaboration of scientists in the course of their analysis; - by providing a mechanism to log the provenance of results and the ability to trace them back to the various stages in the analysis of real or simulated data; - by creating ``check points'' in the course of an analysis to permit collaborators to explore their own analysis branches by refining selections, improving the signal to background ratio, varying the estimation of parameters, etc.; - by facilitating the audit of an analysis and the reproduction of its results by a different group, or in a peer review context. We describe a prototype for the analysis of data from the CMS experiment based on the virtual data system Chimera and the object-oriented data analysis framework ROOT. The Chimera system is used to chain together several steps in the analysis process including the Monte Carlo generation of data, the simulation of detector response, the reconstruction of physics objects and their subsequent analysis, histogramming and visualization using the ROOT framework.

연구 동기 및 목표

• CMS와 같은 대규모 협업에서 복잡하고 CPU 및 데이터 집약적인 과학 워크플로우를 관리하는 데 도전하는 문제를 해결하기 위해.
• 과학자들이 분석 컴포넌트와 결과를 전체 기원 추적 기능을 통해 공유하고 발견하며 재사용할 수 있도록 하기 위해.
• 의존성 또는 알고리즘이 변경될 경우 데이터 제품의 재구성을 자동화하여 수동 오류와 노력의 양을 줄이기 위해.
• 버전 관리된 데이터와 코드를 갖춘 모듈형이고 부분적으로 자율적인 워크플로우를 통해 협업 분석을 지원하기 위해.
• 결과의 감사 가능성과 재현 가능성을 향상시켜 동료 검토 및 과학적 검증에 필수적인 요건을 충족시키기 위해.

제안 방법

• 시스템은 데이터 변환과 파생 과정에 대한 메타데이터를 저장하기 위해 관계형 스키마 기반의 가상 데이터 카탈로그(VDC)를 사용한다.
• 가상 데이터 언어(VDL)는 데이터 제품과 그 파생 파이프라인을 정의하여 분석 워크플로우의 선언적 기술을 가능하게 한다.
• 카이머라 시스템은 단계 간 종속성을 관리하여, 방향성 비순환 그래프(DAG)로 구성된 워크플로우를 자동으로 조립하고 실행한다.
• 프로토타입은 이벤트 생성을 위한 PYTHIA, 이벤트 저장을 위한 FORTRAN 기반의 HBOOK, 그리고 분석, 시각화, 히스토ограм 생성을 위한 ROOT을 통합한다.
• 각 단계를 둘러싸는 쉘 스크립트(랩퍼)를 사용하여 동적 실행과 PYTHIA와 같은 컴포넌트의 실시간 컴파일을 가능하게 한다.
• 시스템은 쉘 플래너를 통한 로컬 실행과 Condor 또는 기타 스케줄러를 통한 그룹 실행을 모두 지원하여 위치 간 투명성을 확보한다.

실험 결과

연구 질문

• RQ1 대규모 분산 HEP 협업에서 데이터 기원을 체계적으로 추적하고 관리할 수 있는 방법은 무엇인가?
• RQ2 입력 데이터나 알고리즘이 변경될 경우 가상 데이터 시스템이 데이터 제품의 재구성을 자동화할 수 있는가?
• RQ3 과학자들이 워크플로우를 다시 구현하지 않고도 효율적으로 기존 워크플로우를 탐색하고 재사용하며 확장할 수 있는가?
• RQ4 가상 데이터 관리 시스템이 데이터 수정 또는 재처리에 필요한 수동 작업의 양을 얼마나 줄일 수 있는가?
• RQ5 통합된 시스템이 시뮬레이션, 재구성, 분석을 하나의 감사 가능하고 재현 가능한 워크플로우로 통합할 수 있는가?

주요 결과

• 가상 데이터 시스템은 전체 데이터 기원을 성공적으로 추적하여 과학자들이 분석 파이프라인의 모든 변환 단계를 거슬러 올라가 결과를 추적할 수 있도록 했다.
• 시스템은 동적 재처리를 지원한다: 캘리브레이션 오류가 발견되면 모든 종속 데이터 제품이 자동으로 식별되고 재생산된다.
• 프로토타입은 PYTHIA, HBOOK, ROOT를 사용하여 몬테카를로 생성부터 이벤트 시각화까지의 엔드 투 엔드 워크플로우 자동화를 성공적으로 구현하였으며, 전체 재현 가능성을 확보했다.
• VDL와 DAG 기반 실행의 사용으로 복잡한 다단계 분석에서 수동 조율의 필요성이 감소하고 오류가 최소화되었다.
• ROOT과의 통합을 통해 실시간 3D 시각화와 상호작용 가능한 분석이 가능해져 협업과 결과 해석이 향상되었다.
• 시스템은 확장성과 모듈성이 뛰어나 전체 분석 체인의 재사용을 지원하였으며, 새로운 팀이 중복 작업 없이 기존 작업을 기반으로 새로운 분석을 수월하게 구축할 수 있었다.