[논문 리뷰] The PROOF Distributed Parallel Analysis Framework based on ROOT

M. Ballintijn, René Brun외 2명|ArXiv.org|2003. 06. 13.

Distributed and Parallel Computing Systems참고 문헌 1인용 수 34

한 줄 요약

이 논문은 ROOT 기반의 분산 병렬 분석 프레임워크인 PROOF를 제시하며, 이는 물리학자들이 이질적인 클러스터를 사용하여 대규모 데이터 세트를 상호작용적으로 분석할 수 있도록 한다. 마스터 및 슬레이브 서버를 갖춘 3-tier 아키텍처와 TSelector 프레임워크를 활용함으로써 PROOF는 높은 확장성을 달성한다—32개 노드에서 8.8GB의 데이터를 12초 내에 처리하여 88%의 효율성과 거의 선형적인 속도 향상을 보이며, 글로벌 그리드 환경에의 통합 계획을 수립하고 있다.

ABSTRACT

The development of the Parallel ROOT Facility, PROOF, enables a physicist to analyze and understand much larger data sets on a shorter time scale. It makes use of the inherent parallelism in event data and implements an architecture that optimizes I/O and CPU utilization in heterogeneous clusters with distributed storage. The system provides transparent and interactive access to gigabytes today. Being part of the ROOT framework PROOF inherits the benefits of a performant object storage system and a wealth of statistical and visualization tools. This paper describes the key principles of the PROOF architecture and the implementation of the system. We will illustrate its features using a simple example and present measurements of the scalability of the system. Finally we will discuss how PROOF can be interfaced and make use of the different Grid solutions.

연구 동기 및 목표

• 분산 컴퓨팅 클러스터를 사용하여 대규모 데이터 세트의 상호작용적이고 투명한 분석을 가능하게 하기 위해.
• 로컬 워크스테이션의 한계를 극복하기 위해 이질적이고 지리적으로 분산된 클러스터를 통해 분석을 확장하기 위해.
• 로드 변화 및 네트워크 장애와 같은 동적 클러스터 조건에 적응 가능하도록 보장하기 위해.
• 글로벌 가상 클러스터 배포를 위한 그리드 미들웨어와 원활하게 통합하기 위해.
• 기존 ROOT 워크플로우와의 호환성을 유지하면서도 병렬 실행을 가능하게 하기 위해.

제안 방법

• PROOF는 클라이언트, 마스터 서버, 클러스터 노드에 있는 다수의 슬레이브 서버로 구성된 3-tier 아키텍처를 사용한다.
• 작업은 패킷 크기를 조절하여 노드 성능에 따라 부하를 균형 잡는 풀 기반 프로토콜을 통해 분배된다.
• TSelector 프레임워크를 통해 사용자는 한 번의 코드 작성으로 로컬 워크스테이션에서나 클러스터에서 병렬로 실행할 수 있다.
• 각 슬레이브는 데이터 패킷을 독립적으로 처리한 후 부분 결과를 마스터에 전송하여 병합한다.
• 시스템은 통신 오버헤드와 성능 변동을 최소화하기 위해 패킷 크기를 조정함으로써 동적 부하 균형을 지원한다.
• AliEn과 같은 그리드 미들웨어 통합을 통해 원격 작업 제출, 파일 카탈로그 접근, 자원 브로커링을 통한 가상 글로벌 클러스터 지원이 가능하다.

실험 결과

연구 질문

• RQ1 이질적이고 분산된 클러스터를 통해 확장할 때 대규모 데이터 분석을 어떻게 상호작용적이고 투명하게 만들 수 있는가?
• RQ2 어떤 아키텍처 설계가 동적 클러스터 환경에서 효율적인 부하 균형과 장애 내성 보장을 가능하게 하는가?
• RQ3 PROOF는 노드 수가 증가함에 따라 얼마나 근접한 선형 확장성을 달성할 수 있는가?
• RQ4 기존 그리드 미들웨어와의 통합을 통해 PROOF는 어떻게 글로벌 가상 클러스터를 지원할 수 있는가?
• RQ5 같은 분석 코드가 수정 없이 로컬에서나 클러스터에서 병렬로 효율적으로 실행될 수 있는가?

주요 결과

• PROOF는 1개 노드에서 325초였던 분석 시간을 32개 노드에서 12초로 줄여 27배의 속도 향상을 달성했다. 8.8GB의 데이터 세트에 대해.
• 32개 노드 클러스터에서 88%의 효율성을 보이며 강력한 확장성과 효과적인 부하 균형을 입증했다.
• 64개 CPU(노드당 2개 슬레이브)를 사용할 경우, 거의 선형적인 확장성은 유지되었지만 SMP 오버헤드와 자원 경쟁으로 인해 효율성이 감소했다.
• TSelector 프레임워크는 로컬과 병렬 실행 간 코드 재사용을 원활하게 해주어 투명성과 일관성을 보장했다.
• PROOF는 4대의 듀얼 프로세서 머신에 8개의 슬레이브를 사용하여 240MB의 데이터를 12초 내에 상호작용적으로 분석하는 데 성공했다.
• 시스템은 가변적인 패킷 크기를 통해 동적 부하 적응이 가능한 100노드 이상의 클러스터로도 효율적으로 확장될 수 있도록 설계되어 있다.