[논문 리뷰] Savu: A Python-based, MPI Framework for Simultaneous Processing of Multiple, N-dimensional, Large Tomography Datasets

Nicola Wadeson, Mark Basham|arXiv (Cornell University)|2016. 10. 24.

Computational Physics and Python Applications인용 수 31

한 줄 요약

Savu는 대규모 다차원 단층촬영 데이터셋을 스케일링하여 병렬로 처리할 수 있도록 설계된 파이썬 기반의 MPI 지원 프레임워크입니다. 모듈형 플러그인과 병렬 HDF5를 활용하여 메모리 제약을 극복하고, 클러스터 또는 단일 머신에서 효율적이고 유연하며 확장 가능한 데이터 처리를 가능하게 하며, 다이아몬드 라이트 소스 싱크로트론 시설에서 성공적으로 구현되었습니다.

ABSTRACT

Diamond Light Source (DLS), the UK synchrotron facility, attracts scientists from across the world to perform ground-breaking x-ray experiments. With over 3000 scientific users per year, vast amounts of data are collected across the experimental beamlines, with the highest volume of data collected during tomographic imaging experiments. A growing interest in tomography as an imaging technique, has led to an expansion in the range of experiments performed, in addition to a growth in the size of the data per experiment. Savu is a portable, flexible, scientific processing pipeline capable of processing multiple, n-dimensional datasets in serial on a PC, or in parallel across a cluster. Developed at DLS, and successfully deployed across the beamlines, it uses a modular plugin format to enable experiment-specific processing and utilises parallel HDF5 to remove RAM restrictions. The Savu design, described throughout this paper, focuses on easy integration of existing and new functionality, flexibility and ease of use for users and developers alike.

연구 동기 및 목표

• 심크로트론 시설에서 생성되는 점점 더 크고 복잡한 단층촬영 데이터셋을 처리하는 데 발생하는 도전 과제를 해결하기 위해.
• 계산 클러스터를 통해 병렬로 여러 개의 다차원 데이터셋을 효율적이고 확장 가능하게 처리하기 위해.
• 플러그인 아키텍처를 통해 기존 및 신규 처리 알고리즘을 쉽게 통합할 수 있도록 하는 탄력적이고 확장 가능한 프레임워크를 제공하기 위해.
• 병렬 HDF5 I/O와의 통합을 통해 대규모 데이터셋 처리 시 발생하는 RAM 제약을 극복하기 위해.
• 심크로트론 비ーム라인에서 비전문가 사용자 및 개발자들이 데이터 처리 워크플로우를 쉽게 사용하고 유지보수할 수 있도록 단순화하기 위해.

제안 방법

• 프레임워크는 복수의 노드에서 분산 컴퓨팅을 위해 MPI(Message Passing Interface)를 사용하는 파이썬으로 구현되었습니다.
• 사용자와 개발자가 특정 실험적 요구사항에 맞는 커스텀 처리 단계를 삽입할 수 있도록 모듈형 플러그인 시스템을 사용합니다.
• 데이터 입력 및 출력은 병렬 HDF5를 통해 처리되어 효율적인 I/O를 보장하고 메모리 압박을 줄입니다.
• 파이프라인 아키텍처는 단일 머신에서의 순차적 처리 또는 클러스터에서의 병렬 실행을 모두 가능하게 합니다.
• 프레임워크는 다차원 데이터셋을 지원하므로 복잡한 단층촬영 영상 워크로드에 적합합니다.
• 처리 단계, 데이터 흐름, 실행 파rameter를 정의하는 설정 기반 워크플로우 시스템을 제공합니다.

실험 결과

연구 질문

• RQ1 메모리 오버헤드를 최소화하면서도 계산 클러스터를 통해 대규모 다중 데이터셋 단층촬영 처리를 효율적으로 병렬화할 수 있는 방법은 무엇인가요?
• RQ2 다양한 과학적 처리 플러그인을 고성능 컴퓨팅 환경에서 쉽게 통합하고 확장할 수 있도록 하는 아키텍처 패턴은 무엇인가요?
• RQ3 하나의 프레임워크가 PC에서의 인터랙티브 소규모 처리와 클러스터에서의 대규모 분산 처리를 모두 지원할 수 있는 방법은 무엇인가요?
• RQ4 병렬 HDF5는 다차원 단층촬영 데이터셋에 대한 확장 가능한 I/O를 어떻게 지원하나요?
• RQ5 심크로트론 환경에서 비전문가 사용자를 고려할 때 과학적 워크플로우를 어떻게 사용자 친화적이고 유지보수 용이하게 만들 수 있나요?

주요 결과

• Savu는 클러스터를 통해 여러 대규모 단층촬영 데이터셋의 병렬 처리를 성공적으로 구현하여, 순차적 실행 대비 처리 시간을 크게 단축시켰습니다.
• 병렬 HDF5의 사용을 통해 가용 RAM을 초월하는 크기의 데이터셋도 효율적으로 처리할 수 있어, 기존의 메모리 병목 현상을 극복했습니다.
• 모듈형 플러그인 아키텍처 덕분에 핵심 프레임워크를 수정하지 않고도 새로운 처리 알고리즘을 쉽게 통합할 수 있었습니다.
• 프레임워크는 다이아몬드 라이트 소스에서 여러 비임계선에 걸쳐 배포되어 실제 환경에서의 확장성과 신뢰성을 입증했습니다.
• 시스템은 PC에서의 인터랙티브 개발과 클러스터에서의 고처리량 배치 처리를 모두 지원하여 다양한 사용자 요구사항에 대한 사용성을 향상시켰습니다.