[논문 리뷰] Achieving 100X faster simulations of complex biological phenomena by coupling ML to HPC ensembles.

Alexander Brace, Hyungro Lee외 8명|arXiv (Cornell University)|2021. 04. 10.

Advanced Data Storage Technologies참고 문헌 44인용 수 9

한 줄 요약

DeepDriveMD는 기계학습과 고성능 계산(HPC) 앙상블을 결합하여 복잡한 생물학적 시뮬레이션을 가속화하며, 단백질 접힘 시뮬레이션에서 최대 100배의 속도 향상을 달성하고 순차적 프레임워크 대비 1.6배 높은 시뮬레이션 처리량을 제공함으로써 동적 기계학습 기반 HPC 워크로드 조정을 통해 더 긴 시간 및 길이 척도의 과학적 분석에 접근할 수 있도록 한다.

ABSTRACT

The use of ML methods to dynamically steer ensemble-based simulations promises significant improvements in the performance of scientific applications. We present DeepDriveMD, a tool for a range of prototypical ML-driven HPC simulation scenarios, and use it to quantify improvements in the scientific performance of ML-driven ensemble-based applications. We discuss its design and characterize its performance. Motivated by the potential for further scientific improvements and applicability to more sophisticated physical systems, we extend the design of DeepDriveMD to support stream-based communication between simulations and learning methods. It demonstrates a 100x speedup to fold proteins, and performs 1.6x more simulations per unit time, improving resource utilization compared to the sequential framework. Experiments are performed on leadership-class platforms, at scales of up to O(1000) nodes, and for production workloads. We establish DeepDriveMD as a high-performance framework for ML-driven HPC simulation scenarios, that supports diverse simulation and ML back-ends, and which enables new scientific insights by improving length- and time-scale accessed.

연구 동기 및 목표

• HPC 기반 시뮬레이션의 계산적 병목 현상을 해결하여 복잡한 생물학적 현상을 가속화한다.
• HPC 자원을 효율적으로 활용하지 못하고 시간 및 길이 척도에 접근을 제한하는 순차적 시뮬레이션 프레임워크의 한계를 극복한다.
• 다양한 시뮬레이션 및 기계학습 백엔드를 통합하여 동적 실시간 HPC 앙상블 조정이 가능한 확장성 있고 유연한 프레임워크를 개발한다.
• 기계학습 기반 성능 최적화를 통해 시간 및 길이 척도에서의 시뮬레이션 공간을 확장하여 새로운 과학적 통찰을 가능하게 한다.
• 생산 워크로드를 기반으로 하여 리더십 수준의 HPC 플랫폼에서 대규모(최대 O(1000) 노드)로 프레임워크의 효과성을 입증한다.

제안 방법

• 기계학습 모델과 HPC 시뮬레이션 앙상블을 동적으로 연결하여 워크로드 조정이 가능한 고성능 프레임워크인 DeepDriveMD를 설계한다.
• 시뮬레이션과 학습 구성 요소 간에 스트림 기반 통신을 구현하여 저지연, 실시간 피드백 및 적응을 가능하게 한다.
• 다양한 시뮬레이션 백엔드(예: 분자 동역학) 및 기계학습 백엔드(예: 신경망)를 지원하여 다양한 과학 분야에의 탄력적 통합을 가능하게 한다.
• 다양한 시뮬레이션 인스턴스가 기계학습 예측에 의해 동적으로 안내되어 정보성 또는 영향력이 큰 궤적을 우선순위로 지정하는 앙상블 기반 시뮬레이션 전략을 활용한다.
• HPC 노드 간의 병렬 처리 및 기계학습 기반 스케줄링과 로드 분배를 통해 순차적 실행 방식을 대체하여 자원 활용도를 최적화한다.
• 생산 워크로드 조건에서 리더십 수준의 HPC 플랫폼에서 최대 O(1000) 노드로 확장하여 성능 및 안정성 검증을 수행한다.

실험 결과

연구 질문

• RQ1 기계학습 기반 동적 조정이 HPC 시뮬레이션 앙상블을 통해 복잡한 생물학적 시스템의 시뮬레이션 시간을 크게 단축시킬 수 있는가?
• RQ2 시뮬레이션과 기계학습 모델 간의 스트림 기반 통신 통합이 HPC 워크로드의 성능 및 확장성에 어떻게 기여하는가?
• RQ3 전통적 순차적 프레임워크 대비 DeepDriveMD는 자원 활용도와 시뮬레이션 처리량을 어느 정도 향상시킬 수 있는가?
• RQ4 기계학습 기반 앙상블 조정이 단백질 접힘 시뮬레이션에서 더 긴 시간 및 길이 척도에 접근하는 데 어떤 영향을 미치는가?
• RQ5 실제 대규모 HPC 환경에서 생산 워크로드 조건에서 DeepDriveMD는 어떤 성능을 보이는가?

주요 결과

• DeepDriveMD는 기계학습 기반 동적 조정을 통해 HPC 앙상블을 조정함으로써 단백질 접힘 시뮬레이션에서 최대 100배의 속도 향상을 달성한다.
• 프레임워크는 순차적 실행 대비 1.6배 높은 시뮬레이션 처리량을 제공하여 자원 활용도를 크게 향상시킨다.
• 시뮬레이션과 학습 구성 요소 간의 스트림 기반 통신은 저지연 실시간 적응을 가능하게 하여 성능 향상에 핵심적인 역할을 한다.
• 프레임워크는 최대 O(1000)개의 HPC 노드에 걸쳐 효과적으로 확장되어 리더십 수준의 플랫폼에서 뛰어난 내구성과 성능을 입증한다.
• DeepDriveMD는 이전에는 접근이 어려웠던 길이 및 시간 척도의 생물학적 시뮬레이션에 접근할 수 있도록 하여 새로운 과학적 통찰을 가능하게 한다.
• 프레임워크는 다양한 시뮬레이션 및 기계학습 백엔드를 지원하여 복잡한 과학 워크로드 전반에 걸쳐 넓은 적용 가능성을 확보한다.