[论文解读] Achieving 100X faster simulations of complex biological phenomena by coupling ML to HPC ensembles.

Alexander Brace, Hyungro Lee+8 more|arXiv (Cornell University)|Apr 10, 2021

Advanced Data Storage Technologies参考文献 44被引用 9

一句话总结

DeepDriveMD 通过将机器学习与高性能计算（HPC）集群相结合，加速了复杂生物模拟，实现了蛋白质折叠模拟高达 100 倍的加速，并且相比串行框架，模拟吞吐量提高了 1.6 倍，通过动态 ML 驱动的 HPC 工作负载调控，实现了更长、更快的科学时间尺度和长度尺度的探索。

ABSTRACT

The use of ML methods to dynamically steer ensemble-based simulations promises significant improvements in the performance of scientific applications. We present DeepDriveMD, a tool for a range of prototypical ML-driven HPC simulation scenarios, and use it to quantify improvements in the scientific performance of ML-driven ensemble-based applications. We discuss its design and characterize its performance. Motivated by the potential for further scientific improvements and applicability to more sophisticated physical systems, we extend the design of DeepDriveMD to support stream-based communication between simulations and learning methods. It demonstrates a 100x speedup to fold proteins, and performs 1.6x more simulations per unit time, improving resource utilization compared to the sequential framework. Experiments are performed on leadership-class platforms, at scales of up to O(1000) nodes, and for production workloads. We establish DeepDriveMD as a high-performance framework for ML-driven HPC simulation scenarios, that supports diverse simulation and ML back-ends, and which enables new scientific insights by improving length- and time-scale accessed.

研究动机与目标

• 通过加速基于 HPC 的模拟，解决模拟复杂生物现象的计算瓶颈。
• 克服传统串行模拟框架对 HPC 资源利用不足且限制更长时间-长度尺度访问的局限性。
• 开发一个可扩展、可扩展的框架，集成多种模拟和机器学习后端，实现对 HPC 集群的动态、实时调控。
• 通过机器学习驱动的性能优化，扩展模拟在时间和长度尺度上的可访问范围，从而实现新的科学洞见。
• 在大规模（最多 O(1000) 个节点）的领导级 HPC 平台上，使用生产级工作负载，验证该框架的有效性。

提出的方法

• 设计 DeepDriveMD 为高性能框架，将机器学习模型与基于 HPC 的模拟集群相结合，实现对工作负载的动态调控。
• 在模拟组件与学习组件之间实现基于流的通信，以支持低延迟、实时反馈与自适应。
• 支持多种模拟后端（例如，分子动力学）和机器学习后端（例如，神经网络），以实现跨科学领域的灵活集成。
• 采用基于集群的模拟策略，其中多个模拟实例由机器学习预测动态引导，以优先处理信息量大或影响重大的轨迹。
• 通过将串行模拟执行替换为并行、由机器学习指导的调度与负载分配，优化资源利用率。
• 在领导级 HPC 平台上将框架扩展至最多 O(1000) 个节点，以在生产级工作负载下验证性能与稳定性。

实验结果

研究问题

• RQ1 基于机器学习的 HPC 模拟集群动态调控是否能显著缩短复杂生物系统模拟的时间？
• RQ2 模拟与机器学习模型之间基于流的通信集成，如何提升 HPC 工作负载的性能与可扩展性？
• RQ3 与传统串行框架相比，DeepDriveMD 在资源利用率与模拟吞吐量方面能提升多少？
• RQ4 机器学习驱动的集群调控对蛋白质折叠模拟中访问更长时间-长度尺度的影响如何？
• RQ5 在真实世界、大规模 HPC 条件下，使用生产级工作负载时，DeepDriveMD 的表现如何？

主要发现

• 通过使用机器学习动态引导 HPC 集群，DeepDriveMD 在蛋白质折叠模拟中实现了高达 100 倍的加速。
• 与串行执行相比，该框架使模拟吞吐量提高了 1.6 倍，显著提升了资源利用率。
• 模拟与学习组件之间的基于流的通信实现了低延迟、实时自适应，这对性能提升至关重要。
• 该框架在最多 O(1000) 个 HPC 节点上表现出良好的可扩展性，证明了其在领导级平台上的鲁棒性与高性能。
• DeepDriveMD 实现了对以往无法访问的时间-长度尺度的生物模拟的探索，从而解锁了新的科学洞见。
• 该框架支持多种模拟与机器学习后端，确保其在复杂科学工作负载中的广泛适用性。