[論文レビュー] Achieving 100X faster simulations of complex biological phenomena by coupling ML to HPC ensembles.

Alexander Brace, Hyungro Lee+8 more|arXiv (Cornell University)|Apr 10, 2021

Advanced Data Storage Technologies参考文献 44被引用数 9

ひとこと要約

DeepDriveMD は、機械学習とハイパフォーマンスコンピューティング（HPC）エンsembles を結合することで、複雑な生物学的シミュレーションを加速し、タンパク質折りたたみシミュレーションで最大 100 倍の高速化と、従来の順次フレームワークと比較して 1.6 倍の高いシミュレーションスループットを達成した。これにより、HPCワークロードに対する動的で機械学習駆動の調整によって、より長時間・大規模な科学的時間スケールおよび長さスケールへのアクセスが可能になった。

ABSTRACT

The use of ML methods to dynamically steer ensemble-based simulations promises significant improvements in the performance of scientific applications. We present DeepDriveMD, a tool for a range of prototypical ML-driven HPC simulation scenarios, and use it to quantify improvements in the scientific performance of ML-driven ensemble-based applications. We discuss its design and characterize its performance. Motivated by the potential for further scientific improvements and applicability to more sophisticated physical systems, we extend the design of DeepDriveMD to support stream-based communication between simulations and learning methods. It demonstrates a 100x speedup to fold proteins, and performs 1.6x more simulations per unit time, improving resource utilization compared to the sequential framework. Experiments are performed on leadership-class platforms, at scales of up to O(1000) nodes, and for production workloads. We establish DeepDriveMD as a high-performance framework for ML-driven HPC simulation scenarios, that supports diverse simulation and ML back-ends, and which enables new scientific insights by improving length- and time-scale accessed.

研究の動機と目的

• HPCベースのシミュレーションを加速することで、複雑な生物学的現象をシミュレートする際の計算的ボトル neck を解消すること。
• HPCリソースを十分に活用しない従来の順次シミュレーションフレームワークの制限を克服し、より長い時間スケールおよび長さスケールへのアクセスを可能にすること。
• さまざまなシミュレーションおよび機械学習バックエンドを統合できるスケーラブルで拡張可能なフレームワークを構築し、HPCエナセブルの動的・リアルタイムな調整を可能にすること。
• 機械学習駆動のパフォーマンス最適化により、時間的および長さ的スケールの両方において、アクセス可能なシミュレーション空間を拡大することで、新たな科学的知見を可能にすること。
• 生産ワークロードを用いて、最大 O(1000) ノード規模のリーダーシップクラス HPC プラットフォーム上で、フレームワークの有効性をスケールで実証すること。

提案手法

• 機械学習モデルと HPC シミュレーションエナセブルを結合し、動的ワークロード調整を可能にする高性能フレームワーク DeepDriveMD を設計する。
• シミュレーションと学習部間でストリームベースの通信を実装し、低遅延でリアルタイムのフィードバックと適応を可能にする。
• 分子動力学などの多様なシミュレーションバックエンドおよびニューラルネットワークなどの多様な機械学習バックエンドをサポートし、科学的分野に応じた柔軟な統合を実現する。
• 複数のシミュレーションインスタンスが、機械学習予測によって動的にガイドされ、情報量が多くて影響力のある軌道を優先する、エナセブルベースのシミュレーション戦略を活用する。
• HPCノード間での並列実行と、機械学習によるスケジューリングおよび負荷分散を導入することで、順次実行に代わるリソース利用効率を最適化する。
• 生産ワークロードを想定し、リーダーシップクラス HPC プラットフォーム上で最大 O(1000) ノード規模にスケーリングし、パフォーマンスと安定性を検証する。

実験結果

リサーチクエスチョン

• RQ1 機械学習駆動の動的調整により、HPC シミュレーションエナセブルを制御することで、複雑な生物学的系のシミュレーション時間を顕著に短縮できるか？
• RQ2 シミュレーションと機械学習モデルの間でストリームベースの通信を統合することで、HPCワークロードにおけるパフォーマンスとスケーラビリティがどのように向上するか？
• RQ3 従来の順次フレームワークと比較して、DeepDriveMD はリソース利用効率とシミュレーションスループットをどの程度向上できるか？
• RQ4 機械学習駆動のエナセブル調整が、タンパク質折りたたみシミュレーションにおけるより長い時間スケールおよび長さスケールへのアクセスに与える影響はいかほどか？
• RQ5 生産レベルのワークロードを想定した実世界の大規模 HPC 条件下で、DeepDriveMD はどのように動作するか？

主な発見

• DeepDriveMD は、機械学習による動的調整により、タンパク質折りたたみシミュレーションで最大 100 倍の高速化を達成した。
• フレームワークは、順次実行と比較して 1.6 倍のシミュレーションスループットを向上させ、リソース利用効率を顕著に向上させた。
• シミュレーションと学習部間のストリームベース通信により、低遅延でリアルタイムの適応が可能となり、パフォーマンス向上に不可欠な要因となった。
• フレームワークは最大 O(1000) 個の HPC ノードに効果的にスケーリングでき、リーダーシップクラスのプラットフォームでも高い耐久性とパフォーマンスを示した。
• DeepDriveMD は、従来はアクセスが困難だった長さスケールおよび時間スケールの生物学的シミュレーションにアクセスを可能にし、新たな科学的知見の解明を可能にした。
• フレームワークは多様なシミュレーションおよび機械学習バックエンドをサポートしており、複雑な科学的ワークロードへの広範な適用性を確保している。