[論文レビュー] RADICAL-Cybertools: Middleware Building Blocks for Scalable Science

Vivek Balasubramanian, Shantenu Jha+2 more|arXiv (Cornell University)|Apr 5, 2019

Scientific Computing and Data Management参考文献 13被引用数 17

ひとこと要約

RADICAL-Cybertools (RCT) は、スケーラブルな科学計算のためのモジュラーで合成可能なミドルウェアフレームワークを提供し、異種の HPC および HTC インfraストラクチャ across で複雑なワークロードの高性能実行を可能にする。パイロットベースのタスク管理とアンサンブルワークフロー抽象化を活用することで、バイオフィジックス や気候モデル化などの分野における極大規模の科学計算を実現し、低コードでポータブルかつ相互運用可能な実行を多様なプラットフォームで実現した。

ABSTRACT

RADICAL-Cybertools (RCT) are a set of software systems that serve as middleware to develop efficient and effective tools for scientific computing. Specifically, RCT enable executing many-task applications at extreme scale and on a variety of computing infrastructures. RCT are building blocks, designed to work as stand-alone systems, integrated among themselves or integrated with third-party systems. RCT enables innovative science in multiple domains, including but not limited to biophysics, climate science and particle physics, consuming hundreds of millions of core hours. This paper provides an overview of RCT systems, their impact, and the architectural principles and software engineering underlying RCT

研究の動機と目的

• 異種の計算インfraストラクチャ across でスケーラブルで多様かつ進化する科学的ワークロードを支援する課題に対処すること。
• 機能をインfraストラクチャから分離し、科学的分野を横断して再利用可能な持続可能な、合成可能なミドルウェアのビルディング ブロックを設計すること。
• モノリシックなミドルウェアの制限を克服し、モジュラーで合成可能かつ相互運用可能なシステムを実現し、サードパーティのツールと統合可能にする。
• CPU、GPU、アクセラレータを含む、同時に実行され、異種で動的にオーケストレーションされるタスクを、極大規模の科学的アプリケーションが必要とする。
• パイロットおよびアンサンブルワークフローといったハイレベルな抽象化を通じて、ドメインの科学者がワークフローおよびリソース管理の低レベルの作業から解放され、科学に集中できるようにすること。

提案手法

• RADICAL-Pilot を、バッチキューイングを経由せずに、計算ユニット（CUs）を直接スケジューリングできるように、計算リソースを「パイロット」として抽象化するパイロットベースの実行モデルとして実装する。
• RADICAL-Ensemble Toolkit (EnTK) を使用して、任意の依存関係および優先順位関係を持つタスクのアンサンブルを管理するためのハイレベルなプログラミングモデルを提供する。
• RADICAL-SAGA を、異種の分散リソースへのポータブルで Python ベースのインターフェースとして活用し、ジョブスケジューラ、ファイル転送、プロビジョニングサービスを横断する相互運用性を実現する。
• モularity、ステートレスなコンポーネント、専用の通信メッシュに基づく「ビルディング ブロック」アーキテクチャパターンを採用し、スケーラビリティ、フェイルセーフ、合成可能性を確保する。
• コンポーネントを独立してデプロイ可能かつ設定可能に設計し、Airflow、Oozie、Spark Streaming などのサードパーティツールと統合して使用する場合も含め、スタンドアロンでの使用も可能にする。
• XSEDE や Blue Waters、DOE リーダーシップ マシンなどの生産用 HPC および HTC システムと統合し、スケールでのパフォーマンスと相互運用性を検証する。

実験結果

リサーチクエスチョン

• RQ1 どのようにすれば、多様な計算インfraストラクチャ across で極大規模で異種かつ動的な科学的ワークロードをサポートできるミドルウェアをアーキテクチャ設計できるか？
• RQ2 持続可能で合成可能かつ相互運用可能な科学的ミドルウェアを実現するためのアーキテクチャパターンは何か？ これは、将来的な保守および拡張性を考慮して設計できるか？
• RQ3 パイロットベースおよびアンサンブルベースの抽象化は、大規模な科学的ワークフローのデプロイおよび管理の複雑さをどの程度軽減できるか？
• RQ4 合成可能なミドルウェアのビルディング ブロックは、科学的分野を横断して開発生産性を向上させ、重複作業を削減するのにどの程度寄与するか？
• RQ5 モノリシックな開発を避け、複数の並列で進行中の科学的プロジェクトをカバーする高インパクトなミドルウェアシステムを、少数のアジャイルな開発チームが持続可能にスケーリングできるか？

主な発見

• RCT は、バイオフィジックス、気候科学、素粒子物理学を含む多様な科学的分野で、数億コアアワーにのぼる実行を可能にした。
• RCT と HTBAC の統合により、実際のドラッグ候補物質を対象とした制御実験で、自由エネルギー計算の時間短縮が 2.5 倍に改善された。
• AIMES プロジェクトは、スケジューリング意思決定にタスクおよびリソースのメタデータを統合することで、フェデレーテッド HPC 環境におけるパフォーマンスとスケーラビリティが向上することを示した。
• ICEBERG は、1 つのフレームワーク内で RADICAL-Pilot と EnTK の両方を活用し、5 つの異なる極域科学のユースケースをサポートしたが、ワークロードの種別に応じて最小限の API 変更で実現した。
• ExTASY と RepEx は、EnTK を使用して、ワークフローの構築作業にほとんど工数を費やすことなく、複雑なバイオ分子サンプリングワークフローを実装し、科学的イノベーションに集中できた。
• ビルディング ブロックアプローチにより、2 名のアクティブな開発者でのみ持続可能な開発が可能となり、合成可能で再利用可能かつ相互運用可能なコンポーネントを通じて、10 以上の並列進行中の科学的プロジェクトを支援した。