[論文レビュー] From Facility to Application Sensor Data: Modular, Continuous and Holistic Monitoring with DCDB

Alessio Netti, Micha Mueller+5 more|arXiv (Cornell University)|Jun 18, 2019

Advanced Data Storage Technologies参考文献 32被引用数 9

ひとこと要約

DCDB は、施設、システム、ランタイム、アプリケーションレベルのセンサー情報を統合する分散型 NoSQL ストアに、HPC システム向けのモジュラーでスケーラブルかつ拡張可能な監視フレームワークである。最小限のオーバーヘッドで包括的かつ継続的な監視を可能にし、実際の HPC システムへの導入およびエネルギー管理やシステム特性評価のユースケースを通じて実証された。

ABSTRACT

Today's HPC installations are highly-complex systems, and their complexity will only increase as we move to exascale and beyond. At each layer, from facilities to systems, from runtimes to applications, a wide range of tuning decisions must be made in order to achieve efficient operation. This, however, requires systematic and continuous monitoring of system and user data. While many insular solutions exist, a system for holistic and facility-wide monitoring is still lacking in the current HPC ecosystem. In this paper we introduce DCDB, a comprehensive monitoring system capable of integrating data from all system levels. It is designed as a modular and highly-scalable framework based on a plugin infrastructure. All monitored data is aggregated at a distributed noSQL data store for analysis and cross-system correlation. We demonstrate the performance and scalability of DCDB, and describe two use cases in the area of energy management and characterization.

研究の動機と目的

• 施設、システム、ランタイム、アプリケーションの全レイヤーからのデータ統合を図ることで、HPC システムにおける包括的で施設全体をカバーする監視の欠如を解消すること。
• インfraストラクチャやアプリケーションレベルのメトリクスに限定する孤立した監視ツールの制限を克服すること。
• 継続的なデータ収集とクロスレイヤー相関を可能にする、統一的でスケーラブルかつ拡張可能なフレームワークを提供すること。
• 異種アーキテクチャや動的チューニング機構を有する多様な HPC 環境においても、効率的で低オーバーヘッドの監視を実現すること。
• エネルギー管理やパフォーマンス特性評価などの高度なユースケースを可能にするために、多様なデータソースを1つの分析可能なデータストアに統合すること。

提案手法

• 全システムレイヤーにわたり多様なデータソースをモジュラーに統合できるプラグインベースのアーキテクチャを設計する。
• 高スケーラビリティを実現するため、分散型で階層的な NoSQL データストアを採用し、すべてのソースからの監視データを集約・永続化する。
• 緩い結合とジョブ境界を超えたスムーズなデプロイメントを実現するため、MQTT を用いた通信を採用し、継続的なデータインジェストを確保する。
• 軽量なデータ収集エージェント（Collect Agents）と、データを中央ストアに効率的に転送する Pusher コンponent を実装する。
• 拡張可能なプラグインを通じて、標準の HPC 監視プロトコルおよびインターフェース（例：パフォーマンスカウンタ、電力計測器、アプリケーションプロファイリング）をサポートする。
• RESTful API とセンサー キャッシュを統合し、リアルタイムアクセスを可能にするとともに、将来のストリーミング分析ワークロードに対応する。

実験結果

リサーチクエスチョン

• RQ1 施設、システム、ランタイム、アプリケーションの全 HPC スタックレイヤーにわたり、異種センサー情報を統合できる包括的監視フレームワークをどのように設計できるか？
• RQ2 大規模 HPC 環境において、低オーバーヘッドで継続的かつスケーラブルな監視を実現するためのアーキテクチャパターンは何か？
• RQ3 プラグインベースのシステムが、多様な HPC デプロイや進化する監視ニーズに柔軟に対応できる拡張性と適応性をどのように実現できるか？
• RQ4 このようなフレームワークが、実際の HPC プロダクションシステムにおいて示す性能およびスケーラビリティ特性は何か？
• RQ5 包括的監視データが、エネルギー効率最適化や異常検出といった高度なユースケースをどのように支援できるか？

主な発見

• DCDB は最小限のパフォーマンスオーバーヘッドを達成しており、ベンチマーク評価では他の最先端監視ソリューションと同等の性能を示した。
• このフレームワークは、レイブニッツ・スーパーコンputing センターにおける複数のプロダクション HPC システムに成功裏に導入され、実世界でのスケーラビリティと安定性を実証した。
• DCDB は、施設センサー、システムハードウェア、ランタイムメトリクス、アプリケーションレベルのパフォーランスカウンタからのデータ統合により、クロスレイヤー相関を可能にした。
• プラグインベースのアーキテクチャのおかげで、GPU パフォーマンスイベントやアプリケーションプロファイリングデータなど、新しいデータソースの統合がシームレスに可能となった。
• REST API やセンサー キャッシュといった既存コンponent を活用する計画された分析レイヤーを備えることで、ストリーミング分析の将来の統合が可能となった。
• DCDB の設計により、データフィルタリングなしに継続的な監視が可能となり、詳細な分析や最適化に適した生のメトリクスの忠実な保持が実現した。