[論文レビュー] Reproducible Performance Optimization of Complex Applications on the Edge-to-Cloud Continuum

Daniel Rosendo, Alexandru Costan+5 more|arXiv (Cornell University)|Aug 4, 2021

Cloud Computing and Resource Management参考文献 48被引用数 5

ひとこと要約

本稿では、E2Cラボフレームワークにパフォーマンス設定分析を統合することで、エッジからクラウドにわたるコンティンuumにおける複雑なアプリケーションの最適化の再現可能性のある手法を提案する。この手法により、異種のインフラストラクチャにわたるデプロイと設定のトレードオフを体系的に探索でき、1000万ユーザーを超える実世界のアプリケーションであるPl@ntNetにおいて、ユーザー応答時間を35%削減し、GPUメモリ使用量を30%削減した。

ABSTRACT

In more and more application areas, we are witnessing the emergence of complex workflows that combine computing, analytics and learning. They often require a hybrid execution infrastructure with IoT devices interconnected to cloud/HPC systems (aka Computing Continuum). Such workflows are subject to complex constraints and requirements in terms of performance, resource usage, energy consumption and financial costs. This makes it challenging to optimize their configuration and deployment. We propose a methodology to support the optimization of real-life applications on the Edge-to-Cloud Continuum. We implement it as an extension of E2Clab, a previously proposed framework supporting the complete experimental cycle across the Edge-to-Cloud Continuum. Our approach relies on a rigorous analysis of possible configurations in a controlled testbed environment to understand their behaviour and related performance trade-offs. We illustrate our methodology by optimizing Pl@ntNet, a world-wide plant identification application. Our methodology can be generalized to other applications in the Edge-to-Cloud Continuum.

研究の動機と目的

• 遅延、コスト、リソース使用量といった複数の制約下で、複雑なハイブリッドエッジ・クラウドアプリケーションを最適化する課題に対処すること。
• エッジ、フォッグ、クラウドの異種インフラストラクチャにわたる、再現可能で体系的な設定トレードオフ分析のアプローチを提供すること。
• 制御されたテストベッドを用いて、大規模な実生活のアプリケーションデプロイとパフォーマンスチューニングを支援すること。
• コンピューティングコンティンuum全体にわたるアプリケーションワークフローの自動的で設定に配慮した最適化を可能にすること。

提案手法

• 制御されたテストベッド環境内できめ細やかな設定空間分析を統合し、エッジ、フォッグ、クラウド層にわたるパフォーマンストレードオフを評価する手法。
• E2Cラボフレームワークに最適化レイヤーを拡張し、コンティンuum全体にわたる自動デプロイ、モニタリング、結果収集をサポートする。
• アプリケーションおよびインfraストラクチャのパrameterを最適化設定ファイル内の設定可能な変数としてモデル化することで、体系的な実験を可能にする。
• 応答時間やリソース消費量といったパフォーマンスメトリクスに従って、計算的に扱いやすい最適化技術を用いてデプロイおよび設定オプションを探索する。
• ユーザー定義サービスはServiceクラスを介してサポートされ、Flink、Spark、Kafkaクラスタなどのコンponent用のカスタムデプロイロジックを可能にする。
• 本実装は、42ノードを備えたGrid’5000テストベッドを活用し、実アプリケーション上で大規模なスケールでの手法の妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 複雑なハイブリッドエッジ・クラウドアプリケーションにおけるパフォーマンストレードオフは、どのように異種インフラストラクチャにわたって体系的に分析・最適化できるか？
• RQ2 実世界のアプリケーションにおいて、エンドツーエンドの遅延、リソース使用量、エネルギー消費量に顕著な影響を与える設定パrameterは何か？
• RQ3 エッジ・クラウドコンティンuum全体にわたるパフォーマンス最適化実験の再現性をどのように保証できるか？
• RQ4 自動設定チューニングは、大規模アプリケーションにおけるユーザー応答時間とGPUメモリ消費量をどの程度削減できるか？

主な発見

• Pl@ntNetにおける最適化されたスレッドプールの割り当てにより、ベースライン設定と比較して同時に処理できるリクエスト数が35%増加した。
• 最適化された設定により、さまざまなワークロードにおいてユーザー応答時間が短縮され、アプリケーションの応答性が向上した。
• 最適化された設定下でGPUメモリ使用量は30%削減され、リソース効率が向上した。
• 本手法は、パrameterスペースの体系的探索を通じて、高性能な設定を効果的に同定できた。
• 拡張されたE2Cラボフレームワークは、実際のテストベッド上でデプロイ、モニタリング、最適化を含む完全な実験サイクルをサポートした。
• 本アプローチは、Pl@ntNetへの成功した適用例からも示されるように、エッジ・クラウドコンティンuumにおける他のアプリケーションへも一般化可能である。