[論文レビュー] Machine Learning-based Orchestration of Containers: A Taxonomy and Future Directions

Zhiheng Zhong, Minxian Xu+3 more|arXiv (Cornell University)|Jun 24, 2021

Cloud Computing and Resource Management被引用数 8

ひとこと要約

本論文は、2016年から2021年までの機械学習ベースのコンテナオーケストレーション技術を分析し、目的、メトリクス、システムアーキテクチャの観点からアプローチを分類する包括的な分類法と体系的レビューを提示する。動的ワークロード処理、リソースの非均一性、多次元最適化に関する主な課題を特定し、ハイブリッドクラウドおよびエッジクラウド環境における完全統合型ML駆動のオーケストレーションフレームワークのロードマップを提案する。

ABSTRACT

Containerization is a lightweight application virtualization technology, providing high environmental consistency, operating system distribution portability, and resource isolation. Existing mainstream cloud service providers have prevalently adopted container technologies in their distributed system infrastructures for automated application management. To handle the automation of deployment, maintenance, autoscaling, and networking of containerized applications, container orchestration is proposed as an essential research problem. However, the highly dynamic and diverse feature of cloud workloads and environments considerably raises the complexity of orchestration mechanisms. Machine learning algorithms are accordingly employed by container orchestration systems for behavior modelling and prediction of multi-dimensional performance metrics. Such insights could further improve the quality of resource provisioning decisions in response to the changing workloads under complex environments. In this paper, we present a comprehensive literature review of existing machine learning-based container orchestration approaches. Detailed taxonomies are proposed to classify the current researches by their common features. Moreover, the evolution of machine learning-based container orchestration technologies from the year 2016 to 2021 has been designed based on objectives and metrics. A comparative analysis of the reviewed techniques is conducted according to the proposed taxonomies, with emphasis on their key characteristics. Finally, various open research challenges and potential future directions are highlighted.

研究の動機と目的

• 動的で非均一的かつ大規模なクラウド環境におけるヒューリスティックベースのコンテナオーケストレーションの限界を解消すること。
• 2016年から2021年までの間における機械学習の応用の進化を、さまざまな目的とパフォーマンスメトリクスの観点から分析すること。
• システムアーキテクチャ、学習パラダイム、最適化目的に基づく詳細な分類法を用いて、既存のMLベースの手法を分類すること。
• 将来のオーケストレーションシステムにおける多次元最適化、エネルギー効率、エッジインテリジェンスに関するオープンな課題を特定すること。
• エンド・ツー・エンドのオーケストレーション意思決定を可能にする完全統合型MLベースの最適化エンジンの開発のためのロードマップを提示すること。

提案手法

• 2016年から2021年までのMLベースのコンテナオーケストレーションに関する査読付き論文の体系的文献レビューを実施する。
• 学習パラダイム（教師あり、強化学習など）、システムアーキテクチャ（集中型、分散型）、最適化目的（遅延、コスト、エネルギー）に基づいて、既存の手法を分類する多次元分類法を提案する。
• 自動スケーリング、負荷分散、SLA準拠などの目的に沿って、技術の進化をマッピングすることで分析する。
• モデルタイプ、トレーニングデータソース、推論遅延、デプロイメント環境（クラウド、エッジ、ハイブリッド）などの主な特性に基づいて、手法を比較する。
• オフライン学習とオンライン推論の両方をサポートする完全統合型MLベースの最適化エンジンの参照アーキテクチャを設計する。
• 分散型エッジインテリジェンスエージェントが、地理的に分散したエッジおよびフォグ環境におけるリアルタイムで低遅延な意思決定に有効であるかを評価する。

実験結果

リサーチクエスチョン

• RQ1 2016年から2021年の間に、コンテナオーケストレーションシステムにおける機械学習技術は、目的とパフォーマンスメトリクスの観点からどのように進化したか。
• RQ2 現在のMLベースのコンテナオーケストレーションソリューションで使用されている主な学習パラダイムとシステムアーキテクチャは何か。
• RQ3 動的で非均一的かつ大規模なワークロードを処理するにあたり、既存のヒューリスティックベースのオーケストレーションシステムの主な制限は何であるか。
• RQ4 MLモデルをどのようにしてオーケストレーションパイプラインに効果的に統合することで、リアルタイムで多次元最適化意思決定を支援できるか。
• RQ5 完全統合型でスケーラブルかつエネルギー効率の良いML駆動のオーケストレーションフレームワークを構築するにあたり、残された課題と今後の研究方向性は何か。

主な発見

• 既存の多くは部分的に統合されたエンジンを採用しており、MLモデルが行動モデリングにのみ使用されており、エンド・ツー・エンドの意思決定には使われていない。
• 強化学習と教師あり学習が主なパラダイムであり、強化学習は動的スケーリングと負荷分散において有望な成果を示している。
• ブルーウォーク技術などのエネルギー効率向上メカニズムは、MLベースのワークロード予測とリソース利用状況モデリングと組み合わせることで実現可能である。
• コスト、遅延、SLA違反のバランスを取る多次元最適化は依然として大きな課題であり、パフォーマンス分解のための標準化されたベンチマークが存在しない。
• 地理的に分散したエッジおよびフォグコンピューティングインfraに適した低遅延でスケーラブルなオーケストレーションには、分散型エッジインテリジェンスエージェントが不可欠である。
• オフライン学習とオンライン推論を統合できる完全統合型MLベースの最適化エンジンは、まだ研究課題のままであり、将来的なシステムにおいて非常に高い可能性を秘めている。