[论文解读] Machine Learning-based Orchestration of Containers: A Taxonomy and Future Directions

Zhiheng Zhong, Minxian Xu+3 more|arXiv (Cornell University)|Jun 24, 2021

Cloud Computing and Resource Management被引用 8

一句话总结

本文提出了基于机器学习的容器编排的全面分类法与系统性综述，分析了2016至2021年间的技术方法，按目标、度量指标与系统架构进行分类。研究识别出在动态工作负载处理、资源异构性以及多维优化方面面临的关键挑战，并为混合云与边缘云环境中完全集成的机器学习驱动编排框架提出路线图。

ABSTRACT

Containerization is a lightweight application virtualization technology, providing high environmental consistency, operating system distribution portability, and resource isolation. Existing mainstream cloud service providers have prevalently adopted container technologies in their distributed system infrastructures for automated application management. To handle the automation of deployment, maintenance, autoscaling, and networking of containerized applications, container orchestration is proposed as an essential research problem. However, the highly dynamic and diverse feature of cloud workloads and environments considerably raises the complexity of orchestration mechanisms. Machine learning algorithms are accordingly employed by container orchestration systems for behavior modelling and prediction of multi-dimensional performance metrics. Such insights could further improve the quality of resource provisioning decisions in response to the changing workloads under complex environments. In this paper, we present a comprehensive literature review of existing machine learning-based container orchestration approaches. Detailed taxonomies are proposed to classify the current researches by their common features. Moreover, the evolution of machine learning-based container orchestration technologies from the year 2016 to 2021 has been designed based on objectives and metrics. A comparative analysis of the reviewed techniques is conducted according to the proposed taxonomies, with emphasis on their key characteristics. Finally, various open research challenges and potential future directions are highlighted.

研究动机与目标

• 解决基于启发式方法的容器编排在动态、异构及大规模云环境中的局限性。
• 分析2016至2021年间机器学习在容器编排中应用的演进，涵盖不同目标与性能度量指标。
• 基于系统架构、学习范式与优化目标，使用详细分类法对现有基于机器学习的方法进行分类。
• 识别未来编排系统在多维优化、能效与边缘智能方面面临的关键挑战。
• 提出开发能够实现端到端编排决策的完全集成机器学习优化引擎的路线图。

提出的方法

• 对2016至2021年期间发表的基于机器学习的容器编排领域的同行评审论文开展系统性文献综述。
• 提出一个多维分类法，根据学习范式（如监督学习、强化学习等）、系统架构（集中式、分布式）与优化目标（延迟、成本、能耗）对现有方法进行分类。
• 通过将研究贡献映射到如自动伸缩、负载均衡与SLA合规性等目标，分析技术的演进过程。
• 基于关键特性（如模型类型、训练数据来源、推理延迟与部署环境（云、边缘、混合））对技术进行比较。
• 设计一个完全集成的基于机器学习的优化引擎参考架构，支持离线训练与在线推理。
• 评估去中心化边缘智能代理在分布式边缘与雾计算环境中实现实时、低延迟决策的可行性。

实验结果

研究问题

• RQ1 2016至2021年间，机器学习技术在容器编排系统中的应用在目标与性能度量方面如何演变？
• RQ2 当前基于机器学习的容器编排解决方案中，主导的学习范式与系统架构是什么？
• RQ3 现有基于启发式方法的编排系统在处理动态、异构与大规模工作负载方面存在哪些关键局限性？
• RQ4 如何有效将机器学习模型集成到编排流水线中，以支持实时、多维优化决策？
• RQ5 构建完全集成、可扩展且具备能效感知能力的机器学习驱动编排框架面临哪些开放挑战与未来研究方向？

主要发现

• 大多数现有的基于机器学习的编排系统采用部分集成的引擎，其中机器学习模型仅用于行为建模，而非端到端决策。
• 强化学习与监督学习是主导范式，其中强化学习在动态自动伸缩与负载均衡方面展现出巨大潜力。
• 当与基于机器学习的工作负载预测及资源利用率建模结合时，集成能效感知机制（如降额技术）是可行的。
• 多维优化——即在成本、延迟与SLA违规之间取得平衡——仍是主要挑战，尚无标准化的性能分解基准。
• 去中心化边缘智能代理对于在地理分布广泛的边缘与雾计算基础设施中实现低延迟、可扩展的编排至关重要。
• 能够结合离线训练与在线推理的完全集成基于机器学习的优化引擎，仍是具有高度潜力的开放研究方向。