[论文解读] C-Balancer: A System for Container Profiling and Scheduling

Akshay Dhumal, D. Janakiram|arXiv (Cornell University)|Sep 18, 2020

Cloud Computing and Resource Management参考文献 13被引用 4

一句话总结

C-Balancer 是一个容器调度框架，通过运行时性能分析来优化容器在节点间的部署，减少资源争用并提升性能。通过根据 CPU、内存和 I/O 指标动态重新平衡容器，它在混合工作负载中实现了高达 58% 的吞吐量提升和 60% 的资源利用率波动降低。

ABSTRACT

Linux containers have gained high popularity in recent times. This popularity is significantly due to various advantages of containers over Virtual Machines (VM). The containers are lightweight, occupy lesser storage, have fast boot-up time, easy to deploy and have faster auto-scaling. The key reason behind the popularity of containers is that they leverage the mechanism of micro-service style software development, where applications are designed as independently deployable services. There are various container orchestration tools for deploying and managing the containers in the cluster. The prominent among them are Docker Swarm and Kubernetes. However, they do not address the effects of resource contention when multiple containers are deployed on a node. Moreover, they do not provide support for container migration in the event of an attack or increased resource contention. To address such issues, we propose C-Balancer, a scheduling framework for efficient placement of containers in the cluster environment. C-Balancer works by periodically profiling the containers and deciding the optimal container to node placement. Our proposed approach improves the performance of containers in terms of resource utilization and throughput. Experiments using a workload mix of Stress-NG and iPerf benchmark shows that our proposed approach achieves a maximum performance improvement of 58% for the workload mix. Our approach also reduces the variance in resource utilization across the cluster by 60% on average.

研究动机与目标

• 解决现有编排工具（如 Docker Swarm 和 Kubernetes）中缺乏智能容器调度的问题。
• 减少多个容器共享同一节点时因资源争用导致的性能下降。
• 在检测到资源争用或安全威胁时，实现主动的容器迁移。
• 通过基于指标的动态调度决策，提升整体集群稳定性和资源利用率。
• 提供可扩展、可扩展的框架，支持未来增强功能，如 GPU 加速和硬件性能计数器。

提出的方法

• 定期使用 CPU、内存、I/O 和网络使用等运行时指标对容器工作负载进行性能分析。
• 应用调度优化器，基于资源分析结果评估容器与节点的亲和性，以最小化资源争用。
• 使用两种文件系统同步技术实现容器在节点间的迁移。
• 采用负载均衡策略，优先实现资源的均衡分布，同时将性能下降降至最低。
• 利用轻量级性能分析，避免高监控开销，从而实现在大规模集群中的可扩展性。
• 通过作为 Docker Swarm 之上的调度层运行，支持与现有编排平台的集成。

实验结果

研究问题

• RQ1 如何改进容器调度以减少因共享资源争用导致的性能下降？
• RQ2 哪些运行时指标在预测和缓解容器化工作负载中的资源争用方面最为有效？
• RQ3 基于实时性能分析的动态容器迁移能否带来可测量的吞吐量和资源利用率提升？
• RQ4 与默认策略（如 spread、bin-packing 和 random）相比，所提出的调度框架在性能和稳定性方面表现如何？
• RQ5 该框架在支持 GPU 加速和基于安全的迁移等高级功能方面，可扩展性的程度如何？

主要发现

• C-Balancer 在 Stress-NG 和 iPerf 基准测试的混合工作负载中实现了最高 58% 的性能提升。
• 该框架平均将集群中资源利用率的方差降低了 60%，显著提升了集群稳定性。
• 内存密集型和网络密集型容器表现出最高的性能增益，丢包率最高降低 58%。
• 该方法显著降低了 S-value（资源争用指标），所有工作负载的平均降低幅度达 61%。
• 性能提升在 I/O 和内存密集型工作负载中最为显著，因为这些场景下资源争用的影响大于 CPU 争用。
• 该系统具备可扩展性，可进一步扩展以利用 GPU 加速，从而在大规模集群中实现更快的调度决策。