[논문 리뷰] C-Balancer: A System for Container Profiling and Scheduling

Akshay Dhumal, D. Janakiram|arXiv (Cornell University)|2020. 09. 18.

Cloud Computing and Resource Management참고 문헌 13인용 수 4

한 줄 요약

C-Balancer는 런타임 프로파일링을 사용하여 노드 간 컨테이너 배치를 최적화하는 컨테이너 스케줄링 프레임워크입니다. 이로 인해 자원 경쟁을 줄이고 성능을 향상시킵니다. CPU, 메모리, I/O 메트릭을 기반으로 동적으로 컨테이너를 재균형 조정함으로써 혼합 워크로드에서 최대 58% 높은 스루풋과 60% 낮은 자원 활용도 변동성을 달성합니다.

ABSTRACT

Linux containers have gained high popularity in recent times. This popularity is significantly due to various advantages of containers over Virtual Machines (VM). The containers are lightweight, occupy lesser storage, have fast boot-up time, easy to deploy and have faster auto-scaling. The key reason behind the popularity of containers is that they leverage the mechanism of micro-service style software development, where applications are designed as independently deployable services. There are various container orchestration tools for deploying and managing the containers in the cluster. The prominent among them are Docker Swarm and Kubernetes. However, they do not address the effects of resource contention when multiple containers are deployed on a node. Moreover, they do not provide support for container migration in the event of an attack or increased resource contention. To address such issues, we propose C-Balancer, a scheduling framework for efficient placement of containers in the cluster environment. C-Balancer works by periodically profiling the containers and deciding the optimal container to node placement. Our proposed approach improves the performance of containers in terms of resource utilization and throughput. Experiments using a workload mix of Stress-NG and iPerf benchmark shows that our proposed approach achieves a maximum performance improvement of 58% for the workload mix. Our approach also reduces the variance in resource utilization across the cluster by 60% on average.

연구 동기 및 목표

• 기존 오케스트레이션 툴인 Docker Swarm 및 Kubernetes와 같은 지능형 컨테이너 스케줄링의 부족을 보완하기 위해.
• 여러 컨테이너가 동일한 노드를 공유할 때 자원 경쟁으로 인한 성능 저하를 줄이기 위해.
• 자원 경쟁이나 보안 위협에 대응하여 프로액티브한 컨테이너 마이그레이션을 가능하게 하기 위해.
• 동적이고 메트릭 기반의 스케줄링 결정을 통해 전체 클러스터의 안정성과 자원 활용도를 향상시키기 위해.
• 미래의 기능 확장(예: GPU 가속 및 하드웨어 성능 카운터)을 지원하는 확장 가능하고 스케일러블 프레임워크를 제공하기 위해.

제안 방법

• CPU, 메모리, I/O, 네트워크 사용량과 같은 런타임 메트릭을 사용하여 컨테이너 워크로드를 주기적으로 프로파일링합니다.
• 자원 프로파일에 기반해 컨테이너-노드 친화도를 평가하여 경쟁을 최소화하는 스케줄링 최적화기를 적용합니다.
• 노드 간 컨테이너 이동을 위해 두 가지 파일 시스템 동기화 기법을 사용하는 컨테이너 마이그레이션을 구현합니다.
• 성능 저하를 최소화하면서도 균형 잡힌 분포를 우선시하는 로드 밸런싱 전략을 채택합니다.
• 고비용 모니터링 오버헤드를 방지하기 위해 경량 프로파일링을 활용하여 대규모 클러스터에서도 확장성을 확보합니다.
• Docker Swarm 위에 스케줄링 계층으로 작동함으로써 기존 오케스트레이션 플랫폼과의 통합을 지원합니다.

실험 결과

연구 질문

• RQ1 공유 자원 경쟁으로 인한 성능 저하를 줄이기 위해 컨테이너 스케줄링을 어떻게 개선할 수 있을까요?
• RQ2 컨테이너 워크로드에서 자원 경쟁을 예측하고 완화하는 데 가장 효과적인 런타임 메트릭은 무엇인가요?
• RQ3 실시간 프로파일링 기반의 동적 컨테이너 마이그레이션은 스루풋과 자원 활용도 향상에 측정 가능한 개선을 이끌 수 있을까요?
• RQ4 제안된 스케줄링 프레임워크는 스프레드, 바인드 팩킹, 랜덤과 같은 기본 전략과 비교해 성능 및 안정성 측면에서 어떻게 다릅니까?
• RQ5 GPU 가속 및 보안 기반 마이그레이션과 같은 고급 기능을 지원하기 위해 프레임워크를 얼마나 확장할 수 있을까요?

주요 결과

• C-Balancer는 Stress-NG 및 iPerf 벤치마크의 혼합 워크로드에서 최대 58%의 성능 향상을 달성합니다.
• 프레임워크는 클러스터 전반의 자원 활용도 변동성을 평균 60% 감소시켜 클러스터 안정성을 향상시킵니다.
• 메모리 집약적 및 네트워크 집약적 컨테이너에서 가장 높은 성능 향상을 보이며, 떨어진 패킷 수가 최대 58% 감소합니다.
• 자원 경쟁을 측정하는 S-값이 상당히 감소하여 모든 워크로드에서 평균 61% 감소했습니다.
• I/O 및 메모리 집약적 워크로드에서 성능 향상이 가장 두드러지며, 이는 CPU 경쟁보다 영향을 더 크게 받기 때문입니다.
• 시스템은 확장 가능하며, 대규모 클러스터에서 더 빠른 스케줄링 결정을 위해 GPU 가속을 활용할 수 있도록 확장할 수 있습니다.