[논문 리뷰] Load-Balancing for Improving User Responsiveness on Multicore Embedded Systems

Geunsik Lim, Changwoo Min외 1명|arXiv (Cornell University)|2021. 01. 20.

Parallel Computing and Optimization Techniques참고 문헌 23인용 수 9

한 줄 요약

이 논문은 다중코어 임베디드 시스템을 위한 운영 영역 기반 로드밸런서를 제안하며, 불필요한 작업 이동을 최소화하고 중요도가 높은 작업을 우선 처리함으로써 스케줄링 지연을 줄인다. 또한 각 CPU의 활용도를 최적화한다. 과도한 로드밸런싱을 제한하고 더블 락킹 오버헤드를 감소시킴으로써 사용자 반응성과 캐시 효율성을 향상시켜, 높은 부하 조건에서 평균 스케줄링 지연을 2.3배 감소시킨다.

ABSTRACT

Most commercial embedded devices have been deployed with a single processor architecture. The code size and complexity of applications running on embedded devices are rapidly increasing due to the emergence of application business models such as Google Play Store and Apple App Store. As a result, a high-performance multicore CPUs have become a major trend in the embedded market as well as in the personal computer market. Due to this trend, many device manufacturers have been able to adopt more attractive user interfaces and high-performance applications for better user experiences on the multicore systems. In this paper, we describe how to improve the real-time performance by reducing the user waiting time on multicore systems that use a partitioned per-CPU run queue scheduling technique. Rather than focusing on naive load-balancing scheme for equally balanced CPU usage, our approach tries to minimize the cost of task migration by considering the importance level of running tasks and to optimize per-CPU utilization on multicore embedded systems. Consequently, our approach improves the real-time characteristics such as cache efficiency, user responsiveness, and latency. Experimental results under heavy background stress show that our approach reduces the average scheduling latency of an urgent task by 2.3 times.

연구 동기 및 목표

• 응용 프로그램 복잡도 증가로 인해 다중코어 임베디드 시스템에서 실시간 반응성이 점점 더 요구됨에 따라 이를 해결하고자 한다.
• SMP 스케줄러에서 과도하고 단순한 로드밸런싱으로 인한 스케줄링 지연을 줄이고자 한다.
• 다중코어 임베디드 환경에서의 작업 이동 오버헤드, 캐시 무효화 및 동기화 비용을 최소화하고자 한다.
• 사용자 공간 응용 프로그램을 수정하지 않고도 사용자 반응성과 시스템 효율성을 향상시키고자 한다.
• 개별 CPU 코어에 과도한 부하를 주지 않도록 유연하고 중요도 인식 기반의 로드밸런싱을 가능하게 하고자 한다.

제안 방법

• 사용자 수준에 따라 CPU를 활용도 수준에 따라 영역으로 그룹화하는 운영 영역 기반 로드밸런싱 메커니즘을 도입한다.
• 엄격한 CPU 사용률 균형을 기준으로 하기보다는 작업 중요도와 각 CPU의 부하를 기반으로 작업 이동 우선순위를 정한다.
• 특히 고우선순위 작업에 대해 비가청 간격 동안 이동을 제한함으로써 더블 띅킹 오버헤드를 감소시킨다.
• CPU 부하가 약간 불균형하더라도 과도한 이동을 피하는 민첩한 이동 정책을 사용한다.
• 응용 프로그램 수준의 변경 없이도 기존 리눅스 커널 기능인 CPU 애斐니티, CPUSETS 및 스케줄러 도메인을 활용한다.
• ftrace를 사용하여 커널 함수 추적 분석을 수행하고 스케줄링 지연 및 이동 오버헤드 감소를 검증한다.

실험 결과

연구 질문

• RQ1 다중코어 임베디드 시스템에서 로드밸런싱을 어떻게 최적화할 수 있을까? 이는 CPU 부하 불균형을 증가시키지 않으면서도 스케줄링 지연을 줄이는 데 목적이 있다.
• RQ2 특히 더블 락킹과 캐시 무효화가 포함된 작업 이동 오버헤드가 실시간 반응성에 얼마나 큰 영향을 미치는가?
• RQ3 영역 기반 로드밸런싱 접근 방식이 스케줄링 지연을 줄이고도 효율적인 CPU 활용도를 유지할 수 있는가?
• RQ4 중요도 인식 기반의 작업 이동이 실제 임베디드 워크로드에서 사용자 인식 반응성에 어떤 영향을 미치는가?
• RQ5 고병렬성 임베디드 시스템에서 로드밸런싱의 공정성과 반응성 사이의 상충 관계는 어떠한가?

주요 결과

• 제안된 로드밸런서는 배경 부하가 높은 조건에서 급작스러운 작업의 평균 스케줄링 지연을 2.3배 감소시켰다.
• 고우선순위 작업의 스케줄링 지연은 평균적으로 72 마이크로초에서 31 마이크로초로 감소하여 2배 이상 감소했다.
• 작업 이동 중 더블 락킹으로 인한 비가청 간격을 줄여 실시간 특성을 향상시켰다.
• 작업 이동 감소와 더불어 더 나은 CPU 애피니티 유지로 인해 캐시 효율성과 시스템 반응성이 향상되었다.
• 응용 프로그램 수준의 변경 없이도 구현 가능하여 기존 임베디드 시스템에 통합하기 위한 노력이 최소화되었다.
• 불필요한 이동을 효과적으로 억제함으로써 동기화 비용과 다중코어 임베디드 장치의 전력 소비를 낮추었다.