[論文レビュー] Load-Balancing for Improving User Responsiveness on Multicore Embedded Systems

Geunsik Lim, Changwoo Min+1 more|arXiv (Cornell University)|Jan 20, 2021

Parallel Computing and Optimization Techniques参考文献 23被引用数 9

ひとこと要約

本稿では、不要なタスク移行を最小限に抑え、高重要度のタスクを優先し、CPUあたりの利用効率を最適化することで、スケジューリング遅延を低減する、オペレーションゾーンベースのロードバランサを、マルチコア埋め込みシステム向けに提案する。積極的なロードバランシングを制限し、二重ロックのオーバーヘッドを削減することで、ユーザー応答性とキャッシュ効率が向上し、重い負荷下でも平均スケジューリング遅延が2.3倍短縮される。

ABSTRACT

Most commercial embedded devices have been deployed with a single processor architecture. The code size and complexity of applications running on embedded devices are rapidly increasing due to the emergence of application business models such as Google Play Store and Apple App Store. As a result, a high-performance multicore CPUs have become a major trend in the embedded market as well as in the personal computer market. Due to this trend, many device manufacturers have been able to adopt more attractive user interfaces and high-performance applications for better user experiences on the multicore systems. In this paper, we describe how to improve the real-time performance by reducing the user waiting time on multicore systems that use a partitioned per-CPU run queue scheduling technique. Rather than focusing on naive load-balancing scheme for equally balanced CPU usage, our approach tries to minimize the cost of task migration by considering the importance level of running tasks and to optimize per-CPU utilization on multicore embedded systems. Consequently, our approach improves the real-time characteristics such as cache efficiency, user responsiveness, and latency. Experimental results under heavy background stress show that our approach reduces the average scheduling latency of an urgent task by 2.3 times.

研究の動機と目的

• アプリケーションの複雑化に伴い高まる、マルチコア埋め込みシステムにおけるリアルタイム応答性の需要に対応する。
• SMPスケジューラーにおける、攻撃的で単純なロードバランシングによって引き起こされるスケジューリング遅延を低減する。
• マルチコア埋め込み環境における、タスク移行のオーバーヘッド、キャッシュ無効化、同期コストを最小限に抑える。
• ユーザー空間アプリケーションの変更なしに、ユーザー応答性とシステム効率を向上させる。
• 個々のCPUコアへの過負荷を回避する、柔軟で重要度に配慮したロードバランシングを可能にする。

提案手法

• CPUの利用状況に応じて、CPUをゾーンにグループ化するオペレーションゾーンベースのロードバランシング機構を導入する。
• CPU使用率の厳密なバランスを基準とせず、タスクの重要度とCPUあたりの負荷に基づいてタスク移行を優先する。
• 特に高優先度タスクに対して、非プリエンプティブな間隔中に移行を制限することで、二重ロックのオーバーヘッドを低減する。
• CPU負荷がわずかに不均衡であっても、過剰な移行を避ける柔軟な移行ポリシーを採用する。
• アプリケーションレベルの変更なしに、CPUアフィニティ、CPUSETS、スケジューラドメインといった既存のLinuxカーネル機能を活用する。
• ftraceを用いてカーネル関数トレースを分析し、スケジューリング遅延と移行オーバーヘッドの低減を検証する。

実験結果

リサーチクエスチョン

• RQ1 マルチコア埋め込みシステムにおけるロードバランシングを最適化することで、CPU負荷の不均衡を増加させることなく、スケジューリング遅延を低減できるか？
• RQ2 特に二重ロックとキャッシュ無効化に起因するタスク移行のオーバーヘッドが、リアルタイム応答性に及ぼす影響はどの程度か？
• RQ3 ゾーンベースのロードバランシングアプローチは、スケジューリング遅延を低減しつつ、効率的なCPU利用効率を維持できるか？
• RQ4 重要度に配慮したタスク移行は、実世界の埋め込みワークロードにおけるユーザーが感じ取る応答性にどのように影響するか？
• RQ5 高同時接続性を示す埋め込みシステムにおいて、ロードバランシングの公平性と応答性のトレードオフはどのようなものか？

主な発見

• 提案されたロードバランサは、重いバックグラウンド負荷下でも、緊急タスクの平均スケジューリング遅延を2.3倍短縮した。
• 高優先度タスクのスケジューリング遅延は、平均で72マイクロ秒から31マイクロ秒に低下し、2倍以上短縮された。
• タスク移行中の二重ロックによって引き起こされる非プリエンプティブ間隔が低減され、リアルタイム特性が向上した。
• タスク移行の削減とより良いCPUアフィニティの維持により、キャッシュ効率とシステム応答性が向上した。
• アプリケーションレベルの変更が一切不要なため、既存の埋め込みシステムへの導入が容易で、統合コストが最小限に抑えられた。
• 不要な移行の抑制に成功し、同期コストとマルチコア埋め込みデバイスの電力消費量が低減された。