[論文レビュー] Protecting Memory-Performance Critical Sections in Soft Real-Time Applications

Heechul Yun, Santosh Gondi+1 more|arXiv (Cornell University)|Feb 8, 2015

Real-Time Systems Scheduling参考文献 25被引用数 4

ひとこと要約

BWLOCK は、メモリ帯域幅の高いフェーズ中に非リアルタイムコアからのメモリトラフィックを動的に制限することで、ソフトリアルタイムアプリケーションにおけるメモリパフォーマンスが重要なセクションを保護するユーザーレベルの API およびカーネルレベルのメモリ帯域幅制御メカニズムである。Mplayer や WebRTC ワークロードにおいて、粗粒度モードでは 17%、細粒度モードでは 7% のスループット低下を伴いながらも、ほぼ完全なリアルタイムパフォーマンス隔離を達成している。

ABSTRACT

Soft real-time applications such as multimedia applications often show bursty memory access patterns---regularly requiring a high memory bandwidth for a short duration of time. Such a period is often critical for timely data processing. Hence, we call it a memory-performance critical section. Unfortunately, in multicore architecture, non-real-time applications on different cores may also demand high memory bandwidth at the same time, which can substantially increase the time spent on the memory performance critical sections. In this paper, we present BWLOCK, user-level APIs and a memory bandwidth control mechanism that can protect such memory performance critical sections of soft real-time applications. BWLOCK provides simple lock like APIs to declare memory-performance critical sections. If an application enters a memory-performance critical section, the memory bandwidth control system then dynamically limit other cores' memory access rates to protect memory performance of the application until the critical section finishes. From case studies with real-world soft real-time applications, we found (1) such memory-performance critical sections do exist and are often easy to identify; and (2) applying BWLOCK for memory critical sections significantly improve performance of the soft real-time applications at a small or no cost in throughput of non real-time applications.

研究の動機と目的

• マルチコアシステムにおける非リアルタイムワークロードによるメモリ帯域幅の競合がソフトリアルタイムアプリケーションのパフォーマンスを低下させる問題に対処すること。
• マルチメディアおよびリアルタイムシステムに共通する、バースト的かつ高帯域幅を要する期間である、メモリパフォーマンスが重要なセクションを特定および分離すること。
• 静的帯域幅予約に依存せずに、リアルタイムパフォーマンスを保護するための軽量なユーザーレベル API およびカーネルレベル制御メカニズムを設計すること。
• BWLOCK の実用性および有効性を、並行ワークロード下での実世界のソフトリアルタイムアプリケーションにおいて評価すること。
• 利用可能なメモリ帯域幅をより効率的に活用するため、静的予約よりも選択的かつ動的な帯域幅制御が優れていることを示すこと。

提案手法

• BWLOCK は、アプリケーションコード内でメモリパフォーマンスが重要なセクションを宣言するロックに似た API を導入し、実行時における高メモリ要求フェーズの特定を可能にする。
• コアが重要なセクションに入ると、BWLOCK は他のコアからのメモリアクセスレートを制限する帯域幅制御メカニズムを起動し、干渉を防ぐ。
• システムは、重要なセクション実行中における非重要コアの帯域幅上限を課すために、ソフトウェアベースの定期的モニタリングと制御メカニズムを用いる。
• BWLOCK は細粒度モードと粗粒度モードの両方をサポートする：細粒度モードは特定のコード領域を対象とし、粗粒度モードはアプリケーション全体を重要なセクションとして扱う。
• メカニズムはカーネルレベルで動作し、既存のパフォーマンスモニタリングおよびリソース制御インターフェースを活用して、動的にメモリトラフィックを制御する。
• BWLOCK は、ページカラーなどの既存のキャッシュおよびメモリパーティショニング技術と直交しており、ハードウェア支援によりオーバーヘッドをさらに低減できる。

実験結果

リサーチクエスチョン

• RQ1 プロファイリング技術を用いて、実世界のソフトリアルタイムアプリケーション（例：Mplayer や WebRTC）において、メモリパフォーマンスが重要なセクションを信頼性を持って特定できるか？
• RQ2 重要なセクション中に非リアルタイムメモリトラフィックを動的に制限することで、リアルタイムアプリケーションのパフォーマンスが著しく向上するか？
• RQ3 BWLOCK の動的制御は、静的帯域幅予約と比較して、メモリ帯域幅の利用効率およびパフォーマンス隔離の観点で優れているか？
• RQ4 リアルタイムワークロードを保護する際、非リアルタイムアプリケーションにおける BWLOCK のパフォーマンスオーバーヘッドはどの程度か？
• RQ5 BWLOCK は、マルチメディアプレーヤーや WebRTC フレームワークを含む、多様な実世界のソフトリアルタイムシステムに効果的に適用可能か？

主な発見

• Mplayer や WebRTC などの実世界のソフトリアルタイムアプリケーションに、メモリパフォーマンスが重要なセクションが存在し、perf などのプロファイリングツールで特定可能である。
• 粗粒度モードでは、Mplayer に対してほぼ完全なリアルタイムパフォーマンス隔離を達成しており、非リアルタイムワークロードのスループット低下はわずか 17% にとどまる。
• 細粒度モードでは、Mplayer のリアルタイムパフォーマンスが 17% 向上し、非リアルタイムスループットの低下はわずか 7% にとどまる。
• WebRTC フレームワークにおいても同様のパフォーマンス向上が観察され、BWLOCK の有効性が異なるリアルタイムワークロードにわたって確認された。
• 静的予約よりも、動的かつ選択的な帯域幅制御が効率的であることが示された。これは、非重要フェーズにおける帯域幅の未利用を回避するためである。
• 本アプローチは実用的かつ生産環境での適用が可能であり、ソフトウェアの複雑さが低く、ランタイムオーバーヘッドも最小限である。