[論文レビュー] The Blacklisting Memory Scheduler: Balancing Performance, Fairness and Complexity

Lavanya Subramanian, Donghyuk Lee+3 more|arXiv (Cornell University)|Apr 1, 2015

Parallel Computing and Optimization Techniques参考文献 45被引用数 11

ひとこと要約

ブラックリスト記憶域スケジューラー（BLISS）は、連続するリクエスト数に基づいてアプリケーションを「干渉を受けやすい」または「干渉を引き起こす」と動的に分類する二グループのメモリスケジューリング手法を提案する。BLISSは、最先端のスケジューラーよりも5%高いシステム性能と25%高い公平性を達成するとともに、クリティカルパス遅延を79%削減し、ハードウェア面積を43%削減する。

ABSTRACT

In a multicore system, applications running on different cores interfere at main memory. This inter-application interference degrades overall system performance and unfairly slows down applications. Prior works have developed application-aware memory schedulers to tackle this problem. State-of-the-art application-aware memory schedulers prioritize requests of applications that are vulnerable to interference, by ranking individual applications based on their memory access characteristics and enforcing a total rank order. In this paper, we observe that state-of-the-art application-aware memory schedulers have two major shortcomings. First, such schedulers trade off hardware complexity in order to achieve high performance or fairness, since ranking applications with a total order leads to high hardware complexity. Second, ranking can unfairly slow down applications that are at the bottom of the ranking stack. To overcome these shortcomings, we propose the Blacklisting Memory Scheduler (BLISS), which achieves high system performance and fairness while incurring low hardware complexity, based on two observations. First, we find that, to mitigate interference, it is sufficient to separate applications into only two groups. Second, we show that this grouping can be efficiently performed by simply counting the number of consecutive requests served from each application. We evaluate BLISS across a wide variety of workloads/system configurations and compare its performance and hardware complexity, with five state-of-the-art memory schedulers. Our evaluations show that BLISS achieves 5% better system performance and 25% better fairness than the best-performing previous scheduler while greatly reducing critical path latency and hardware area cost of the memory scheduler (by 79% and 43%, respectively), thereby achieving a good trade-off between performance, fairness and hardware complexity.

研究の動機と目的

• 既存のアプリケーション認識型メモリスケジューラーにおける個々のアプリケーションの順位付けに起因する高いハードウェア複雑性と、不公平な遅延を緩和すること。
• スケジューリング遅延とハードウェアコストを低減しながら、システム性能と公平性を維持または向上させること。
• 簡素化された二グループ分類が、マルチコアシステムにおけるアプリケーション間メモリ干渉を効果的に軽減できるかを検討すること。
• 現代のDDRメモリプロトコルの厳しいタイミング制約を満たすスケジューラーを設計すること。

提案手法

• 同じアプリケーションからの連続メモリリクエスト数に基づいて、アプリケーションを「干渉を受けやすい」と「干渉を引き起こす」の二グループに分類する。
• 連続リクエスト数にしきい値を適用し、それを超えた場合、そのアプリケーションはブラックリスト入りして優先度が下げられる。
• スケジューリングの際、ブラックリストに登録されていない（干渉を受けやすい）アプリケーションのリクエストを、ブラックリスト入りしている（干渉を引き起こす）アプリケーションのリクエストよりも優先する。
• 個々のアプリケーションの順位付けを避けることで、二つの優先度レベルのみを用いることで、ハードウェア複雑性を顕著に低減する。
• 長期的なプロファイリングを必要とせず、実行時アクセスパターンに適応する動的分類メカニズムを採用する。
• 既存のメモリサブシステムと統合可能であり、サブレコードインターリーブやソーススロットリングなどの技術とも互換性がある。

実験結果

リサーチクエスチョン

• RQ1 連続リクエストパターンに基づく二グループ分類が、個々のアプリケーションの順位付けを用いず、メモリ干渉を効果的に低減できるか。
• RQ2 全順序順位付けを排除することで、ハードウェア複雑性とスケジューリング遅延が低減し、性能が維持または向上するか。
• RQ3 このような簡素化されたスケジューラーが、低順位のアプリケーションを著しく優先度を下げてしまう順位付けベースのアプローチよりも、優れた公平性を達成できるか。
• RQ4 BLISSは、最先端のスケジューラーと比較して、多様なワークロードおよびシステム構成下でどのように性能を発揮するか。
• RQ5 サブレコードインターリーブやソーススロットリングなどの干渉軽減技術と組み合わせた場合、BLISSにどのような影響が生じるか。

主な発見

• BLISSは、多様なワークロードにおいて、最高性能を示した先行スケジューラー（TCM）と比較して5%高いシステム性能と25%高い公平性を達成する。
• BLISSは、最先端の順位付けベースのスケジューラーであるTCMと比較して、クリティカルパス遅延を79%削減し、ハードウェア面積を43%削減する。
• 連続リクエスト数に基づく二グループ分類は、最小限のオーバーヘッドで干渉を引き起こすアプリケーションを効果的に同定できる。
• BLISSは、FRFCFSやその他のアプリケーション非認識スケジューラーと比較して、性能と公平性の両面で優れており、低複雑性を維持している。
• BLISSとサブレコードインターリーブの相互作用は、高レコードバッファ局在性アプリケーションに対して不公平性を増大させる可能性があり、共同設計の必要性を示唆している。
• BLISSは、ソーススロットリングやバンクパーティショニングなどの補完的技術と併用可能であり、干渉軽減をさらに強化できる。