[論文レビュー] LRC: Dependency-Aware Cache Management for Data Analytics Clusters

Yinghao Yu, Wei Wang+2 more|arXiv (Cornell University)|Mar 24, 2017

Advanced Data Storage Technologies参考文献 19被引用数 5

ひとこと要約

本稿では、データ分析クラスタ向けに依存関係に配慮したキャッシュ置換ポリシーであるLRCを提案する。LRCは、それらのデータブロックに依存する未計算の子ブロックの数（参照回数）が最小であるデータブロックを置換する。アプリケーションレベルのDAG構造を活用することで、LRUと比較してキャッシュヒット率を向上させ、実行時間を最大60％短縮する。Spark環境における実装では、キャッシュ領域の40％の容量で同程度の性能を達成している。

ABSTRACT

Memory caches are being aggressively used in today's data-parallel systems such as Spark, Tez, and Piccolo. However, prevalent systems employ rather simple cache management policies--notably the Least Recently Used (LRU) policy--that are oblivious to the application semantics of data dependency, expressed as a directed acyclic graph (DAG). Without this knowledge, memory caching can at best be performed by "guessing" the future data access patterns based on historical information (e.g., the access recency and/or frequency), which frequently results in inefficient, erroneous caching with low hit ratio and a long response time. In this paper, we propose a novel cache replacement policy, Least Reference Count (LRC), which exploits the application-specific DAG information to optimize the cache management. LRC evicts the cached data blocks whose reference count is the smallest. The reference count is defined, for each data block, as the number of dependent child blocks that have not been computed yet. We demonstrate the efficacy of LRC through both empirical analysis and cluster deployments against popular benchmarking workloads. Our Spark implementation shows that, compared with LRU, LRC speeds up typical applications by 60%.

研究の動機と目的

• 従来のキャッシュポリシー（例：LRU）がアプリケーションレベルのデータ依存関係を無視するため、データ分析クラスタにおいて非効率である問題を解決すること。
• データ処理ワークフローの有向無閉路グラフ（DAG）構造を活用することで、キャッシュヒット率を向上させ、応答時間を短縮すること。
• Spark や Tachyon などのDAGベースのシステムに容易に統合可能な、軽量でプラグイン可能なキャッシュ管理ポリシーを設計すること。
• データ依存関係の意味的認識を活用することで、マルチテナント環境における効率的なキャッシュ共有を可能にすること。

提案手法

• LRCは、それらのデータブロックに依存する未マテリアライズドな子ブロックの数（参照回数）が最小であるデータブロックを置換する。
• 参照回数は、DAG構造とタスクの完了状況に基づき、実行時に動的に更新される。
• LRCは、軽量な参照回数メッセージングによる最小限のランタイムオーバーヘッドで実現された、Sparkにおけるプラグイン可能なメモリマネージャーとして実装されている。
• ポリシーはジョブのDAGをジョブ送信時に解析し、関連するワーカーノードにのみ参照回数の更新を伝搬する。
• LRC-Onlineバージョンは、実行中に継続的に参照回数を追跡することで、動的ワークロードに適応する。
• 本システムは、他のDAGベースのフレームワークやマルチテナントキャッシュ共有システムへの拡張性を備えている。

実験結果

リサーチクエスチョン

• RQ1 DAGとして表現されるアプリケーションレベルのデータ依存関係の性質を活用することで、データ分析クラスタにおけるキャッシュ管理の効率が向上するか？
• RQ2 参照回数に基づく置換ポリシーは、LRUのようなレシエンシーまたは頻度ベースのポリシーと比較して、キャッシュヒット率およびアプリケーションパフォーマンスにおいてどのように差がつくか？
• RQ3 LRCは、アプリケーションパフォーマンスを維持または向上させつつ、どれほどメモリフットプリントを削減できるか？
• RQ4 競合するキャッシュ要請が生じるマルチテナント環境において、LRCはどのようにスケーリングするか？

主な発見

• 同じキャッシュメモリ容量を使用した場合、LRCはLRUと比較してアプリケーション実行時間を最大60％短縮する。
• LRCは、キャッシュ領域をLRUの40％にまで削減しながら、同じアプリケーションパフォーマンスを達成する。
• 実測評価では、LRCはLRUと比較してキャッシュヒット率を最大119％向上させる。
• LRC-Onlineは、小さなキャッシュサイズと高いテナント数の環境下でも、LRUよりも高いパフォーマンス向上を達成しており、リソース制限下でのスケーラビリティが優れていることが示された。
• DAGに基づくアクセスパターン解析により、参照回数という指標が、レシエンシーまたは頻度よりも将来のデータアクセスをより正確に予測できることを実証した。