[論文レビュー] Intermediate Data Caching Optimization for Multi-Stage and Parallel Big Data Frameworks

Zhengyu Yang, Danlin Jia+3 more|arXiv (Cornell University)|Apr 27, 2018

Caching and Content Delivery参考文献 34被引用数 3

ひとこと要約

この論文は、Apache Sparkのようなマルチステージの大規模データ処理フレームワーク向けに、複数のジョブにまたがる最も価値のある中間データセット（RDD）を自動的に同定し、キャッシュする適応的キャッシュアルゴリズムを提案する。問題をDAGベースの最適化としてモデル化し、最適性保証付きのオンライン意思決定を用いることで、LRUやその他のヒューリスティクスと比較して合計再計算作業を12％削減する。特にキャッシュサイズが増加する状況で顕著な効果を示す。

ABSTRACT

In the era of big data and cloud computing, large amounts of data are generated from user applications and need to be processed in the datacenter. Data-parallel computing frameworks, such as Apache Spark, are widely used to perform such data processing at scale. Specifically, Spark leverages distributed memory to cache the intermediate results, represented as Resilient Distributed Datasets (RDDs). This gives Spark an advantage over other parallel frameworks for implementations of iterative machine learning and data mining algorithms, by avoiding repeated computation or hard disk accesses to retrieve RDDs. By default, caching decisions are left at the programmer's discretion, and the LRU policy is used for evicting RDDs when the cache is full. However, when the objective is to minimize total work, LRU is woefully inadequate, leading to arbitrarily suboptimal caching decisions. In this paper, we design an algorithm for multi-stage big data processing platforms to adaptively determine and cache the most valuable intermediate datasets that can be reused in the future. Our solution automates the decision of which RDDs to cache: this amounts to identifying nodes in a direct acyclic graph (DAG) representing computations whose outputs should persist in the memory. Our experiment results show that our proposed cache optimization solution can improve the performance of machine learning applications on Spark decreasing the total work to recompute RDDs by 12%.

研究の動機と目的

• 手動でのRDDキャッシュとLRU排出戦略による不適切なキャッシュ意思決定が引き起こす高い再計算コストを是正すること。
• マルチステージで並列処理が行われる大規模データ処理において、合計作業量を最小化する最適化問題として中間データキャッシュ問題を定式化すること。
• ジョブ間の計算オーバーラップを検出し、最も価値のあるRDDをキャッシュ選択するオンラインで適応可能なキャッシュアルゴリズムを設計すること。
• 個々のジョブのヒューリスティクスではなく、ジョブ全体のアクセスパターンを活用することで、キャッシュの利用効率と性能を向上させること。
• 機械学習やデータマイニングを含む多様なワークロードにおいて、実際のSparkデプロイとシミュレーションを用いて手法を検証すること。

提案手法

• ノードが処理を表し、エッジがデータ依存関係を表す有向無閉路グラフ（DAG）として計算をモデル化する。
• 合計再計算コストを最小化するように、どの中間RDDをキャッシュするかを決定する数学的最適化フレームワークを定義する。
• 将来の再利用予測と複数のジョブにわたるアクセスパターンに基づいたオンライン意思決定を行う適応的キャッシュアルゴリズムを開発する。
• すべてのアクセスされたRDDのグローバルな視点を用いて、ジョブ間のオーバーラップを検出し、頻繁に再利用されるか、再計算コストの高いデータセットを優先してキャッシュする。
• Apache Sparkにアルゴリズムを実装し、実ワークロードと合成ストレステストを用いて、標準的なポリシー（FIFO、LRU、LCS）と比較する。
• 定義された目的関数のもとで、アルゴリズムが近似的に最適に近い性能を発揮することを保証する最適性保証を適用する。

実験結果

リサーチクエスチョン

• RQ1 マルチステージの大規模データ処理フレームワークにおいて、中間データキャッシュを自動化する方法は何か？ これにより合計再計算作業量をどのように削減できるか？
• RQ2 ジョブ間の計算オーバーラップがキャッシュ効率に与える影響は何か？ そして、どのように効果的に活用できるか？
• RQ3 従来のヒューリスティクス（LRUやLCS）と比較して、適応的キャッシュアルゴリズムはヒットレートとマケスパンの観点で優れているか？
• RQ4 キャッシュサイズとワークロードの複雑さが増加するにつれて、提案手法の性能はどのように変化するか？
• RQ5 合計作業量最小化を最適化する際の、キャッシュ利用効率と計算コストのトレードオフは何か？

主な発見

• 提案された適応的キャッシュアルゴリズムは、LRUや他のベースラインポリシーと比較して、RDDの再計算に必要な合計作業量を12％削減する。
• キャッシュに不利なストレステストにおいて、ヒットレートは最大13％向上し、マケスパンは最大12％短縮される。
• キャッシュサイズが増加するほど性能向上が顕著になることから、このアルゴリズムは利用可能なメモリリソースを効果的に活用できることを示している。
• FIFO、LRU、LCSとは異なり、この適応的アルゴリズムはジョブ間の計算オーバーラップを検出し、長期的なキャッシュ意思決定を改善している。
• 機械学習やデータマイニングパイプラインを含む複雑な実世界ワークロードにおいても、高い効率を維持している。
• 中間データの再利用に関するジョブ全体のグローバル分析が、個別ジョブのヒューリスティクスよりも顕著に優れたキャッシュ利用効率をもたらすことが実証された。