[論文レビュー] Sharing LRU Cache Resources among Content Providers: A Utility-Based Approach

Mostafa Dehghan, Weibo Chu+2 more|arXiv (Cornell University)|Feb 6, 2017

Caching and Content Delivery参考文献 19被引用数 6

ひとこと要約

本稿では、複数のコンテンツプロバイダー間でLRUキャッシュを共有するための、ユーティリティに基づくキャッシュパーティショニングフレームワークを提案する。動的かつ最適なキャッシュスライスの割り当てにより、全体のユーティリティを最大化する。キャッシュパーティショニングが非重複コンテンツのシナリオで共有を上回ることを証明し、重複コンテンツに対しても別々のパーティションがしばしば利益をもたらす。オンラインアルゴリズムにより、最適解への収束が保証される。

ABSTRACT

In this paper, we consider the problem of allocating cache resources among multiple content providers. The cache can be partitioned into slices and each partition can be dedicated to a particular content provider, or shared among a number of them. It is assumed that each partition employs the LRU policy for managing content. We propose utility-driven partitioning, where we associate with each content provider a utility that is a function of the hit rate observed by the content provider. We consider two scenarios: i)~content providers serve disjoint sets of files, ii)~there is some overlap in the content served by multiple content providers. In the first case, we prove that cache partitioning outperforms cache sharing as cache size and numbers of contents served by providers go to infinity. In the second case, It can be beneficial to have separate partitions for overlapped content. In the case of two providers, it is usually always beneficial to allocate a cache partition to serve all overlapped content and separate partitions to serve the non-overlapped contents of both providers. We establish conditions when this is true asymptotically but also present an example where it is not true asymptotically. We develop online algorithms that dynamically adjust partition sizes in order to maximize the overall utility and prove that they converge to optimal solutions, and through numerical evaluations, we show they are effective.

研究の動機と目的

• 複数のコンテンツプロバイダー間で共有されるLRUキャッシュリソースを効率的に割り当て、ユーティリティを最大化する課題に対処する。
• コンテンツの重複度や人気分布の変化に応じて、キャッシュパーティショニングとキャッシュ共有のどちらがより優れたパフォーマンスを示すかを調査する。
• 動的かつ分散型のアルゴリズムを開発し、キャッシュパーティションサイズをリアルタイムで調整して総ユーティリティを最大化する。
• 特に重複コンテンツに対して、パーティショニングが最適となる理論的条件を確立する。
• Lyapunov安定性理論を用いて、動的キャッシュ割り当てアルゴリズムの収束を保証する。

提案手法

• 各コンテンツプロバイダーのユーティリティがその観測されたヒットレートに依存する、ユーティリティ駆動型キャッシュ割り当てモデルを定式化する。
• LRUリプレースポリシーを用いてキャッシュ動作をモデル化し、異なるパーティショニング戦略における漸近的ヒットレートの式を導出する。
• FaginのLRUの漸近的分析を用い、Zipfを含むさまざまなコンテンツ人気分布におけるヒットレートを特徴付ける。
• リアルタイムのヒットレートフィードバックとユーティリティ勾配に基づいて、パーティションサイズを調整するオンライン制御アルゴリズムを提案する。
• Lyapunov安定性理論を適用し、動的割り当てアルゴリズムが最適キャッシュパーティショニング解に収束することを証明する。
• 3つの戦略を比較する：共有キャッシュ、すべてのコンテンツに対する別々のパーティション、ハイブリッドパーティショニング（非重複コンテンツは別々、重複コンテンツは共有）。

実験結果

リサーチクエスチョン

• RQ1 コンテンツプロバイダーが非重複コンテンツセットを提供する場合、どのような条件下でキャッシュパーティショニングがキャッシュ共有を上回るか？
• RQ2 他のコンテンツが別々のパーティションで提供される場合でも、重複コンテンツに対して専用のキャッシュパーティションを割り当てる利点はあるか？
• RQ3 コンテンツ人気がZipfに類似した分布に従う場合、さまざまなパーティショニング戦略の漸近的パフォーマンスはどのように比較されるか？
• RQ4 動的かつ分散型のアルゴリズムは、リアルタイムで最適キャッシュパーティショニング構成に収束できるか？
• RQ5 共有キャッシュが、漸近的にでもパーティショニングを上回るシナリオは存在するか？

主な発見

• コンテンツプロバイダーが非重複コンテンツセットを提供する場合、キャッシュサイズとコンテンツアイテム数がともに大きく成長する際、キャッシュパーティショニングは漸近的にキャッシュ共有を上回る。
• 2つのコンテンツプロバイダーが重複コンテンツを持つ場合、通常は共有コンテンツに1つのパーティションを、非重複コンテンツに別々のパーティションを割り当てるのが最適である。
• 本稿では、共有キャッシュが漸近的に最適である反例を提示しており、重複コンテンツのすべてのシナリオでパーティショニングが優れているとは限らないことを示している。
• 提案されたオンラインアルゴリズムは、パーティションサイズを動的に調整でき、Lyapunov安定性解析を用いて最適解への収束が保証されている。
• 最適パーティションサイズが使用される場合、ハイブリッドパーティショニング戦略（非重複コンテンツは別々、重複コンテンツは共有）では、共有コンテンツの集約ミス確率が完全共有よりも厳密に低くなる。
• 確率的ルーティングを併用したパーティショニングは、ヒットレート関数の凹性を用いた議論により、劣っていることが示された。