[论文解读] Sharing LRU Cache Resources among Content Providers: A Utility-Based Approach

Mostafa Dehghan, Weibo Chu+2 more|arXiv (Cornell University)|Feb 6, 2017

Caching and Content Delivery参考文献 19被引用 6

一句话总结

本文提出了一种基于效用的缓存分区框架，用于在多个内容提供商之间共享LRU缓存，通过动态分配缓存切片以最大化整体效用。证明了在内容不相交的场景下，分区优于共享；在内容重叠时，通常也能从独立分区中受益，且在线算法可确保收敛至最优解。

ABSTRACT

In this paper, we consider the problem of allocating cache resources among multiple content providers. The cache can be partitioned into slices and each partition can be dedicated to a particular content provider, or shared among a number of them. It is assumed that each partition employs the LRU policy for managing content. We propose utility-driven partitioning, where we associate with each content provider a utility that is a function of the hit rate observed by the content provider. We consider two scenarios: i)~content providers serve disjoint sets of files, ii)~there is some overlap in the content served by multiple content providers. In the first case, we prove that cache partitioning outperforms cache sharing as cache size and numbers of contents served by providers go to infinity. In the second case, It can be beneficial to have separate partitions for overlapped content. In the case of two providers, it is usually always beneficial to allocate a cache partition to serve all overlapped content and separate partitions to serve the non-overlapped contents of both providers. We establish conditions when this is true asymptotically but also present an example where it is not true asymptotically. We develop online algorithms that dynamically adjust partition sizes in order to maximize the overall utility and prove that they converge to optimal solutions, and through numerical evaluations, we show they are effective.

研究动机与目标

• 解决在多个内容提供商之间高效分配共享LRU缓存资源以最大化效用的挑战。
• 研究在内容重叠和流行度分布变化的情况下，缓存分区与共享哪种策略性能更优。
• 开发在线、去中心化的算法，动态调整缓存分区大小以最大化总效用。
• 建立在重叠内容场景下分区为最优的理论条件，尤其是针对重叠内容。
• 基于李雅普诺夫稳定性理论，为动态缓存分配算法提供收敛性保证。

提出的方法

• 构建一个基于效用的缓存分配模型，其中每个内容提供商的效用取决于其观测到的命中率。
• 使用LRU替换策略建模缓存行为，并推导不同分区策略下的渐近命中率表达式。
• 利用Fagin对LRU的渐近分析，刻画在各种内容流行度分布（包括Zipf分布）下的命中率。
• 提出在线控制算法，根据实时命中率反馈和效用梯度调整分区大小。
• 应用李雅普诺夫稳定性理论，证明动态分配算法可收敛至最优缓存分区解。
• 比较三种策略：共享缓存、所有内容使用独立分区，以及混合分区（非重叠内容独立分区，重叠内容共享）。

实验结果

研究问题

• RQ1 当内容提供商提供不相交的内容集合时，缓存分区在何种条件下优于缓存共享？
• RQ2 即使其他内容已分配独立缓存分区，为重叠内容分配专用缓存分区是否仍然有益？
• RQ3 当内容流行度遵循类似Zipf的分布时，不同分区策略的渐近性能如何比较？
• RQ4 动态、去中心化的算法能否在实时环境中有效收敛至最优缓存分区配置？
• RQ5 是否存在共享缓存仍优于分区的场景，即使在渐近意义上也是如此？

主要发现

• 当内容提供商提供不相交的内容集合，且缓存大小与内容项数量均趋于无穷大时，缓存分区在渐近意义上优于缓存共享。
• 对于两个存在内容重叠的内容提供商，通常最优策略是为共享内容分配一个独立分区，同时为非重叠内容分配独立分区。
• 本文提出一个反例，表明在某些情况下共享缓存仍为渐近最优，说明分区并非在所有重叠场景下均优于共享。
• 所提出的在线算法可动态调整分区大小，并通过李雅普诺夫稳定性分析证明其收敛至最优解。
• 当使用最优分区大小时，混合分区策略（非重叠内容独立分区，重叠内容共享）的聚合未命中概率严格低于完全共享策略。
• 结合概率路由的分区策略为次优，这是通过命中率函数的凹性论证所证明的。