[论文解读] Approximation of LRU Caches Miss Rate: Application to Power-law Popularities

Christian Berthet|arXiv (Cornell University)|May 19, 2017

Caching and Content Delivery参考文献 15被引用 9

一句话总结

本文提出了在幂律请求流行度下 LRU 缓存未命中率的闭式近似，将先前针对幂律参数大于 1 的渐近结果扩展至所有参数值。该研究提供了对 LRU 与静态缓存未命中率最坏情况比率的分析洞察，为具有倾斜工作负载的系统性能建模提供实用工具。

ABSTRACT

Building on the 1977 pioneering work of R. Fagin, we give a closed-form expression for the approximated Miss Rate (MR) of LRU Caches assuming a power-law popularity. Asymptotic behavior of this expression is an already known result when power-law parameter is above 1. It is extended to any value of the parameter. In addition, we bring a new analysis of the conditions (cache relative size, popularity parameter) under which the ratio of LRU MR to Static MR is worst-case.

研究动机与目标

• 开发幂律请求分布下 LRU 缓存未命中率的闭式近似。
• 将现有针对幂律参数大于 1 的渐近结果扩展至所有参数值。
• 分析 LRU 未命中率相对于静态（最优）缓存未命中率最坏情况发生的条件。
• 为具有倾斜访问模式的系统性能建模提供实用的分析工具。
• 揭示 LRU 缓存在不同缓存大小和流行度倾斜度下的鲁棒性。

提出的方法

• 基于 R. Fagin 1977 年的框架，推导出 LRU 缓存未命中率的闭式表达式。
• 将该近似应用于由 Zipf 类指数参数化的幂律流行度。
• 使用渐近分析验证该近似在所有幂律参数值下的有效性，而不仅限于参数大于 1 的情况。
• 将 LRU 未命中率与静态（最优）未命中率进行比较，以评估最坏情况性能。
• 采用数学分析方法，表征在不同缓存大小和流行度参数下，LRU 与静态未命中率的比值。
• 通过理论分析和已知结果的延伸验证该近似。

实验结果

研究问题

• RQ1 在幂律请求流行度下，LRU 缓存未命中率的闭式近似是什么？
• RQ2 当幂律参数小于或等于 1 时，该近似的行为如何？此前的结果在此类参数下存在局限。
• RQ3 在何种条件（缓存大小和流行度参数）下，LRU 未命中率相对于静态缓存最差？
• RQ4 在幂律环境中，LRU 与静态缓存未命中率之间的理论最坏情况比值是多少？
• RQ5 所提出的近似如何改进或扩展先前的渐近分析？

主要发现

• 本文推导出一个适用于所有幂律参数值的 LRU 缓存未命中率闭式表达式，而不仅限于参数大于 1 的情况。
• 该近似将已知的渐近结果扩展至整个参数范围，包括重尾分布（参数 ≤ 1）。
• LRU 与静态缓存未命中率之间的最坏情况比率在缓存大小和流行度倾斜度方面得到了解析表征。
• 分析表明，LRU 与最优缓存之间的最坏性能差距随流行度倾斜度增加和缓存大小减小而增大。
• 所推导的公式可实现对具有幂律访问模式系统的 LRU 未命中率的精确、高效估计，支持性能预测与系统设计。
• 该方法为评估现实世界中具有倾斜工作负载系统的缓存策略提供了理论基础。