[论文解读] Understanding Application-Level Caching in Web Applications: A Comprehensive Introduction and Survey of State-of-the-Art Approaches

Jhonny Mertz, Ingrid Nunes|arXiv (Cornell University)|Nov 22, 2017

Caching and Content Delivery参考文献 80被引用 8

一句话总结

本文全面综述了Web应用中的应用层缓存技术，重点介绍通过将处理后的内容存储在内存中来提升性能和可扩展性的方法。涵盖静态缓存与自适应缓存策略，为开发人员和研究人员提供设计高效、自优化缓存解决方案的指导，实现最小化人工干预。

ABSTRACT

A new form of caching, namely application-level caching, has been recently employed in web applications to improve their performance and increase scalability. It consists of the insertion of caching logic into the application base code to temporarily store processed content in memory and then decrease the response time of web requests by reusing this content. However, caching at this level demands knowledge of the domain and application specificities to achieve caching benefits, given that this information supports decisions such as what and when to cache content. Developers thus must manually manage the cache, possibly with the help of existing libraries and frameworks. Given the increasing popularity of application-level caching, we thus provide a survey of approaches proposed in this context. We provide a comprehensive introduction to web caching and application-level caching, and present state-of-the-art work on designing, implementing, and managing application-level caching. Our focus is not only on static solutions but also approaches that adaptively adjust caching solutions to avoid the gradual performance decay that caching can suffer over time. This survey can be used as a start point for researchers and developers, who aim to improve application-level caching or need guidance in designing application-level caching solutions, possibly with humans out-of-the-loop.

研究动机与目标

• 为理解Web缓存的基本原理以及应用层缓存在提升Web应用性能方面的作用提供基础认知。
• 识别由于应用特定逻辑和领域依赖性，手动管理应用层缓存所面临的挑战。
• 综述静态与自适应缓存方法，这些方法能动态调整以防止随时间推移导致性能下降。
• 为希望实现或改进应用层缓存解决方案的研究人员和开发人员提供参考。

提出的方法

• 基于设计和运行时行为对现有应用层缓存方法进行分类与分析。
• 研究依赖预定义规则进行内容存储与检索的静态缓存技术。
• 探究通过监控工作负载和系统状态以动态调整缓存策略的自适应缓存机制。
• 评估辅助开发人员将缓存逻辑集成到应用代码中的库与框架的使用情况。
• 突出强调通过智能内容选择减少缓存失效开销并提高缓存命中率的技术。
• 强调应用特定知识在设计高效缓存策略中的重要性。

实验结果

研究问题

• RQ1 在实现方式和性能影响方面，传统Web缓存与应用层缓存的关键区别是什么？
• RQ2 Web应用中的静态缓存方法如何处理内容选择与失效？其局限性是什么？
• RQ3 存在哪些自适应策略可用于缓解应用层缓存在长期运行中出现的性能衰减？
• RQ4 开发人员如何以最小的人工开销有效将缓存逻辑集成到应用代码中？
• RQ5 现代框架与库在实现可扩展且可维护的应用层缓存方面发挥着何种作用？

主要发现

• 应用层缓存通过重用内存中存储的预处理内容，显著提升了响应速度。
• 手动缓存管理需要深入的应用特定知识，增加了开发复杂性和维护开销。
• 自适应缓存方法通过动态适应变化的访问模式和数据易变性，有助于缓解性能下降。
• 将缓存逻辑集成到应用代码中，可实现对缓存内容和缓存时机的细粒度控制。
• 现有框架与库虽减轻了缓存实现的负担，但仍需精心设计以避免缓存不一致。
• 本综述识别出一种日益增长的趋势：自调优与自动化缓存策略，以增强可扩展性与可维护性。