[论文解读] Cold Start Latency in Serverless Computing: A Systematic Review, Taxonomy, and Future Directions

Muhammed Golec, Guneet Kaur Walia+4 more|arXiv (Cornell University)|Oct 12, 2023

IoT and Edge/Fog Computing被引用 4

一句话总结

本文对无服务器计算中的冷启动延迟进行了系统性综述与分类，分析了32项研究，将解决方案归类为缓存、应用级优化以及基于人工智能/机器学习的方法。文章识别出关键挑战与未来研究方向，提出了一套全面的框架，以减少无服务器环境中的冷启动延迟及其频率。

ABSTRACT

Recently, academics and the corporate sector have paid attention to serverless computing, which enables dynamic scalability and an economic model. In serverless computing, users only pay for the time they actually use resources, enabling zero scaling to optimise cost and resource utilisation. However, this approach also introduces the serverless cold start problem. Researchers have developed various solutions to address the cold start problem, yet it remains an unresolved research area. In this article, we propose a systematic literature review on clod start latency in serverless computing. Furthermore, we create a detailed taxonomy of approaches to cold start latency, which we use to investigate existing techniques for reducing the cold start time and frequency. We have classified the current studies on cold start latency into several categories such as caching and application-level optimisation-based solutions, as well as Artificial Intelligence (AI)/Machine Learning (ML)-based solutions. Moreover, we have analyzed the impact of cold start latency on quality of service, explored current cold start latency mitigation methods, datasets, and implementation platforms, and classified them into categories based on their common characteristics and features. Finally, we outline the open challenges and highlight the possible future directions.

研究动机与目标

• 为解决无服务器计算中冷启动延迟这一关键挑战，该挑战制约了对时间敏感型应用的性能表现。
• 识别并分类学术与工业研究中的现有解决方案，以理解其方法与有效性。
• 提供冷启动缓解技术的系统性分类，包括人工智能/机器学习、缓存与函数状态管理。
• 指出研究空白，并提出未来方向，如改进的AI模型、迁移学习与开放数据集。
• 通过整合现有知识并识别可操作的研究机会，支持研究人员与实践者推动无服务器计算的发展。

提出的方法

• 采用PRISMA指南进行系统性文献综述，分析来自学术与工业来源的100余篇论文。
• 应用滚雪球法扩展初始文献集，最终形成聚焦于冷启动解决方案的32篇论文精选数据集。
• 将解决方案分类为五大主要类别：缓存与应用级优化、基于人工智能/机器学习的预测、函数状态持久化、函数融合与运行时架构改进。
• 基于冷启动延迟降低程度、频率减少情况与实现可行性，评估解决方案的有效性。
• 使用五个研究问题引导分析，重点关注服务质量（QoS）影响、延迟因素、解决方案分类、平台适用性与开放科学实践。
• 审查期刊发表趋势与代码/数据集共享实践，以评估研究透明度与可复现性。

实验结果

研究问题

• RQ1 无服务器应用中冷启动延迟与服务质量（QoS）之间存在何种关系？
• RQ2 影响无服务器计算环境中冷启动延迟的关键因素有哪些？
• RQ3 现有冷启动延迟解决方案如何分类？其常见特征与差异是什么？
• RQ4 冷启动缓解解决方案在哪些平台与运行时环境中已实现？其分布情况如何？
• RQ5 当前关于冷启动解决方案的文献中，代码与数据集的共享程度如何？

主要发现

• 基于人工智能/机器学习的函数执行与冷启动时间预测模型虽具前景，但性能较低且缺乏泛化能力。
• 缓存与应用级优化技术被广泛采用，且在降低冷启动频率与延迟方面效果显著。
• 函数状态持久化与融合方法虽具潜力，但在处理多样化或并行函数输入时面临可扩展性问题。
• 量子计算与迁移学习正成为提升冷启动预测中AI模型性能的有前途的推动因素。
• 在开源数据集与可复现代码方面存在显著缺口，限制了冷启动研究中模型训练与基准测试的开展。
• 当前的隔离机制与运行时架构未针对冷启动缓解进行优化，表明亟需新的设计原则与调度策略。