[論文レビュー] Cold Start Latency in Serverless Computing: A Systematic Review, Taxonomy, and Future Directions

Muhammed Golec, Guneet Kaur Walia+4 more|arXiv (Cornell University)|Oct 12, 2023

IoT and Edge/Fog Computing被引用数 4

ひとこと要約

本論文は、サーバessコンピューティングにおけるコールドスタート遅延に関する体系的レビューと分類法を提示し、32件の研究を分析して、キャッシュ、アプリケーションレベルの最適化、AI/MLベースのアプローチに分類される解決策を検討する。主な課題と今後の研究方向性を特定し、サーバess環境におけるコールドスタート遅延と頻度の低減に向けた包括的なフレームワークを提供する。

ABSTRACT

Recently, academics and the corporate sector have paid attention to serverless computing, which enables dynamic scalability and an economic model. In serverless computing, users only pay for the time they actually use resources, enabling zero scaling to optimise cost and resource utilisation. However, this approach also introduces the serverless cold start problem. Researchers have developed various solutions to address the cold start problem, yet it remains an unresolved research area. In this article, we propose a systematic literature review on clod start latency in serverless computing. Furthermore, we create a detailed taxonomy of approaches to cold start latency, which we use to investigate existing techniques for reducing the cold start time and frequency. We have classified the current studies on cold start latency into several categories such as caching and application-level optimisation-based solutions, as well as Artificial Intelligence (AI)/Machine Learning (ML)-based solutions. Moreover, we have analyzed the impact of cold start latency on quality of service, explored current cold start latency mitigation methods, datasets, and implementation platforms, and classified them into categories based on their common characteristics and features. Finally, we outline the open challenges and highlight the possible future directions.

研究の動機と目的

• タイムセンシティブなアプリケーションにおけるパフォーマンスを妨げる、サーバessコンピューティングにおけるコールドスタート遅延という重要な課題に対処すること。
• 学術的および産業的リサーチから得られる既存の解決策を同定・分類し、それらのアプローチと有効性を理解すること。
• AI/ML、キャッシュ、関数ステート管理を含む、コールドスタート軽減技術の体系的分類法を提供すること。
• 研究ギャップを明確にし、より良いAIモデル、トランスファーラーニング、オープンデータセットといった今後の方向性を提案すること。
• 現在の知識を統合し、実行可能な研究機会を同定することで、研究者および実務家がサーバessコンピューティングの発展を支援すること。

提案手法

• PRISMAガイドラインに従った体系的文献レビューを実施し、学術的および産業的ソースから100件以上の論文を分析した。
• スノーボール法を適用して初期の論文セットを拡張し、コールドスタート解決策に焦点を当てた、32件の論文からなるキュレートされたデータセットを構築した。
• 解決策を5つの主要カテゴリに分類した：キャッシュおよびアプリケーションレベルの最適化、AI/MLベースの予測、関数ステートの永続化、関数の統合、ランタイムアーキテクチャの改善。
• コールドスタート遅延の低減度、頻度の低減度、実装の可能性に基づいて解決策の有効性を評価した。
• 分析をガイドするための5つの研究質問を設定し、QoSへの影響、遅延要因、解決策の分類、プラットフォームへの適用可能性、オープンサイエンスの実践を焦点にした。
• ジャーナルの出版傾向およびコード・データセット共有の実態をレビューし、研究の透明性と再現可能性を評価した。

実験結果

リサーチクエスチョン

• RQ1 サーバessアプリケーションにおけるコールドスタート遅延とサービス品質（QoS）の関係は何か？
• RQ2 サーバessコンピューティング環境におけるコールドスタート遅延に影響を与える主な要因は何か？
• RQ3 既存のコールドスタート遅延解決策はどのように分類され、それらの共通の特徴と相違点は何か？
• RQ4 コールドスタート緩和解決策は、どのプラットフォームやランタイム環境で実装されており、その分布はどのようになっているか？
• RQ5 現在のコールドスタート解決策に関する文献において、コードおよびデータセットの共有はどの程度行われているか？

主な発見

• 関数実行およびコールドスタートタイミングを予測するAI/MLベースのモデルは有望であるが、性能が低く、一般化性に欠ける。
• キャッシュおよびアプリケーションレベルの最適化技術は広く採用されており、コールドスタートの頻度と遅延の両方を効果的に低減できる。
• 関数ステートの永続化や統合ベースのアプローチは潜在的な効果を示しているが、多様なまたは並列な関数入力を処理する際のスケーラビリティの問題に直面している。
• 量子コンピューティングとトランスファーラーニングは、コールドスタート予測におけるAIモデル性能の向上に向けた有望なエンablerとして登場している。
• オープンソースのデータセットと再現可能なコードの不足により、コールドスタート研究におけるモデルのトレーニングとベンチマークの実施が制限されている。
• 現在の隔離およびランタイムアーキテクチャはコールドスタート緩和に最適化されていないため、新しい設計原則とスケジューリング戦略の導入が求められている。