[논문 리뷰] Cold Start Latency in Serverless Computing: A Systematic Review, Taxonomy, and Future Directions

Muhammed Golec, Guneet Kaur Walia외 4명|arXiv (Cornell University)|2023. 10. 12.

IoT and Edge/Fog Computing인용 수 4

한 줄 요약

이 논문은 서버리스 컴퓨팅에서 콜드 스타트 지연에 대한 체계적인 리뷰와 분류 체계를 제시하며, 32개의 연구를 분석하여 캐싱, 응용 수준 최적화, AI/ML 기반 접근법으로 분류된 해결책을 제시한다. 주요 과제와 향후 연구 방향을 규명하여 서버리스 환경에서의 콜드 스타트 지연과 빈도를 줄이기 위한 종합적인 프레임워크를 제공한다.

ABSTRACT

Recently, academics and the corporate sector have paid attention to serverless computing, which enables dynamic scalability and an economic model. In serverless computing, users only pay for the time they actually use resources, enabling zero scaling to optimise cost and resource utilisation. However, this approach also introduces the serverless cold start problem. Researchers have developed various solutions to address the cold start problem, yet it remains an unresolved research area. In this article, we propose a systematic literature review on clod start latency in serverless computing. Furthermore, we create a detailed taxonomy of approaches to cold start latency, which we use to investigate existing techniques for reducing the cold start time and frequency. We have classified the current studies on cold start latency into several categories such as caching and application-level optimisation-based solutions, as well as Artificial Intelligence (AI)/Machine Learning (ML)-based solutions. Moreover, we have analyzed the impact of cold start latency on quality of service, explored current cold start latency mitigation methods, datasets, and implementation platforms, and classified them into categories based on their common characteristics and features. Finally, we outline the open challenges and highlight the possible future directions.

연구 동기 및 목표

• 시간 민감한 응용 프로그램에서 성능을 저해하는 핵심 과제인 서버리스 컴퓨팅에서의 콜드 스타트 지연을 해결하기 위해.
• 학술 및 산업 분야 연구에서 제시된 기존 해결책을 식별하고 분류하여 그 접근 방식과 효과성을 이해하기 위해.
• AI/ML, 캐싱, 함수 상태 관리 등을 포함한 콜드 스타트 완화 기법에 대한 체계적인 분류 체계를 제공하기 위해.
• 연구 격차를 부각하고 향후 연구 방향을 제안하기 위해, 예를 들어 개선된 AI 모델, 전이 학습, 오픈 데이터셋 등을 포함한다.
• 현재 지식을 통합하고 실행 가능한 연구 기회를 식별하여 연구자와 실무자들이 서버리스 컴퓨팅을 발전시키는 데 기여하기 위해.

제안 방법

• PRISMA 지침을 기반으로 체계적인 문헌 리뷰를 수행하여 학술 및 산업 출처에서 100편 이상의 논문을 분석하였다.
• 초기 데이터셋을 확장하기 위해 스노우볼 기법을 적용하여 콜드 스타트 솔루션에 집중한 최종적으로 선별된 32편의 논문으로 구성된 데이터셋을 확보하였다.
• 해결책을 다섯 가지 주요 범주로 분류: 캐싱 및 응용 수준 최적화, AI/ML 기반 예측, 함수 상태 지속성, 함수 융합, 런타임 아키텍처 개선.
• 콜드 스타트 지연 감소, 빈도 감소, 구현 가능성 기반으로 해결책의 효과성을 평가하였다.
• 분석을 이끌기 위해 다섯 개의 연구 질문을 활용하였으며, QoS 영향, 지연 요인, 해결책 분류, 플랫폼 적용 가능성, 오픈 과학 관행을 중심으로 집중하였다.
• 저널 출판 추세와 코드/데이터셋 공유 관행을 검토하여 연구 투명성과 재현 가능성을 평가하였다.

실험 결과

연구 질문

• RQ1 서버리스 응용 프로그램에서 콜드 스타트 지연과 서비스 품질(QoS) 간의 관계는 무엇인가?
• RQ2 서버리스 컴퓨팅 환경에서 콜드 스타트 지연에 영향을 미치는 주요 요인은 무엇인가?
• RQ3 기존의 콜드 스타트 지연 해결책은 어떻게 분류되며, 그 공통 특성과 차이점은 무엇인가?
• RQ4 콜드 스타트 완화 솔루션은 어떤 플랫폼과 런타임 환경에서 구현되었으며, 그 분포는 어떠한가?
• RQ5 현재 콜드 스타트 솔루션에 관한 문헌에서 코드와 데이터셋 공유의 정도는 어느 정도인가?

주요 결과

• 함수 실행과 콜드 스타트 시점 예측을 위한 AI/ML 기반 모델은 잠재력을 보이지만, 성능이 낮고 일반화 능력에 결함이 있다.
• 캐싱 및 응용 수준 최적화 기법은 널리 도입되어 있으며 콜드 스타트 빈도와 지연을 효과적으로 줄이는 데 기여한다.
• 함수 상태 지속성 및 융합 기반 접근법은 잠재력을 보이지만, 다양한 또는 병렬 함수 입력을 처리할 경우 확장성 문제를 겪는다.
• 양자 컴퓨팅과 전이 학습은 AI 모델 성능 향상에 있어 콜드 스타트 예측 분야에서 유망한 기반 기술로 부상하고 있다.
• 오픈소스 데이터셋과 재현 가능한 코드에 대한 심각한 격차가 존재하여, 콜드 스타트 연구 분야에서 모델 훈련과 벤치마킹이 제한된다.
• 현재의 격리 및 런타임 아키텍처는 콜드 스타트 완화를 최적화하지 못하고 있어, 새로운 설계 원칙과 스케줄링 전략이 필요하다.