[논문 리뷰] Adaptive Event Dispatching in Serverless Computing Infrastructures

Manuel Stein|arXiv (Cornell University)|2019. 01. 10.

Cloud Computing and Resource Management참고 문헌 31인용 수 5

한 줄 요약

이 논문은 서버리스 컴퓨팅을 위한 새로운 적응형 이벤트 디스패칭 알고리즘인 NOAH를 제안한다. 이 알고리즘은 데이터 국지성과 수요 예측을 바탕으로 동적으로 이벤트를 집계하여 자원 효율성을 향상시킨다. 비협력적 온라인 할당 히ュ리스틱을 사용함으로써 NOAH는 응답 시간과 자원 비용을 감소시켜 다양한 워크로드 하에서 OpenWhisk 및 백팩 히ュ리스틱보다 30% 높은 효율성을 달성한다.

ABSTRACT

Serverless computing is an emerging Cloud service model. It is currently gaining momentum as the next step in the evolution of hosted computing from capacitated machine virtualisation and microservices towards utility computing. The term "serverless" has become a synonym for the entirely resource-transparent deployment model of cloud-based event-driven distributed applications. This work investigates how adaptive event dispatching can improve serverless platform resource efficiency and contributes a novel approach that allows for better scaling and fitting of the platform's resource consumption to actual demand.

연구 동기 및 목표

• 데이터 국지성 인지 기반으로 데이터 전송과 컨텍스트 동기화 오버헤드를 줄임으로써 서버리스 플랫폼의 효율성을 향상시키기.
• 변동하는 워크로드 수요를 처리하기 위해 예상 자원 필요량에 맞추어 가상 할당을 동적으로 스케일링함으로써 문제를 해결하기.
• 시스템 지연 시간과 할당 비용 간의 트레이드오프를 최적화함으로써 응답 시간과 자원 활용도를 균형 잡기.
• 기존 히ュ리스틱과 대비하여 제안된 디스패칭 전략을 평가하고 검증하기 위한 시뮬레이션 프레임워크 개발하기.
• 향후 서버리스 스케줄링 및 자원 할당 분야의 연구를 위해 재사용 가능한 시뮬레이션 모델 제공하기.

제안 방법

• 응답 시간, 자원 비용, 데이터 국지성에 대한 목표를 포함하는 다목적 최적화 문제로 서버리스 스케줄링 문제를 수식화하기.
• 예측된 부하를 바탕으로 이벤트 수요를 추정하고 이벤트를 가상 워커에 할당하는 비협력적 온라인 할당 히ュ리스틱(NOAH) 도입하기.
• 유사한 데이터 액세스 패턴을 가진 이벤트를 그룹화하기 위해 가상 할당 배치를 활용하여 데이터 전송과 컨텍스트 스위칭을 최소화하기.
• CloudSim 기반의 이산 사건 시뮬레이션을 사용하여 이벤트 큐잉, 인스턴스 생성, 스케줄링 결정 등 서버리스 플랫폼 동작을 모델링하기.
• 응답 시간과 자원 커버리지 간의 트레이드오프를 제어하기 위해 가변 매개변수 α를 적용하여 워크로드 수준에 맞는 동적 적응 가능하게 하기.
• 합성 워크로드를 사용하여 NOAH를 OpenWhisk의 기본 로드 밸런서 및 게임 이론 기반 비협력적 로드 밸런싱 접근법과 비교 평가하기.

실험 결과

연구 질문

• RQ1 동적인 워크로드 패턴에 적응할 수 있는 서버리스 플랫폼의 이벤트 디스패칭은 어떻게 설계할 수 있으며, 자원 비용을 최소화할 수 있는가?
• RQ2 서버리스 이벤트 처리에서 데이터 국지성 인지 기능은 응답 시간 향상과 데이터 전송 오버헤드 감소에 얼마나 기여하는가?
• RQ3 다양한 수요 수준에서 서버리스 시스템의 응답 시간과 자원 활용도 간 최적의 트레이드오프는 무엇인가?
• RQ4 온라인 백팩 히ュ리스틱 및 OpenWhisk의 로드 밸런싱과 비교했을 때 제안된 NOAH 히ュ리스틱은 효율성과 확장성 측면에서 어떻게 성능을 내는가?
• RQ5 서버리스 스케줄링 알고리즘의 재현 가능한 평가를 지원하기 위해 효과적으로 설계되고 검증된 시뮬레이션 프레임워크를 만들 수 있는가?

주요 결과

• NOAH는 고병렬 워크로드 하에서 OpenWhisk의 기본 로드 밸런서 대비 자원 효율성에서 30% 향상을 달성한다.
• 모든 워크로드 수준에서 α = 10⁻⁴ 설정이 응답 시간과 자원 비용 간의 균형을 가장 효과적으로 관리하며 최적의 성능을 보인다.
• 데이터 국지성 기반의 이벤트 집계는 특히 OpenWhisk의 컨테이너 기반 모델과 비교했을 때 컨텍스트 동기화 오버헤드를 크게 감소시킨다.
• 시뮬레이션 프레임워크는 NOAH의 행동을 성공적으로 검증하고 기준 히ュ리스틱과의 재현 가능한 비교를 가능하게 했다.
• 다양한 워크로드 하에서 NOAH는 온라인 백팩 히ュ리스틱 및 비협력적 게임 이론 기반 로드 밸런싱보다 응답 시간과 자원 활용도 측면에서 뛰어난 성능을 보였다.
• 결과는 서버리스 플랫폼가 단순한 요청 기반 로드 밸런싱을 넘어서 지능적이고 적응형 디스패칭으로 이르기 위해 더 높은 효율성을 달성할 수 있음을 확인시켰다.