[논문 리뷰] Distributed Redundant Placement for Microservice-based Applications at the Edge

Hailiang Zhao, Shuiguang Deng외 3명|arXiv (Cornell University)|2019. 11. 09.

IoT and Edge/Fog Computing참고 문헌 33인용 수 8

한 줄 요약

이 논문은 다중접근 엣지 컴퓨팅(Multi-access Edge Computing, MEC) 환경에서 마이크로서비스 기반 애플리케이션을 위한 분산형 부속 배치 프레임워크인 SAA-RP를 제안한다. GA 기반 서버 선택(GASS) 알고리즘을 사용하여 이질적인 엣지 사이트 간에 최적의 배치를 수행한다. 서비스 요청의 불확실성을 모델링하고 여러 엣지 인스턴스 간의 부속성을 활용함으로써, GASS는 비부속 기준 대비 응답 시간과 가용성을 크게 향상시킨다. 이는 실제 데이터를 기반으로 검증되었다.

ABSTRACT

Multi-access Edge Computing (MEC) is booming as a promising paradigm to push the computation and communication resources from cloud to the network edge to provide services and to perform computations. With container technologies, mobile devices with small memory footprint can run composite microservice-based applications without time-consuming backbone. Service placement at the edge is of importance to put MEC from theory into practice. However, current state-of-the-art research does not sufficiently take the composite property of services into consideration. Besides, although Kubernetes has certain abilities to heal container failures, high availability cannot be ensured due to heterogeneity and variability of edge sites. To deal with these problems, we propose a distributed redundant placement framework SAA-RP and a GA-based Server Selection (GASS) algorithm for microservice-based applications with sequential combinatorial structure. We formulate a stochastic optimization problem with the uncertainty of microservice request considered, and then decide for each microservice, how it should be deployed and with how many instances as well as on which edge sites to place them. Benchmark policies are implemented in two scenarios, where redundancy is allowed and not, respectively. Numerical results based on a real-world dataset verify that GASS significantly outperforms all the benchmark policies.

연구 동기 및 목표

• 기존 MEC에서의 서비스 배치 기법은 일반적으로 서비스를 원자적으로 취급하고 복합적이고 상관관계가 있는 마이크로서비스 아키텍처를 忽시하는 경향이 있다.
• Kubernetes의 자가치유 기능에도 불구하고 이질성과 일시적인 장애로 인해 신뢰성이 떨어지는 엣지 환경에서의 고가용성 향상.
• 분산된 엣지 사이트에 걸쳐 마이크로서비스 배포 시 부속성을 통합하여 더 빠른 응답 시간과 부하 분산을 달성.
• 사용자 요청의 서비스 구성 방식과 엣지 사이트의 변동성에 대한 불확실성 모델링 및 처리.
• 실제 도입에 적합하고 확장 가능한 솔루션 설계를 위해 컨테이너 오케스트레이션 도구인 Kubernetes와의 호환성 확보.

제안 방법

• 마이크로서비스 요청 패턴의 불확실성과 엣지 사이트의 이질성 요소를 고려한 확률적 최적화 모델로 부속 배치 문제를 수립.
• 확률적 특성을 다루고 분산형, 확장 가능한 의사결정을 가능하게 하기 위해 샘플 평균 근사 기반 부속 배치(SAA-RP) 프레임워크를 개발.
• 부속성과 함께 최적의 엣지 사이트를 효율적으로 선별하기 위해 GA 기반 서버 선택(GASS) 알고리즘을 제안.
• 동일한 마이크로서비스 후보를 서로 다른 엣지 사이트에 다수 배포함으로써 부속성을 구현하여 지연 시간 감소와 장애 내성 향상.
• 응답 시간 최소화를 위해 가능한 가장 가까운 엣지 사이트를 선택함으로써 실용성과 성능 향상을 도모.
• 생산 환경 배포를 보장하기 위해 Kubernetes에 프레임워크를 통합하여 기존 클라우드 네이티브 오케스트레이션과의 호환성 확보.

실험 결과

연구 질문

• RQ1 분산된 엣지 사이트 간의 부속 배치는 복합 마이크로서비스 애플리케이션의 응답 시간과 가용성에 어떻게 기여하는가?
• RQ2 엣지 사이트의 이질성과 요청의 불확실성은 서비스 배치 의사결정에 어떤 영향을 미치는가?
• RQ3 제안된 GASS 알고리즘은 비부속 및 기준 배치 정책 대비 성능 및 확장성 측면에서 어떻게 비교되는가?
• RQ4 사용자가 요청하는 서비스 구성의 불확실성과 동적 엣지 환경을 효과적으로 다룰 수 있는가?
• RQ5 Kubernetes 기반 오케스트레이션에 부속성을 실용적으로 통합할 수 있는가?

주요 결과

• GASS 알고리즘은 부속 및 비부속 시나리오 모두에서 응답 시간을 줄이고 서비스 가용성을 향상시키는 데 있어 모든 기준 정책보다 뛰어난 성능을 보였다.
• 실제 데이터셋 기반의 수치적 결과는 SAA-RP를 통한 부속 배치가 고부하 또는 노드 장애 상황에서도 시스템의 강건성 향상과 지연 감소에 기여함을 확인했다.
• 사용자 서비스 구성 방식의 불확실성에 효과적으로 대응함으로써 더 견고하고 적응력 있는 배포 의사결정이 가능해졌다.
• SAA-RP는 Kubernetes 오케스트레이션과의 호환성 덕분에 강력한 확장성과 실용성을 입증하였으며, 실제 도입에 적합함을 입증했다.
• 여러 엣지 사이트에 걸쳐 부속성을 구현함으로써 개별 사이트의 일시적 장애 상황에서도 장시간 지연이나 서비스 장애 위험을 줄일 수 있었다.
• GASS에서 가능한 가장 가까운 엣지 사이트 선택 전략을 적용함으로써 네트워크 트래버스 거리가 최소화되어 응답 시간이 향상되었다.