[논문 리뷰] Circuit Breakers, Discovery, and API Gateways in Microservices

Fabrizio Montesi, Janine Weber|arXiv (Cornell University)|2016. 09. 19.

Software System Performance and Reliability참고 문헌 12인용 수 44

한 줄 요약

이 논문은 Jolie, 네이티브 마이크로서비스 프로그래밍 언어인 마이크로서비스의 핵심 패턴 세 가지—회로 차단기, 서비스 디스커버리, API 게이트웨이—에 대한 체계적인 분석을 제시한다. 이는 클라이언트 측 사용을 초월해 회로 차단기를 구현하는 데 있어 새로운 통찰을 드러내며, 변화하는 API에 적합한 매개변수 기반 재사용성을 강조하고, 시스템의 내재성과 유연성을 향상시키기 위해 조합적이고 패턴 기반의 설계를 지지한다.

ABSTRACT

We review some of the most widely used patterns for the programming of microservices: circuit breaker, service discovery, and API gateway. By systematically analysing different deployment strategies for these patterns, we reach new insight especially for the application of circuit breakers. We also evaluate the applicability of Jolie, a language for the programming of microservices, for these patterns and report on other standard frameworks offering similar solutions. Finally, considerations for future developments are presented.

연구 동기 및 목표

• 핵심 마이크로서비스 패턴인 회로 차단기, 서비스 디스커버리, API 게이트웨이의 배포 전략을 분석하고 비교하는 것.
• 클라이언트 측 사용을 초월해 회로 차단기를 효과적으로 적용함으로써 시스템의 내재성과 장애 내성성을 향상시키는 방법을 조사하는 것.
• Jolie가 이러한 패턴을 구현하는 데 적합한지 평가하며, 매개변수화 및 재사용성에 중점을 두는 것.
• 기존 서비스 코디네이션의 형식 모델에 존재하는 격차를 식별하고, 이러한 패턴과의 통합을 위한 향후 방향을 제안하는 것.
• 개발자가 더 신뢰할 수 있고 확장 가능한 마이크로서비스 아키텍처를 구축하는 데 안내할 수 있는 통합적이고 원칙적인 이론적 개요를 제공하는 것.

제안 방법

• 세 상태 모델(닫힘, 열림, 반열림)을 사용하여 회로 차단기의 상태 기계 행동을 체계적으로 분석한다.
• 대상 서비스 인터페이스에 매개변수화된 Jolie 기반의 회로 차단기 프로토타입을 제안하여, 배포 위치 간에 투명한 재사용을 가능하게 한다.
• 클라이언트 측 및 서버 측 서비스 디스커버리 전략을 평가하며, Eureka(클라이언트 기반)와 AWS ELB(서버 기반) 접근 방식을 대비한다.
• Jolie에서 재사용 가능한 구성 요소로 API 게이트웨이를 조합할 수 있음을 보여주며, 보안, 모니터링, 트래픽 관리에 대한 회로 차단기 및 로드 밸런싱 통합을 가능하게 한다.
• Jolie의 네이티브 서비스 조합 및 인터페이스 정의 지원을 활용하여, 타입 안정적이고 모듈화된 방식으로 패턴을 구현하고 검증한다.
• 기존 형식적 코디네이션 모델의 한계를 식별하고, 타임아웃, 장애, 동적 바인딩, 매개변수화된 행동을 지원하기 위한 확장 방안을 제안한다.

실험 결과

연구 질문

• RQ1 마이크로서비스에서 클라이언트 측 사용을 초월해 회로 차단기를 효과적으로 구현하면 시스템 전반의 내재성을 어떻게 향상시킬 수 있는가?
• RQ2 확장성, 장애 내성성, 성능 측면에서 클라이언트 측과 서버 측 서비스 디스커버리 간의 상호 교환 조건은 무엇인가?
• RQ3 API 게이트웨이를 모듈화되고 재사용 가능한 구성 요소로 조합하여 동적 API 관리 및 횡단 관심사 지원을 어떻게 달성할 수 있는가?
• RQ4 기존의 형식적 코디네이션 모델이 회로 차단기, 서비스 디스커버리, API 게이트웨이의 구현을 어느 정도 지원할 수 있는가?
• RQ5 인터페이스 매개변수화가 변화하는 마이크로서비스 시스템에서 회로 차단기와 같은 패턴의 장기적인 유지보수성과 재사용성을 어떻게 보장하는가?

주요 결과

• 회로 차단기는 클라이언트에 국한되지 않고 통신 체인의 어느 지점에나 투명하게 배치할 수 있어, 연쇄 실패로부터 더 넓은 보호를 제공한다.
• Jolie 기반의 회로 차단기 프로토타입은 인터페이스 매개변수화를 지원하여, 인터페이스가 변화하더라도 다른 서비스 간에 재사용이 가능하다. 이는 Hystrix와 달리 새로운 작업을 위해 재구현이 필요로 하지 않는다는 점에서 유리하다.
• 클라이언트 측 디스커버리(예: Eureka)는 클라이언트 측 캐싱 덕분에 더 내재성이 높지만, 서버 측 디스커버리(예: AWS ELB)는 고부하 상황에서 버퍼링이 발생할 수 있다.
• Jolie로 구축된 API 게이트웨이는 회로 차단기 및 로드 밸런서와 같은 모듈화된 구성 요소로 조합될 수 있어, 관심사 분리와 확장성을 가능하게 한다.
• 기존의 형식적 코디네이션 모델은 타임아웃, 장애, 동적 바인딩과 같은 핵심 패턴 기능을 네이티브로 지원하지 않아, 향상된 모델이 필요함을 시사한다.
• 회로 차단기, 서비스 디스커버리, API 게이트웨이를 하나의 형식 모델에 통합하는 것은 아직 해결되지 않은 과제이며, 프로세스 계산 및 컴포넌트 기반 시스템의 기존 프레임워크에 대한 확장이 필요하다.