[논문 리뷰] A Microservice-Based Platform for Sustainable and Intelligent SLO Fulfilment and Service Management

Juan Luis Herrera, Daniel Wang외 1명|arXiv (Cornell University)|2026. 02. 13.

Software System Performance and Reliability인용 수 0

한 줄 요약

논문은 개발자 프라이버시를 보존하면서 탄소 인식 SLO 이행과 동적 서비스 관리를 가능하게 하는 오픈 소스 마이크로서비스 기반 플랫폼 CASCA를 제시하며, Bash, Rust, Python으로 구현된 의사결정 시스템과 함께 실제 CC 미디어 스트리밍 사용 사례로 시연됩니다.

ABSTRACT

The Microservices Architecture (MSA) design pattern has become a staple for modern applications, allowing functionalities to be divided across fine-grained microservices, fostering reusability, distribution, and interoperability. As MSA-based applications are deployed to the Computing Continuum (CC), meeting their Service Level Objectives (SLOs) becomes a challenge. Trading off performance and sustainability SLOs is especially challenging. This challenge can be addressed with intelligent decision systems, able to reconfigure the services during runtime to meet the SLOs. However, developing these agents while adhering to the MSA pattern is complex, especially because CC providers, who have key know-how and information to fulfill these SLOs, must comply with the privacy requirements of application developers. This work presents the Carbon-Aware SLO and Control plAtform (CASCA), an open-source MSA-based platform that allows CC providers to reconfigure services and fulfill their SLOs while maintaining the privacy of developers. CASCA is architected to be highly reusable, distributable, and easy to use, extend, and modify. CASCA has been evaluated in a real CC testbed for a media streaming service, where decision systems implemented in Bash, Rust, and Python successfully reconfigured the service, unaffected by upholding privacy.

연구 동기 및 목표

• SLO를 충족하는 문제를 Computing Continuum에 배포된 마이크로서비스 기반 애플리케이션에서 지속 가능성과 개인정보를 고려하여 해결합니다.
• 분산 환경 전반에서 탄소 인식 SLO 이행 및 서비스 관리를 가능하게 하는 재사용 가능하고 확장 가능한 플랫폼(CASCA)을 제공합니다.
• dedicated EMMA 마이크로서비스를 통해 탄소 강도 데이터를 통합하고 인프라 제공자와 개발자를 위한 프라이버시 보호 인터페이스를 제공합니다.
• 미디어 스트리밍 사용 사례와 오픈 소스 구현을 통해 타당성과 실용성을 입증합니다.

제안 방법

• MSA 원칙에 따라 CASCA 플랫폼 아키텍처를 제안하여 SLO 이행과 서비스 관리를 지원합니다.
• 결정 의사결정에 탄소 인식이 가능하도록 EMMA를 도입합니다.
• SLO API와 서비스 제어 API의 이중 API 서비스 API를 정의하고 SLO, 구성 및 인프라 관찰 가능성 간의 프라이버시 보호 매핑을 제공합니다.
• Telemetry 미들웨어, telemetry 훅, telemetry 데이터베이스로 구성된 관찰 가능성 계층을 제공하여 다원 소스 SLO 데이터를 통합합니다.
• OpenAPI 규격 인터페이스를 통해 결정 시스템(AI 기반 또는 전통적)과의 통합 및 온라인 학습 요구사항을 지원합니다.
• Jellyfin, Autowatcher(세일즈포스와 유사한 연속 리포터), MQTT 기반 텔레메트리, InfluxDB를 타임 시리즈 데이터 저장소로 사용하는 미디어 스트리밍 사용 사례를 MSA 배포를 위해 컨테이너화하여 구현합니다.

Figure 1 : Complete architecture of the CASCA platform

실험 결과

연구 질문

• RQ1 CASCA가 CC에 배포된 MSAs에서 민감한 서비스 정보를 인프라 제공자에 유출하지 않으면서 SLO 이행과 서비스 관리를 공존시킬 수 있는 방법은?
• RQ2 전용 EMMA 마이크로서비스와 표준 API를 통해 SLO 이행에 탄소 인식이 효과적으로 통합될 수 있는가?
• RQ3 런타임에 서비스를 재구성하기 위해 Bash, Rust, Python 등 서로 다른 구현의 의사결정 시스템을 CASCA에 배포하는 것이 실용적이고 효과적인가?
• RQ4 CASCA 아키텍처가 다양 한 텔레메트리의 프라이버시 보호 관찰 가능성과 유연한 데이터 소스 통합을 지원하는가?
• RQ5 실제 CC 테스트베드에서의 CASCA 배포가 미디어 스트리밍 시나리오에서 성능 SLO(예: 트랜스코딩 처리량)와 탄소 발자국 간의 트레이드오프를 관리할 수 있는가?

주요 결과

• CASCA는 모듈식 마이크로서비스를 사용하여 프라이버시를 보호하는 방식으로 SLO 이행의 재구성 및 관찰 가능성을 가능하게 합니다.
• SLO 및 서비스 제어 인터페이스를 가진 Open API 게이트웨이는 다양한 의사결정 시스템 구현을 지원하면서 인프라를 서비스 시맨틱스와 분리합니다.
• EMMA는 OpenAPI 호환 엔드포인트를 통해 탄소 강도 데이터를 제공하여 탄소 인식 의사결정을 가능하게 합니다.
• 미디어 스트리밍 사용 사례는 CASCA가 탄소 발자국을 고려하여 트랜스코딩 등 서비스를 재구성할 수 있음을 보여주며, 의사결정 시스템은 Bash, Rust, Python으로 구현되어 있습니다.
• 모든 구성 요소와 사용 사례 구현은 오픈 소스이며, 다른 MSA 및 CC 배포에서 재현성과 재사용을 촉진합니다.

Figure 2 : Implementation of CASCA for the media streaming use case.