[논문 리뷰] Stateful Entities: Object-oriented Cloud Applications as Distributed Dataflows

Kyriakos Psarakis, Wouter Zorgdrager외 3명|arXiv (Cornell University)|2021. 11. 18.

Distributed systems and fault tolerance인용 수 4

한 줄 요약

이 논문은 상태를 가진 엔티티로 모델링된 명령형, 트랜잭셔널 파이썬 프로그램을 분산 상태 있는 데이터플로우 그래프로 변환하는 컴파일러 파이프라인을 제안한다. 이를 통해 스트리밍 엔진에서 네이티브 정확히 한 번 처리 보장을 갖는 실행이 가능해지며, 초도 벤치마크에서 100ms 미만의 지연 시간을 달성한다. 이는 응용 프로그램 개발자가 장애 관리 및 상태 일致성 문제를 고려할 필요 없이 개발할 수 있도록 한다.

ABSTRACT

Although the cloud has reached a state of robustness, the burden of using its resources falls on the shoulders of programmers who struggle to keep up with ever-growing cloud infrastructure services and abstractions. As a result, state management, scaling, operation, and failure management of scalable cloud applications, require disproportionately more effort than developing the applications' actual business logic. Our vision aims to raise the abstraction level for programming scalable cloud applications by compiling stateful entities -- a programming model enabling imperative transactional programs authored in Python -- into stateful streaming dataflows. We propose a compiler pipeline that analyzes the abstract syntax tree of stateful entities and transforms them into an intermediate representation based on stateful dataflow graphs. It then compiles that intermediate representation into different dataflow engines, leveraging their exactly-once message processing guarantees to prevent state or failure management primitives from "leaking" into the level of the programming model. Preliminary experiments with a proof of concept implementation show that despite program transformation and translation to dataflows, stateful entities can perform at sub-100ms latency even for transactional workloads.

연구 동기 및 목표

• 클라우드 응용 프로그램 개발자들이 상태 관리, 재시도, 일치성 보장 등의 분산 시스템 관련 고려사항에서 벗어나도록 하는 것.
• 명령형, 객체 지향적 클라우드 응용 프로그램이 스트리밍 데이터플로우 엔진의 정확히 한 번 처리 보장 기능을 활용할 수 있도록 하는 것.
• 실행 런타임에 독립적인 이식 가능한 중간 표현(IR)으로 고수준 코드를 컴파일함으로써 인프라 복잡성을 추상화하는 것.
• 프로그램 변환을 통한 데이터플로우 생성이 낮은 지연 시간 실행을 유지하면서도 성능 오버헤드가 극히 미미하다는 것을 입증하는 것.
• 클라우드 제공자와 실행 엔진 간 이식 가능성을 보장하는 포괄적인 클라우드 네이티브 응용 프로그램의 기반을 마련하는 것.

제안 방법

• 상태를 가진 엔티티와 그들의 트랜잭셔널 메서드를 식별하기 위해 파이썬 추상 구문 트리(_AST_)의 정적 분석.
• 메서드 호출을 영구 상태를 가진 데이터플로우 연산자로 모델링하는 강화된 상태 있는 데이터플로우 그래프 IR로 명령형 코드의 변환.
• Apache Flink Stateful Functions 및 저자들이 개발한 StateFlow 시스템과 같은 타겟 데이터플로우 엔진으로 IR의 컴파일.
• 타겟 엔진의 정확히 한 번 메시지 처리 의미 체계를 활용하여 응용 프로그램 로직 내 수동 장애 처리가 필요 없도록 하는 것.
• 개발자 친화성을 유지하면서도 정적 분석과 변환을 가능하게 하기 위해 파이썬 내부 도메인 특화 언어(DSL)의 사용.
• 응용 프로그램 코드를 수정하지 않고도 실행 백엔드 간의 투명한 전환을 지원하는 것.

실험 결과

연구 질문

• RQ1 명령형, 트랜잭셔널 객체 지향 코드가 의미 체계를 유지하면서 자동으로 분산 상태 있는 데이터플로우로 컴파일될 수 있는가?
• RQ2 실제 워크로드에서 변환 파이프라인의 성능 오버헤드는 어느 정도인가?
• RQ3 기존의 정확히 한 번 처리 보장을 제공하는 스트리밍 데이터플로우 엔진을 사용하여 클라우드 응용 프로그램에서 수동 장애 처리를 제거할 수 있는가?
• RQ4 이식 가능한 중간 표현(IR)은 어떤 방식으로 다양한 클라우드 제공자와 실행 엔진 간의 이식 가능성을 보장하는가?
• RQ5 일반 목적의 객체 지향 코드를 데이터플로우 그래프로 컴파일할 때 실질적인 제약 조건과 확장성 특성은 무엇인가?

주요 결과

• 컴파일러 파이프라인은 명령형 파이썬 코드를 스트리밍 엔진에서 정확히 한 번 처리 의미 체계로 실행 가능한 상태 있는 데이터플로우 그래프로 성공적으로 변환한다.
• 초도 실험 결과, 트랜잭셔널 워크로드에서 100ms 이하의 지연 시간을 기록하여 낮은 런타임 오버헤드를 확인할 수 있다.
• YCSB+T 벤치마크 측정 결과, 변환 과정에서 발생하는 성능 오버헤드는 1% 미만이다.
• 응용 프로그램 로직과 인프라 관련 고려사항 간의 분리를 통해 개발자가 일치성 보장, 재시도, 상태 롤백을 수동으로 작성할 필요 없이 개발할 수 있다.
• 중간 표현(IR) 덕분에 응용 프로그램 코드를 수정하지 않고도 Apache Flink Statefun 및 저자들의 StateFlow를 포함한 여러 백엔드로 배포할 수 있다.
• 이 시스템은 데이터플로우 모델이 고수준 프로그래밍 모델이 아니라 명령형 클라우드 응용 프로그램을 위한 저수준 IR로도 활용될 수 있음을 보여준다.