[논문 리뷰] Technical Report: Optimistic Execution in Key-Value Store

Duong Nguyen, Aleksey Charapko외 2명|arXiv (Cornell University)|2018. 05. 25.

Distributed systems and fault tolerance참고 문헌 46인용 수 3

한 줄 요약

이 논문은 순차 일관성(sequential consistency)을 위한 애플리케이션을 버펄로(Voldemort)와 같은 최종 일관성(key-value store)에서 안전하게 실행할 수 있도록 하는 detect-rollback 기법을 제안한다. 정확성 조건(predicate, 예: 그래프 처리에서의 상호 배제)을 모니터링하여 위반 시 이전의 일관된 상태로 롤백함으로써, 지역 네트워크에서 50–80% 높은 처리량을 달성했으며, 모니터링 오버헤드는 4% 미만, 감지 지연 시간은 50ms 미만을 기록했다.

ABSTRACT

Limitations of the CAP theorem imply that if availability is desired in the presence of network partitions, one must sacrifice sequential consistency, a consistency model that is more natural for system design. We focus on the problem of what a designer should do if he/she has an algorithm that works correctly with sequential consistency but is faced with an underlying key-value store that provides a weaker (e.g., eventual or causal) consistency. We propose a detect-rollback based approach: The designer identifies a correctness predicate, say $P$, and continues to run the protocol, as our system monitors $P$. If $P$ is violated (because the underlying key-value store provides a weaker consistency), the system rolls back and resumes the computation at a state where $P$ holds. We evaluate this approach with practical graph applications running on the Voldemort key-value store. Our experiments with deployment on Amazon AWS EC2 instances shows that using eventual consistency with monitoring can provide a $50-80\%$ increase in throughput when compared with sequential consistency. We also show that the overhead of the monitoring itself is low (typically less than 4\%) and the latency of detecting violations is small. In particular, more than $99.9\%$ of violations are detected in less than $50$ milliseconds in regional AWS networks, and in less than $5$ seconds in global AWS networks.

연구 동기 및 목표

• 최종 일관성 또는 인과 일관성 키-밸류 스토어에서 순차 일관성에 의존하는 애플리케이션을 실행하는 데 도전하는 문제를 해결하기 위해.
• 약한 일관성 모델을 위한 알고리즘 재설계의 필요성을 줄이기 위해 롤백 복구를 통해 안전한 실행을 가능하게 하기 위해.
• 실세계 분산 애플리케이션에서 정확성 조건 모니터링의 성능, 오버헤드, 감지 지연 시간을 평가하기 위해.
• 네트워크 파artition 상황에서도 정확성을 유지하면서 모니터링이 상당한 처리량 향상을 제공할 수 있음을 입증하기 위해.

제안 방법

• 시스템은 경량이며 비침습적인 모니터링 모듈을 사용하여 정확성 조건 P(예: 그래프 처리에서의 국소 상호 배제)를 모니터링한다.
• 거짓 긍정을 줄이고 효율성을 향상시키기 위해 하이브리드 벡터 클록(hybrid vector clocks)을 사용하여 조건 감지를 구현한다.
• P 위반이 발생하면 기존의 저오버헤드 롤백 시스템(예: Retroscope)을 활용해 가장 최근의 일관된 스냅샷으로 롤백한다.
• 이 방법은 선형 및 준선형 조건(predicate)을 모두 지원하며, 이전의 분산 조건 감지 작업에서 유도된 알고리즘을 활용한다.
• 모니터링은 Voldemort 키-밸류 스토어에 통합되었으며, 실세계 성능 평가를 위해 AWS EC2에서 실험을 수행했다.
• Voldemort의 활성 복제 기능을 활용하여 클라이언트가 모니터 피드백에 따라 일관성 수준을 동적으로 전환할 수 있도록 했다.

실험 결과

연구 질문

• RQ1 순차 일관성에 설계된 애플리케이션을 런타임 모니터링과 롤백을 통해 최종 일관성 키-밸류 스토어에서 안전하게 실행할 수 있는가?
• RQ2 분산 키-밸류 스토어에서 정확성 조건을 모니터링할 경우 발생하는 성능 오버헤드는 어느 정도인가?
• RQ3 지역 및 글로벌 네트워크 아키텍처에서 조건 위반은 얼마나 빨리 감지될 수 있는가?
• RQ4 순차 일관성 사용 대비 모니터링이 처리량에 얼마나 기여하는가?
• RQ5 이 모니터링 프레임워크는 정확성 확보 외에도 동적 일관성 수준 적응에 활용될 수 있는가?

주요 결과

• 그래프 처리 워크로드에서 순차 일관성 대비 최종 일관성을 사용할 경우 detect-rollback 기법이 처리량을 50–80% 향상시켰다.
• 일반 조건에서는 모니터링 오버헤드가 항상 4% 이하였고, 부하가 가중된 실험에서는 8% 이하였다.
• 지역 AWS 네트워크에서 99.9% 이상의 정확성 조건 위반 사례가 50밀리초 이내에 감지되었다.
• 글로벌 네트워크 감지 지연 시간은 5초 이내를 유지하여 롤백으로 인한 낭비 계산을 최소화했다.
• 정확성 조건 위반 수가 매우 적어, 네트워크 파artition 상황에서도 이 방법이 실용적임을 시사했다.
• 모니터에서 제공하는 피드백을 통해 장기간의 네트워크 불안정성 기간 동안 순차 일관성으로 전환하는 등의 동적 적응이 가능했다.