[논문 리뷰] High-Performance Deterministic Concurrency using Lingua Franca

Christian Menard, Marten Lohstroh외 11명|arXiv (Cornell University)|2023. 01. 06.

Distributed and Parallel Computing Systems인용 수 6

한 줄 요약

이 논문은 반응자 기반 모델을 통해 기본적으로 고성능 결정론적 동시성(concurrency)을 가능하게 하는 다국어 조율 언어인 Lingua Franca(LF)를 제안한다. 데이터 의존성의 정적 분석과 결정론적 실행의 강제로 인해 LF는 뛰어난 성능을 달성하며, Akka보다 1.85배 빠르고 CAF보다 1.42배 빠르다. 이는 결정론성이 동시 시스템에서 효율성의 손실를 초래하지 않음을 보여준다.

ABSTRACT

Actor frameworks and similar reactive programming techniques are widely used for building concurrent systems. They promise to be efficient and scale well to a large number of cores or nodes in a distributed system. However, they also expose programmers to nondeterminism, which often makes implementations hard to understand, debug, and test. The recently proposed reactor model is a promising alternative that enables efficient deterministic concurrency. In this paper, we show that determinacy does neither imply a loss in expressivity nor in performance. To show this, we evaluate Lingua Franca (LF), a reactor-oriented coordination language that equips mainstream programming languages with a concurrency model that automatically takes advantage of opportunities to exploit parallelism that do not introduce nondeterminism. Our implementation of the Savina benchmark suite demonstrates that, in terms of execution time, the runtime performance of LF programs even exceeds popular and highly optimized actor frameworks. We compare against Akka and CAF, which LF outperforms by 1.86x and 1.42x, respectively.

연구 동기 및 목표

• 동시 시스템에서 디버깅, 테스트 및 재현 가능성에 악영향을 미치는 비결정론적 액터 프레임워크의 광범위한 사용 문제를 해결하기 위해.
• Akka와 CAF와 같은 고도로 최적화된 비결정론적 액터 프레임워크와 비교해 결정론적 동시성 모델이 유사하거나 뛰어난 성능를 달성할 수 있는지 탐구하기 위해.
• 기본적으로 결정론성을 강제하고 효율적인 병렬 처리를 지원하는 반응자 기반 조율 언어인 Lingua Franca(LF)를 평가하기 위해.
• 복잡한 실세계 워크로드에서도 결정론적 동시성은 성능 희생 없이 가능하다는 것을 입증하기 위해.
• LF의 C++ 타겟이 Savina와 같은 실용적이고 생산 환경에 관련된 벤치마크에서 기존 프레임워크를 뛰어넘을 수 있음을 보여주기 위해.

제안 방법

• Lingua Franca는 동시 컴пон넌트(반응자)를 계층적으로 조합하고 데이터 플로우 의미 체계를 통해 결정론적 실행을 보장하는 반응자 모델을 사용한다.
• 언어는 데이터 의존성의 정적 분석을 통해 런타임에 이벤트 처리 순서를 정확히 보장함으로써 결정론성을 강제한다.
• LF는 C, C++, Python, TypeScript, Rust 등 주류 언어를 지원하며, 고성능 실행을 위해 효율적인 C++ 코드로 컴파일된다.
• 런타임은 경량이며 락 없는 스케줄링 전략을 사용하여 비결정론성을 유도하지 않으면서도 세밀한 병렬성을 활용한다.
• 평가에는 동시 시스템을 위한 실세계 워크로드 세트인 Savina 벤치마크 세트를 사용하여 Akka와 CAF와의 성능 비교를 수행한다.
• 성능는 다핵 시스템에서의 실행 시간을 측정하며, 통계적 신뢰성을 확보하기 위해 다수의 실행 결과 평균을 취한다.

Figure 6 . Mean execution times and 99% confidence intervals for various Savina benchmarks implemented in LF, CAF, and Akka, measured for a varying number of worker threads. The numbers prefixed with # are benchmark IDs as listed in (Imam and Sarkar, 2014 ) .

실험 결과

연구 질문

• RQ1 현대 다핵 시스템에서 성능을 희생시키지 않고 결정론적 동시성을 달성할 수 있는가?
• RQ2 Akka와 CAF와 같은 고도로 최적화된 비결정론적 액터 프레임워크와 비교해, 결정론적 조율 모델인 Lingua Franca의 성능는 어떠한가?
• RQ3 데이터 의존성의 정적 분석이 동시 시스템에서 효율적이고 결정론적인 병렬 실행을 얼마나 잘 가능하게 하는가?
• RQ4 Lingua Franca와 같은 다국어, 언어 독립적 조율 모델이 실세계 응용 프로그램에서 높은 표현력과 높은 성능를 동시에 지원할 수 있는가?
• RQ5 동시 시스템에서 기본적으로 결정론성을 강제하면 성능 향상이 측정 가능한지, 또는 오직 정확성 향상 외에는 영향이 없는가?

주요 결과

• Lingua Franca의 C++ 타겟은 Savina 벤치마크 세트에서 Akka보다 평균 1.85배, CAF보다 1.42배 더 빠른 성능을 기록하여 뛰어난 런타임 성능를 입증한다.
• 성능 향상은 락 없는 효율적 스케줄링과 비결정론성을 유도하지 않으면서도 데이터 병렬성의 효과적 활용 덕분이다.
• 결정론적 실행은 성능를 저해하지 않으며, 오히려 예측 가능한 제어 및 데이터 흐름 덕분에 더 나은 최적화 기회를 제공한다.
• 평가 결과, LF는 예측 가능하고 반복 가능한 동작을 보이며 높은 처리량을 유지하는 복잡한 실세계 동시 워크로드를 처리할 수 있음을 보여준다.
• 결과는 LF의 기본 결정론성이 성능 희생 없이 가능하며, 비결정론적 대안을 뛰어넘을 수 있음을 시사한다.
• 저자들은 결정론성과 고성능가 상충되지 않으며, 향후 스케줄링 최적화를 통해 성능를 더욱 향상시킬 수 있음을 결론 내린다.

Figure 7 . Speedup achieved by our optimized C++ runtime for 20 worker threads compared to an unoptimized version.