[논문 리뷰] Cuttlefish: A Lightweight Primitive for Adaptive Query Processing

Tomer Kaftan, Magdalena Bałazińska외 2명|arXiv (Cornell University)|2018. 02. 26.

Advanced Bandit Algorithms Research참고 문헌 59인용 수 11

한 줄 요약

Cuttlefish는 Apache Spark에서 쿼리 실행 중에 가장 빠른 물리 연산자 변형을 동적으로 선택하기 위해 톰슨 샘플링 다중 손잡이 락기 알고리즘을 사용하는 경량이며 적응형 쿼리 처리 원리이다. Spark SQL 최적화기 대비 최대 7.5배의 처리량 향상을 달성하며, 최적화되지 않은 연산자가 최대 105배 느릴 경우에도 오라클 성능의 72–99%를 달성한다.

ABSTRACT

Modern data processing applications execute increasingly sophisticated analysis that requires operations beyond traditional relational algebra. As a result, operators in query plans grow in diversity and complexity. Designing query optimizer rules and cost models to choose physical operators for all of these novel logical operators is impractical. To address this challenge, we develop Cuttlefish, a new primitive for adaptively processing online query plans that explores candidate physical operator instances during query execution and exploits the fastest ones using multi-armed bandit reinforcement learning techniques. We prototype Cuttlefish in Apache Spark and adaptively choose operators for image convolution, regular expression matching, and relational joins. Our experiments show Cuttlefish-based adaptive convolution and regular expression operators can reach 72-99% of the throughput of an all-knowing oracle that always selects the optimal algorithm, even when individual physical operators are up to 105x slower than the optimal. Additionally, Cuttlefish achieves join throughput improvements of up to 7.5x compared with Spark SQL's query optimizer.

연구 동기 및 목표

• 다양하고 복잡하며 변화하는 데이터 처리 워크로드를 위한 최적의 물리 연산자 실행 방식을 선택하는 도전 과제 해결
• 현대 데이터 처리 프레임워크에 새로운 연산자마다 수작업으로 비용 모델과 최적화 규칙를 설계하는 것이 비현실적이라는 점을 극복하기 위해
• 수동 하이퍼파라미터 조정이나 명시적 규칙 없이도 자동으로 온라인으로 물리 연산자를 튜닝할 수 있도록 하기 위해
• 낮은 런타임 오버헤드와 확장성을 유지하면서도 분산형, 공유 자원이 없는 환경을 지원하기 위해
• 데이터 속성과 워크로드 특성에 따라 연산자 성능이 어떻게 변하는지 학습함으로써 맥락 기반 튜닝을 가능하게 하기 위해

제안 방법

• 개별 물리 연산자 변형 수준에서 작동하는 적응형 쿼리 처리를 위한 일반 목적의 원리인 Cuttlefish를 도입한다.
• 런타임 동안 다양한 물리 연산자 실행 방식의 탐색과 이용 간 균형을 이루기 위해 베이지안 다중 손잡이 락기 알고리즘인 톰슨 샘플링을 활용한다.
• 비맥락 기반 및 맥락 기반 밴딧 학습을 모두 지원하며, 입력 데이터 속성을 기반으로 한 비용 모델을 학습하여 선택을 안내한다.
• 런타임 오버헤드를 최소화하기 위해 튜너를 계산적으로 경량화하고 효율적으로 설계한다.
• 클러스터 내 노드 간에 밴딧 학습 통계를 공유함으로써 크로스 머신 학습을 가능하게 하여 수렴 속도와 적응 속도를 향상시킨다.
• Apache Spark에 원활하게 통합되어 이미지 컨볼루션, 정규 표현식 매칭, 관계형 조인과 같은 연산자에 대한 적응형 튜닝을 가능하게 한다.

실험 결과

연구 질문

• RQ1 수동 규칙나 비용 모델 설계 없이도 쿼리 실행 중 가장 빠른 물리 연산자 변형을 자동으로 선택할 수 있는 경량이며 일반 목적의 원리가 설계될 수 있는가?
• RQ2 톰슨 샘플링 기반의 밴딧 학습은 다양한 워크로드와 하드웨어 구성에서 최적의 연산자 실행 방식을 동적으로 선택하는 데 얼마나 효과적인가?
• RQ3 특히 동적 또는 예측 불가능한 워크로드 상황에서, 정적 쿼리 최적화기(예: Spark SQL의 기본 최적화기)에 비해 적응형 튜닝이 처리량 향상에 얼마나 기여하는가?
• RQ4 입력 데이터 특성에 기반해 성능을 예측할 수 있는 맥락 기반 비용 모델을 학습하고 활용할 수 있는가?
• RQ5 분산형, 공유 자원이 없는 환경에서 이 접근 방식은 어떻게 확장되며, 어떤 오버헤드를 유발하는가?

주요 결과

• Cuttlefish 기반의 적응형 연산자는 최적 알고리즘을 항상 선택하는 전지적 오라클의 처리량의 72–99%를 달성한다. 이는 최적화되지 않은 실행 방식이 최대 105배 느릴 경우에도 성립한다.
• 시스템은 Spark SQL의 기본 쿼리 최적화기 대비 조인 처리량을 최대 7.5배 향상시키며, 실제 워크로드에서 뚜렷한 성능 향상을 보였다.
• 톰슨 샘플링은 수동 하이퍼파라미터 조정 없이도 효과적인 탐색-이용 균형을 이룰 수 있게 하여 다양한 연산자에 대해 실용적인 접근을 가능하게 한다.
• 분산형 공유 자원이 없는 환경에서도 적응형 튜닝 메커니즘이 효율적으로 확장되며, 낮은 런타임 오버헤드와 효과적인 크로스 머신 학습을 제공한다.
• 맥락 기반 밴딧 학습은 데이터 속성에 따라 연산자 성능이 어떻게 변하는지 모델링할 수 있게 하여 더 스마트하고 데이터 기반의 물리 연산자 선택을 가능하게 한다.
• Cuttlefish는 분산 실행을 지원하고, 사전 예측 자원 낭비를 방지하며 크로스 노드 학습을 가능하게 하여 이전의 온라인 오토튜너인 SiblingRivalry와 REX를 뛰어넘는 성능을 발휘한다.