[논문 리뷰] High-Throughput Transaction Executions on Graphics Processors

Bingsheng He, Jeffrey Xu Yu|arXiv (Cornell University)|2011. 03. 16.

Distributed systems and fault tolerance참고 문헌 15인용 수 6

한 줄 요약

이 논문은 GPU 병렬 처리를 활용해 메모리 기반 데이터베이스에서 고처리량 온라인 처리 처리(OLTP) 엔진인 GPUTx를 제안한다. GPUTx는 트랜잭션을 대량의 배치로 묶어 GPU에서 동시에 실행함으로써 성능을 햖थ한다. 원자 연산과 SPMD 실행을 활용한 GPU 최적화된 무잠금 및 잠금 기반 전략을 통해 GPUTx는 표준 벤치마크에서 CPU 기반 시스템 대비 4–10배 높은 처리량을 달성한다.

ABSTRACT

OLTP (On-Line Transaction Processing) is an important business system sector in various traditional and emerging online services. Due to the increasing number of users, OLTP systems require high throughput for executing tens of thousands of transactions in a short time period. Encouraged by the recent success of GPGPU (General-Purpose computation on Graphics Processors), we propose GPUTx, an OLTP engine performing high-throughput transaction executions on the GPU for in-memory databases. Compared with existing GPGPU studies usually optimizing a single task, transaction executions require handling many small tasks concurrently. Specifically, we propose the bulk execution model to group multiple transactions into a bulk and to execute the bulk on the GPU as a single task. The transactions within the bulk are executed concurrently on the GPU. We study three basic execution strategies (one with locks and the other two lock-free), and optimize them with the GPU features including the hardware support of atomic operations, the massive thread parallelism and the SPMD (Single Program Multiple Data) execution. We evaluate GPUTx on a recent NVIDIA GPU in comparison with its counterpart on a quad-core CPU. Our experimental results show that optimizations on GPUTx significantly improve the throughput, and the optimized GPUTx achieves 4-10 times higher throughput than its CPU-based counterpart on public transaction processing benchmarks.

연구 동기 및 목표

• 사용자 부하 증가로 인해 온라인 서비스에서 고처리량 트랜잭션 처리에 대한 수요가 증가함에 따라 이를 해결하고자 한다.
• 일般 목적 GPU 계산(GPGPU)을 활용한 OLTP 워크로드 가속화의 가능성과 성능 이점을 탐색하고자 한다.
• 최소한의 동기화 오버헤드로 동시 트랜잭션 실행을 효율적으로 관리할 수 있는 GPU 기반 OLTP 엔진을 설계하고자 한다.
• 원자 연산, 막대한 스레드 병렬 처리, SPMD 실행과 같은 하드웨어 기능을 활용해 GPU에서 트랜잭션 실행을 최적화하고자 한다.

제안 방법

• 여러 트랜잭션을 단일 GPU 커널 실행으로 묶는 대량 실행 모델을 제안하여 병렬 처리를 향상시키고 커널 실행 오버헤드를 줄인다.
• GPU 스레드 분岐와 메모리 접근 패턴에 최적화된 세 가지 실행 전략—두 가지 무잠금 및 하나의 잠금 기반 전략—을 적용한다.
• 공유 데이터 구조에 대한 동시 업데이트를 안전하게 조율하기 위해 GPU 네이티브 원자 연산을 활용한다.
• 수천 개의 GPU 스레드를 통해 세밀한 데이터 병렬 처리를 가능하게 하는 SPMD(Single Program Multiple Data) 실행을 활용한다.
• GPU 글로벌 메모리 및 공유 메모리에서 메모리 뱅크 충돌을 최소화하고 코ales싱을 극대화하기 위해 메모리 접근 패턴을 설계한다.
• 고도로 혼잡한 상황에서도 정확성을 유지하면서 무잠금 성능을 극대화하는 하이브리드 접근 방식을 구현한다.

실험 결과

연구 질문

• RQ1 GPU 기반 실행은 기존 CPU 기반 시스템 대비 OLTP 워크로드의 처리량을 크게 향상시킬 수 있는가?
• RQ2 고병렬성 환경에서 GPU 아키텍처에 효과적으로 적응할 수 있는 트랜잭션 배치 및 대량 실행 전략은 무엇인가?
• RQ3 GPU에서 잠금 기반과 무잠금 트랜잭션 실행 전략 간의 성능 상충 관계는 어떠한가?
• RQ4 원자 연산과 SPMD 실행과 같은 GPU 전용 기능이 트랜잭션 처리량에 얼마나 기여하는가?
• RQ5 실제 OLTP 워크로드 하에서 트랜잭션 동시성과 데이터 세트 크기가 증가함에 따라 GPUTx는 어떻게 스케일링되는가?

주요 결과

• 최근의 NVIDIA GPU를 사용하여 표준 OLTP 벤치마크에서 GPUTx는 CPU 기반 대안 대비 4–10배 높은 처리량을 달성한다.
• 대량 실행 모델은 커널 실행 오버헤드를 감소시키고 GPU 점유율을 향상시켜 뚜렷한 성능 향상을 이끌어낸다.
• 낮은에서 중간 수준의 경쟁 상황에서는 무잠금 전략이 잠금 기반 접근 방식을 능가하지만, 고도로 혼잡한 상황에서는 잠금 기반 버전이 더 예측 가능하다.
• GPU에서의 하드웨어 원자 연산은 고처리량 트랜잭션 처리에서 확장 가능하고 정확한 동시 업데이트를 보장하는 데 핵심적이다.
• 최적화된 GPUTx 설계는 GPU 스레드 병렬 처리와 메모리 계층을 효과적으로 활용하여 유휴 사이클을 최소화하고 처리량을 극대화한다.
• 처리량 향상 효과는 고도의 트랜잭션 동시성과 낮은 데이터 경쟁을 보이는 워크로드에서 가장 두드러진다.