[논문 리뷰] GPU Kernels for High-Speed 4-Bit Astrophysical Data Processing

Peter Klages, Kevin Bandura외 4명|arXiv (Cornell University)|2015. 03. 20.

Radio Astronomy Observations and Technology참고 문헌 3인용 수 4

한 줄 요약

이 논문은 간섭계 전파 천체망원경에서 고속 4비트 천체물리 데이터 상관관계를 계산하기 위한 OpenCL 기반 GPU 커널을 제시한다. 4비트 데이터 패킹과 융합된 곱셈-덧셈 명령어를 활용하여 AMD GPU에서 이론적 최고 성능의 131%를 달성한다. 이 방법은 큰 N에 대해 효율적이고 확장 가능한 O(N²) 상관관계를 가능하게 하며, CHIME Pathfinder 상관관계기에서 실시간 동작이 입증되었다.

ABSTRACT

Interferometric radio telescopes often rely on computationally expensive O(N^2) correlation calculations; fortunately these computations map well to massively parallel accelerators such as low-cost GPUs. This paper describes the OpenCL kernels developed for the GPU based X-engine of a new hybrid FX correlator. Channelized data from the F-engine is supplied to the GPUs as 4-bit, offset-encoded real and imaginary integers. Because of the low bit width of the data, two values may be packed into a 32-bit register, allowing multiplication and addition of more than one value with a single fused multiply-add instruction. With this data and calculation packing scheme, as many as 5.6 effective tera-operations per second (TOPS) can be executed on a 4.3 TOPS GPU. The kernel design allows correlations to scale to large numbers of input elements, limited only by maximum buffer sizes on the GPU. This code is currently working on-sky with the CHIME Pathfinder Correlator in BC, Canada.

연구 동기 및 목표

• 저비트 심도 데이터를 사용하여 간섭계 전파 천체망원경용 고성능이고 이식 가능한 X엔진 상관관계기를 개발하기 위해.
• CUDA 기반 솔루션의 하드웨어 및 소프트웨어 제약을 극복하기 위해 OpenCL을 사용하여 다양한 플랫폼 간 GPU 호환성을 확보하기 위해.
• 4비트 데이터 패킹과 융합된 곱셈-덧셈 명령어를 활용하여 저비용 GPU에서 계산 효율을 극대화하기 위해.
• CHIME Pathfinder 및 전체 CHIME 장치에서 대규모 간섭계 요소(N 최대 8192)에 대해 확장 가능하고 실시간 상관관계를 가능하게 하기 위해.
• 기존 CUDA 기반 상관관계기인 xGPU와 유사한 성능을 보이지만, 4비트 데이터에서 뛰어난 성능을 보이는 오픈소스이자 제조사에 종속되지 않는 대안을 제공하기 위해.

제안 방법

• 4비트 오프셋 인코딩된 실수 및 허수 데이터를 32비트 단어당 두 개씩 패킹하여 데이터 스트림을 최대화한다.
• AMD GPU의 융합 곱셈-덧셈 명령어(mad24)를 활용하여 한 명령어당 두 개의 복소수 상관관계를 계산함으로써 산술 연산 수를 감소시킨다.
• 타일링된 상삼각형 상관관계 알고리즘을 구현하여 유일한 쌍만 계산함으로써 중복 연산을 줄인다.
• 이식성을 위해 OpenCL로 구현되었으며, AMD Southern Islands GPU에 최적화되어 있다.
• 동시 처리가 가능한 다수의 주파수 대역 분할 처리를 지원하며, 시간 지연 보정 및 게이팅된 상관관계 확장 기능도 포함되어 있다.
• 알고리즘은 GPU 버퍼 크기에 의해 결정되는 메모리 제약을 받으며, 계산 능력이 아닌 메모리 용량에 의해 제한되므로 큰 N에 대해 확장 가능하다.

실험 결과

연구 질문

• RQ1 4비트 데이터 패킹과 융합된 곱셈-덧셈 명령어가 GPU에서 표준 단정밀도 또는 정수 연산보다 더 높은 효과적 스루풋을 달성할 수 있는가?
• RQ2 4비트 패킹 커널의 성능가 이론적 최고 성능에 비해 어떻게 비교되는가? 특히 기존 CUDA 기반 구현과 비교했을 때 어떻게 되는가?
• RQ3 입력 요소 수(N)가 매우 클 경우 알고리즘이 성능 저하 없이 얼마나 확장 가능한가?
• RQ4 OpenCL 기반 구현이 4비트 데이터에서 xGPU와 같은 고도로 최적화된 CUDA 기반 X엔진보다 성능이 뛰어나게 되는가?
• RQ5 현대 GPU에서 고대역폭 천체물리 데이터의 실시간 처리를 위해 필요한 I/O 및 메모리 대역폭 요구사항은 무엇인가?

주요 결과

• 2048개의 입력 요소를 처리할 때 4비트 패킹 커널은 GPU의 이론적 최고 성능의 131%를 달성하여, 4비트 데이터에서 CUDA 기반 xGPU 구현보다 뛰어난 성능을 보였다.
• 단일 AMD R9 280X GPU에서 최대 331,800개의 상관관계 행렬을 매초 처리하여, CHIME Pathfinder(N=256)의 실시간 동작을 가능하게 했다.
• 전체 CHIME(N=2048, 400MHz 대역폭)의 경우 약 1,200개의 GPU가 필요하며, N=256를 초과하면 I/O 대역폭이 무시할 수 있을 정도로 낮아진다.
• 여러 주파수 대역 분할을 동시에 처리할 때도 높은 효율을 유지하며 성능에 미미한 영향을 미친다.
• 하드웨어 활용률은 81%로 xGPU의 91%보다 낮지만, 효과적인 데이터 패킹 덕분에 4비트 데이터 처리에서 여전히 성능에서 앞선다.
• 코드는 오픈소스이며 이식 가능하며, 유사 명령어 세트를 지원하는 다른 GPU에 대해 최소한의 재최적화가 필요하다.