[论文解读] GPU Kernels for High-Speed 4-Bit Astrophysical Data Processing

Peter Klages, Kevin Bandura+4 more|arXiv (Cornell University)|Mar 20, 2015

Radio Astronomy Observations and Technology参考文献 3被引用 4

一句话总结

本文提出基于OpenCL的GPU内核，用于在干涉射电望远镜中实现高速4位天体物理数据互相关，通过4位数据打包和融合乘加指令，在AMD GPU上实现131%的理论峰值性能。该方法实现了高效、可扩展的O(N²)互相关，适用于大N情况，已在CHIME Pathfinder相关器中实现实时运行。

ABSTRACT

Interferometric radio telescopes often rely on computationally expensive O(N^2) correlation calculations; fortunately these computations map well to massively parallel accelerators such as low-cost GPUs. This paper describes the OpenCL kernels developed for the GPU based X-engine of a new hybrid FX correlator. Channelized data from the F-engine is supplied to the GPUs as 4-bit, offset-encoded real and imaginary integers. Because of the low bit width of the data, two values may be packed into a 32-bit register, allowing multiplication and addition of more than one value with a single fused multiply-add instruction. With this data and calculation packing scheme, as many as 5.6 effective tera-operations per second (TOPS) can be executed on a 4.3 TOPS GPU. The kernel design allows correlations to scale to large numbers of input elements, limited only by maximum buffer sizes on the GPU. This code is currently working on-sky with the CHIME Pathfinder Correlator in BC, Canada.

研究动机与目标

• 开发一种高性能、可移植的X引擎相关器，用于干涉射电望远镜，采用低比特深数据。
• 通过使用OpenCL实现跨平台GPU兼容性，克服基于CUDA解决方案的软硬件限制。
• 通过利用4位数据打包和融合乘加指令，在低成本GPU上最大化计算效率。
• 在CHIME Pathfinder和完整CHIME仪器中，实现大规模干涉元件（N最高达8192）的可扩展、实时互相关。
• 提供一种开源、与厂商无关的替代方案，取代现有基于CUDA的xGPU等相关器，且在4位数据上性能更优。

提出的方法

• 该方法使用4位偏移编码的实部和虚部数据，每32位字中打包两个，以最大化数据吞吐量。
• 利用AMD GPU的融合乘加指令（mad24）每条指令计算两个复数互相关，减少算术操作次数。
• 内核实现分块、上三角互相关算法，仅计算唯一配对，减少冗余操作。
• 实现基于OpenCL，支持跨GPU厂商的可移植性，优化针对AMD Southern Islands GPU。
• 设计支持同时处理多个频带子带，并包含时间延迟补偿和门控互相关的扩展功能。
• 算法受GPU缓冲区大小限制，而非计算能力，因此可扩展至大N。

实验结果

研究问题

• RQ1 4位数据打包结合融合乘加指令是否能在GPU上实现比标准浮点或整数运算更高的有效吞吐量？
• RQ2 4位打包内核的性能与GPU理论峰值性能相比如何，特别是与现有基于CUDA的实现相比？
• RQ3 该算法在不出现性能退化的情况下，可扩展至多大数量的输入元素（N）？
• RQ4 基于OpenCL的实现是否能在4位数据上超越高度优化的CUDA-based X引擎（如xGPU）？
• RQ5 现代GPU在实时处理高带宽天体物理数据时，I/O和内存带宽需求如何？

主要发现

• 当处理N=2048个输入元素时，4位打包内核达到GPU理论峰值性能的131%，超过基于CUDA的xGPU实现对4位数据的性能表现。
• 在单个AMD R9 280X GPU上，该算法每秒可处理高达331,800个相关矩阵，支持CHIME Pathfinder（N=256）的实时运行。
• 对于完整CHIME（N=2048，带宽400 MHz），约需1,200块GPU，且当N>256时，I/O带宽影响可忽略。
• 该内核在同时处理多个频带子带时仍保持高效率，性能影响极小。
• 该实现达到81%的硬件利用率，低于xGPU的91%，但由于高效的数据打包，仍优于xGPU在4位数据上的表现。
• 代码为开源且可移植，其他支持类似指令集的GPU仅需极少重新优化。