[论文解读] SZx: an Ultra-fast Error-bounded Lossy Compressor for Scientific Datasets

Xiaodong Yu, Sheng Di+5 more|arXiv (Cornell University)|Jan 31, 2022

Advanced Data Storage Technologies被引用 6

一句话总结

该论文提出UFZ，一种用于科学数据集的超高速误差有界有损压缩器，仅使用位运算、加法和减法等轻量级操作，在CPU和GPU上均实现了极高的压缩与解压缩速度。UFZ在GPU上实现了最高264GB/s的压缩速度和446GB/s的解压缩速度，相比SZ和ZFP提速2–16倍，同时保持可接受的压缩比和严格的误差界限。

ABSTRACT

Today's scientific high performance computing (HPC) applications or advanced instruments are producing vast volumes of data across a wide range of domains, which introduces a serious burden on data transfer and storage. Error-bounded lossy compression has been developed and widely used in scientific community, because not only can it significantly reduce the data volumes but it can also strictly control the data distortion based on the use-specified error bound. Existing lossy compressors, however, cannot offer ultra-fast compression speed, which is highly demanded by quite a few applications or use-cases (such as in-memory compression and online instrument data compression). In this paper, we propose a novel ultra-fast error-bounded lossy compressor, which can obtain fairly high compression performance on both CPU and GPU, also with reasonably high compression ratios. The key contributions are three-fold: (1) We propose a novel, generic ultra-fast error-bounded lossy compression framework -- called UFZ, by confining our design to be composed of only super-lightweight operations such as bitwise and addition/subtraction operation, still keeping a certain high compression ratio. (2) We implement UFZ on both CPU and GPU and optimize the performance according to their architectures carefully. (3) We perform a comprehensive evaluation with 6 real-world production-level scientific datasets on both CPU and GPU. Experiments show that UFZ is 2~16X as fast as the second-fastest existing error-bounded lossy compressor (either SZ or ZFP) on CPU and GPU, with respect to both compression and decompression.

研究动机与目标

• 解决科学HPC工作负载中对超高速有损压缩的迫切需求，特别是在内存内处理和实时仪器数据处理场景中。
• 克服现有误差有界压缩器（如SZ和ZFP）的性能瓶颈，这些压缩器依赖于昂贵的操作（如乘法、除法），限制了吞吐量。
• 设计一种仅使用超轻量级操作（位运算、加法、减法）的压缩框架，同时保持严格的误差界限和合理的压缩比。
• 通过针对设备的性能调优和内存访问模式优化，将UFZ框架在CPU和GPU架构上实现高效化。
• 在Summit和ThetaGPU等超算系统上使用生产级别的科学数据集，在真实HPC环境中展示UFZ的实际优越性。

提出的方法

• 设计一种新颖的压缩框架UFZ，其仅依赖于轻量级操作——位移、加法和减法，避免使用昂贵的乘除法操作。
• 在CPU和GPU上实现UFZ，利用CPU的SIMD并行性与GPU的线程级并行性以实现高吞吐量。
• 集成一种轻量级误差控制机制，通过整数运算和定点缩放，确保预测误差始终在用户指定的范围内。
• 采用基于误差阈值和舍入的简化量化方案，避免在逐点量化中使用复杂数学运算（如除法）。
• 针对GPU优化内存访问模式和内核启动，最小化延迟，最大化占用率和内存带宽利用率。
• 采用分层压缩策略，将数据划分为小而适合缓存的块，以提升数据局部性和并行效率。

实验结果

研究问题

• RQ1 能否仅通过依赖位运算和算术运算等轻量级操作，实现有损压缩框架在CPU和GPU上的超高速吞吐？
• RQ2 在不同硬件平台上，UFZ在压缩和解压缩速度方面与最先进的压缩器（SZ和ZFP）相比表现如何？
• RQ3 在真实科学数据集中，UFZ在保持严格误差界限的同时，其压缩比能达到可接受的水平吗？
• RQ4 在大规模HPC系统中，UFZ在数据转储和加载流水线中的端到端I/O性能方面有何影响？
• RQ5 UFZ能否在不牺牲误差控制或压缩质量的前提下，高效地优化于CPU和GPU等异构架构？

主要发现

• UFZ在单个GPU（A100）上实现了最高264GB/s的压缩吞吐量，比CPU和GPU上第二快的压缩器（SZ或ZFP）快2–16倍。
• 在GPU上，UFZ的峰值解压缩速度达到446GB/s，显著优于cuSZ和cuZFP（仅9.7–67GB/s）。
• 在CPU上，UFZ的压缩速度比ZFP快2.5–5倍，比SZ快5–7倍；解压缩速度比ZFP快2–4倍。
• 在ANL ThetaGPU系统上，使用64–1024个核心的端到端数据I/O流水线中，UFZ相比SZ和ZFP将数据转储和加载性能提升了100–200%。
• 尽管避免了复杂的预测和变换步骤，UFZ仍实现了合理的压缩比（比ZFP低0.3–3倍，比SZ低3–30倍）。
• 性能提升主要归因于消除了昂贵操作，并在CPU和GPU上使用了高度优化、架构感知的内核。