[论文解读] Lossless data compression on GPGPU architectures

Axel Eirola|arXiv (Cornell University)|Sep 11, 2011

Algorithms and Data Compression参考文献 7被引用 4

一句话总结

本文研究了利用GPGPU架构中的并行原原子（如前缀和与排序）加速无损数据压缩（特别是bzip2）的可行性。结果表明，虽然MTF和VLE等核心压缩阶段可通过GPU优化算法实现高效并行化，但哈夫曼编码仍因树构建难题而成为性能瓶颈；不过，在高吞吐量场景下，预计算表可作为可行的解决方案。

ABSTRACT

Modern graphics processors provide exceptional computa- tional power, but only for certain computational models. While they have revolutionized computation in many fields, compression has been largely unnaffected. This paper aims to explain the current issues and possibili- ties in GPGPU compression. This is done by a high level overview of the GPGPU computational model in the context of compression algorithms; along with a more in-depth analysis of how one would implement bzip2 on a GPGPU architecture.

研究动机与目标

• 分析无损数据压缩算法与GPGPU编程模型的兼容性。
• 识别bzip2中哪些阶段适合进行GPU加速，哪些不适合。
• 在考虑内存带宽和同步约束的前提下，评估GPGPU在数据压缩方面的性能潜力。
• 探索在GPU上实现并行压缩原原子（如变长编码和前缀和）的实际方法。
• 评估通过PCIe传输数据的开销对使用GPGPU时整体压缩性能的影响。

提出的方法

• 使用GPGPU计算模型的高层概述，强调基于warp的执行和内存合并机制。
• 分析bzip2流水线（Burrows-Wheeler变换、MTF和哈夫曼编码）在GPU上的可移植性，重点关注数据并行操作。
• 应用并行前缀和与排序算法以加速变长编码和数据重排阶段。
• 评估预计算哈夫曼码字表的可行性，以避免GPU上密集的树构建操作。
• 研究现有轻量级压缩的GPGPU实现（如GFC、数据库压缩）以获取性能洞察。
• 考虑架构限制，如PCIe带宽和基于warp的模型中的线程同步。

实验结果

研究问题

• RQ1 bzip2压缩流水线的哪些阶段可以在GPGPU架构上实现有效并行化？
• RQ2 GPGPU中的内存访问模式和线程同步如何影响无损压缩算法的性能？
• RQ3 通用GPU原原子（如前缀和与排序）在多大程度上能加速压缩任务？
• RQ4 GPU加速哈夫曼编码中的性能瓶颈是什么？能否通过预计算表缓解？
• RQ5 PCIe数据传输的开销在多大程度上影响了GPGPU压缩相比CPU实现的整体加速比？

主要发现

• GPU上的并行前缀和与排序算法相比CPU实现最高可达到20倍的加速，从而高效加速了数据重排和码字定位阶段。
• bzip2中的变长编码（VLE）阶段可通过并行前缀和计算输出位置实现加速，且数据依赖问题极少。
• 由于数据依赖关系，MTF（移动到前端）变换难以高效并行化，但通过精心设计的内存访问模式，GPU加速仍具可行性。
• 由于其固有的顺序特性，哈夫曼树构建在GPU上仍是主要瓶颈，但预计算码字表可有效缓解该问题。
• 轻量级压缩方法（如差分编码和空值抑制）在GPU上可实现超过75 GB/s的压缩速度，其瓶颈在于PCIe带宽而非GPU计算能力。
• 尽管存在架构挑战，当数据传输开销被最小化且所有阶段均在GPU上执行时，端到端GPU压缩流水线仍可超越CPU实现。