[论文解读] Post-Training Quantization for Cross-Platform Learned Image Compression

Dailan He, Ziming Yang+4 more|arXiv (Cornell University)|Feb 15, 2022

Advanced Data Compression Techniques被引用 9

一句话总结

本文提出一种后训练量化（PTQ）框架，通过强制使用纯整数运算和确定性熵参数离散化，实现在学习型图像压缩模型中的跨平台一致推理。该方法在消除不同平台间浮点数不一致的同时，实现了最先进的率失真性能，无需微调或针对硬件的调优，即可实现SOTA学习压缩模型的实际部署。

ABSTRACT

It has been witnessed that learned image compression has outperformed conventional image coding techniques and tends to be practical in industrial applications. One of the most critical issues that need to be considered is the non-deterministic calculation, which makes the probability prediction cross-platform inconsistent and frustrates successful decoding. We propose to solve this problem by introducing well-developed post-training quantization and making the model inference integer-arithmetic-only, which is much simpler than presently existing training and fine-tuning based approaches yet still keeps the superior rate-distortion performance of learned image compression. Based on that, we further improve the discretization of the entropy parameters and extend the deterministic inference to fit Gaussian mixture models. With our proposed methods, the current state-of-the-art image compression models can infer in a cross-platform consistent manner, which makes the further development and practice of learned image compression more promising.

研究动机与目标

• 为解决由非确定性浮点数推理引起的跨平台不一致这一关键问题。
• 实现在多种平台上的确定性、硬件友好且通用的SOTA学习压缩模型部署。
• 在消除对浮点数运算和模型特定微调依赖的同时，保持SOTA模型的高码率-失真性能。
• 将确定性推理扩展至使用高斯混合模型（GMM）进行熵参数建模的复杂模型。

提出的方法

• 应用成熟的后训练量化（PTQ）技术，将浮点数模型转换为仅支持整数运算的推理网络，确保跨平台的确定性行为。
• 提出离线约束重量化方法，以稳定熵参数的量化过程，减少PTQ过程中的性能退化。
• 设计65级离散化方案用于熵参数，通过纯整数运算实现确定性查找，无需浮点数运算。
• 设计基于下取整整数均值和量化权重的确定性CDF索引机制，用于GMM-based熵模型，确保一致的概率估计。
• 引入Golomb编码作为极端值的回退机制，以维持数值稳定性并确保确定性解码。
• 采用标准PTQ校准方法，仅需少量数据量化权重和激活值，避免使用量化感知训练（QAT）。

实验结果

研究问题

• RQ1 后训练量化能否在不重新训练或性能损失的情况下消除学习型图像压缩中的跨平台不一致？
• RQ2 如何为基于GMM上下文建模的复杂模型实现确定性熵参数量化？
• RQ3 所提方法能否在确保跨异构平台纯整数推理的同时，保持SOTA码率-失真性能？
• RQ4 对熵参数进行离散化对压缩效率和解码一致性有何影响？

主要发现

• 所提出的基于PTQ的方法实现了SOTA学习型图像压缩模型的跨平台一致推理，包括采用联合自回归与超先验建模的模型。
• 与原始浮点数模型相比，该方法保持了近乎相同的码率-失真性能，性能退化可忽略不计。
• 65级熵参数离散化使得仅通过整数运算即可实现确定性CDF索引，彻底消除了浮点数不一致问题。
• 通过使用下取整整数均值和量化权重的确定性CDF索引机制，该方法支持基于GMM的熵模型。
• 该方法具有硬件友好性和通用性，兼容标准推理引擎和广泛部署的硬件。