[论文解读] Variable-Bitrate Neural Compression via Bayesian Arithmetic Coding

Yibo Yang, Robert Bamler+1 more|arXiv (Cornell University)|Feb 18, 2020

Generative Adversarial Networks and Image Synthesis被引用 5

一句话总结

本文提出了一种基于贝叶斯算术编码的可变比特率神经压缩方法，通过基于后验不确定性估计自适应调整量化精度，使单个训练好的模型能够实现多种码率-失真权衡。该方法在无需微调的情况下，在广泛比特率范围内均优于JPEG。

ABSTRACT

Deep Bayesian latent variable models have enabled new approaches to both model and data compression. Here, we propose a new algorithm for compressing latent representations in deep probabilistic models, such as variational autoencoders, in post-processing. The approach thus separates model design and training from the compression task. Our algorithm generalizes arithmetic coding to the continuous domain, using adaptive discretization accuracy that exploits estimates of posterior uncertainty. A consequence of the plug and play nature of our approach is that various rate-distortion trade-offs can be achieved with a single trained model, eliminating the need to train multiple models for different bit rates. Our experimental results demonstrate the importance of taking into account posterior uncertainties, and show that image compression with the proposed algorithm outperforms JPEG over a wide range of bit rates using only a single machine learning model. Further experiments on Bayesian neural word embeddings demonstrate the versatility of the proposed method.

研究动机与目标

• 开发一种用于深度概率模型（如变分自编码器）潜在表示的后处理压缩方法。
• 通过单个训练好的模型实现可变比特率压缩，避免为每个比特率训练多个模型。
• 通过基于不确定性的自适应离散化精度，将算术编码推广至连续域。
• 通过利用潜在空间中的后验不确定性估计，提升压缩性能。
• 展示该方法在不同数据类型（包括图像和词嵌入）中的通用性。

提出的方法

• 通过基于后验不确定性估计的自适应离散化，将算术编码推广至连续潜在变量。
• 根据后验分布的方差动态调整量化分辨率，在不确定性较高时分配更多比特。
• 将压缩处理视为后处理步骤，实现模型训练与码率控制的解耦。
• 使用贝叶斯推断估计潜在变量的后验分布，以指导编码策略。
• 该算法可与任意深度潜在变量模型（如变分自编码器）集成，无需修改网络结构。
• 通过不确定性感知编码过程调节比特率与重建质量之间的权衡，实现率失真优化。

实验结果

研究问题

• RQ1 是否可以使用广义算术编码高效压缩连续潜在表示？
• RQ2 将后验不确定性纳入考虑后，压缩性能在不同比特率下是否得到提升？
• RQ3 单个训练好的模型是否可在无需微调的情况下实现多种码率-失真权衡？
• RQ4 该方法与传统编解码器（如JPEG）相比，在不同比特率下表现如何？
• RQ5 该方法在非图像数据（如词嵌入）上的可迁移性如何？

主要发现

• 所提方法在广泛比特率范围内均优于JPEG，且在比特率和失真方面均保持一致的性能优势。
• 通过利用后验不确定性，该方法实现了自适应比特分配，提升了编码效率，且未增加模型复杂度。
• 该方法仅使用一个模型即可支持可变比特率压缩，避免了为不同比特率训练多个模型的需求。
• 在贝叶斯神经网络词嵌入上的实验验证了该方法在图像以外数据类型中的通用性。
• 结果表明，不确定性感知编码显著提升了压缩性能，尤其在低比特率下表现更优。
• 该方法在保持高重建质量的同时实现了具有竞争力的比特率，验证了其在实际压缩场景中的有效性。