[论文解读] Learned Image Compression with Gaussian-Laplacian-Logistic Mixture Model and Concatenated Residual Modules

Haisheng Fu, Feng Liang+8 more|arXiv (Cornell University)|Jul 14, 2021

Advanced Data Compression Techniques被引用 14

一句话总结

该论文提出了一种用于熵建模的新型高斯-拉普拉斯-逻辑混合模型（GLLMM）以及一种在学习图像压缩中使用的串联残差块（CRB）架构。通过结合多种分布以更精确地建模多样的图像内容，并利用带有短跳连接的堆叠残差块增强特征学习，该方法在Kodak、Tecnick-100和Tecnick-40数据集上实现了最先进性能，PSNR和MS-SSIM指标均优于VVC和先前基于学习的方法。

ABSTRACT

Recently deep learning-based image compression methods have achieved significant achievements and gradually outperformed traditional approaches including the latest standard Versatile Video Coding (VVC) in both PSNR and MS-SSIM metrics. Two key components of learned image compression are the entropy model of the latent representations and the encoding/decoding network architectures. Various models have been proposed, such as autoregressive, softmax, logistic mixture, Gaussian mixture, and Laplacian. Existing schemes only use one of these models. However, due to the vast diversity of images, it is not optimal to use one model for all images, even different regions within one image. In this paper, we propose a more flexible discretized Gaussian-Laplacian-Logistic mixture model (GLLMM) for the latent representations, which can adapt to different contents in different images and different regions of one image more accurately and efficiently, given the same complexity. Besides, in the encoding/decoding network design part, we propose a concatenated residual blocks (CRB), where multiple residual blocks are serially connected with additional shortcut connections. The CRB can improve the learning ability of the network, which can further improve the compression performance. Experimental results using the Kodak, Tecnick-100 and Tecnick-40 datasets show that the proposed scheme outperforms all the leading learning-based methods and existing compression standards including VVC intra coding (4:4:4 and 4:2:0) in terms of the PSNR and MS-SSIM. The source code is available at \url{https://github.com/fengyurenpingsheng}

研究动机与目标

• 解决在多样化图像内容上仅使用单一概率分布进行熵建模的局限性。
• 通过引入新型模块化架构增强残差学习，提升压缩网络的表征能力。
• 在率失真性能上超越现有基于学习的压缩方法及VVC标准。
• 通过先进的建模方法与网络设计，降低潜在表征中的残差相关性。
• 在标准基准上独立与联合评估所提组件的有效性。

提出的方法

• 提出一种离散化的高斯-拉普拉斯-逻辑混合模型（GLLMM），通过组合三种分布，实现对潜在表征更灵活、更精确的建模，优于单一分布模型。
• 设计一种串联残差块（CRB），将多个残差块堆叠并引入额外的跳跃连接，以提升特征学习能力与梯度流动。
• 采用混合损失函数，结合MSE与MS-SSIM，以在训练目标中平衡峰值信噪比与结构相似性。
• 使用自回归上下文模型进一步降低潜在特征中的空间相关性，提升熵编码效率。
• 应用先前工作中的后处理模块以评估性能增益，但所提方法因内在改进而使该模块收益极小。
• 通过平衡性能与计算成本，优化模型复杂度，并对注意力机制与上下文建模组件进行消融研究。

实验结果

研究问题

• RQ1 高斯、拉普拉斯与逻辑分布的混合模型是否能比单一分布模型更优地建模潜在特征的统计分布？
• RQ2 通过在多个残差块中引入额外短连接（CRB）是否能提升网络的学习能力与压缩性能？
• RQ3 所提出的GLLMM与CRB架构在PSNR与MS-SSIM指标上与VVC及其他最先进学习压缩方法相比表现如何？
• RQ4 自回归上下文模型与后处理模块对最终压缩性能的影响如何？
• RQ5 所提方法是否能在不依赖外部后处理的情况下实现更优性能，从而体现其内在鲁棒性与高效性？

主要发现

• 在Kodak数据集上，该方法在0.1556 bpp下实现29.63 dB的PSNR，优于VVC（4:4:4）及所有先前基于学习的方法。
• 在Tecnick-100数据集上，该方法在0.4408 bpp下实现33.97 dB的PSNR，展现出优越的率失真性能。
• GLLMM模型通过更准确捕捉潜在特征中的空间相关性与通道相关性，降低了熵编码冗余。
• CRB架构提升了特征表征学习能力，相比基线残差网络带来0.2–0.3 dB的PSNR增益。
• 来自[24]的后处理模块仅带来可忽略的性能提升（PSNR提升0.02 dB），表明所提方法已具备极高的内在性能。
• 尽管解码速度慢于VVC，但该方法快于多个先前基于学习的方法，且模型尺寸小于大多数SOTA模型。