[论文解读] On the advantages of stochastic encoders

Lucas Theis, Eirikur Agustsson|arXiv (Cornell University)|Feb 18, 2021

Image and Signal Denoising Methods参考文献 7被引用 11

一句话总结

本文表明，当目标是完美感知质量（即重建结果必须精确匹配数据分布）时，随机编码器在有损压缩中可显著优于确定性编码器。通过使用共享随机性的通用量化方法，所提出的随机编码器在圆形均匀分布上的期望失真比确定性1比特向量量化降低了38.9%。

ABSTRACT

Stochastic encoders have been used in rate-distortion theory and neural compression because they can be easier to handle. However, in performance comparisons with deterministic encoders they often do worse, suggesting that noise in the encoding process may generally be a bad idea. It is poorly understood if and when stochastic encoders do better than deterministic encoders. In this paper we provide one illustrative example which shows that stochastic encoders can significantly outperform the best deterministic encoders. Our toy example suggests that stochastic encoders may be particularly useful in the regime of "perfect perceptual quality".

研究动机与目标

• 研究在完美感知质量约束下，随机编码器是否能在有损压缩中优于确定性编码器。
• 探索编码中的随机性相对于确定性方法提供性能优势的条件。
• 评估共享随机性在实现随机编码器更优重建质量中的作用。
• 证明当重建结果必须遵循原始数据分布时，随机编码器可实现低于确定性编码器的失真。
• 提供一个理论与实例相结合的例子，说明在感知保真度约束下，随机编码可带来可测量的码率-失真性能提升。

提出的方法

• 作者将随机编码器和解码器建模为以输入数据和共享均匀随机变量为输入的函数，从而实现随机化的编码与解码过程。
• 他们提出一种使用通用量化的1比特随机编码器：编码器计算 $ f(oldsymbol{x}, u) = ig floor rac{ heta}{\pi} + u \big\rceil \mod 2 $，其中 $ u $ 为均匀随机变量。
• 解码器使用相同的随机变量将角度重建为 $ \hat{\theta} = \pi(k - u) $，生成围绕原始数据点均匀分布的重建结果。
• 该方法确保重建结果在单位圆上精确服从原始数据的分布，满足完美感知质量约束。
• 期望失真计算为 $ \mathbb{E}[d(\theta, \hat{\Theta})] = 1 - \frac{2}{\pi} $，该结果为理论推导，并与确定性基线进行比较。
• 该框架假设为固定码率编码，并在重建分布必须与输入分布一致的约束下评估性能。

实验结果

研究问题

• RQ1 当重建结果必须精确匹配数据分布时，随机编码器是否可实现低于确定性编码器的失真？
• RQ2 是否存在一种场景，即使确定性编码在标准码率-失真准则下已为最优，随机编码仍能提供可测量的优势？
• RQ3 编码器与解码器之间的共享随机性是否能实现独立随机性或确定性方法无法达到的性能提升？
• RQ4 通用量化能否有效适应有损压缩中保持数据分布，特别是对于连续且具有结构的分布（如均匀圆）？
• RQ5 在完美感知质量约束下，确定性向量量化与随机通用量化之间的理论与实际性能差距是什么？

主要发现

• 使用通用量化的随机编码器实现了 $ 1 - \frac{2}{\pi} \approx 0.363 $ 的期望失真，比确定性1比特编码器的失真 $ 1 - \frac{4}{\pi^2} \approx 0.573 $ 降低了38.9%。
• 重建分布在单位圆上完全均匀，满足完美感知质量约束；而确定性编码器的输出被限制在离散码本点上。
• 性能提升源于重建结果以原始数据点为中心，而确定性向量量化则映射到固定的码本向量。
• 共享随机性至关重要：本文表明，独立随机性无法带来同等改进，表明编码器与解码器之间的同步至关重要。
• 失真降低与输入角度 $ \theta $ 无关，使性能在圆上所有数据点上均保持稳健。
• 该结果表明，在以感知保真度为优先而非仅最小化失真时，随机编码器可优于确定性编码器。