[论文解读] Polar Lattices for Lossy Compression

Линг Лиу, Jinwen Shi+1 more|arXiv (Cornell University)|Jan 22, 2015

Error Correcting Code Techniques参考文献 53被引用 9

一句话总结

该论文提出了一种用于高斯源有损压缩的极化格栅，可在准线性复杂度下达到率失真界限。通过利用极化码结构和离散高斯分布，该方法将熵编码集成到格栅量化器中，实现了复杂度为 O(N log²N) 的高效编码/解码，同时通过嵌套技术支持多终端编码。

ABSTRACT

Polar lattices, which are constructed from polar codes, have recently been proved to be able to achieve the capacity of the additive white Gaussian noise (AWGN) channel. In this work, we propose a new construction of polar lattices to solve the dual problem, i.e., achieving the rate-distortion bound of a memoryless Gaussian source, which means that polar lattices can also be good for the lossy compression of continuous sources. The structure of the proposed polar lattices enables us to integrate the post-entropy coding process into the lattice quantizer, which simplifies the quantization process. The overall complexity of encoding and decoding complexity is $O(N \log^2 N)$ for a sub-exponentially decaying excess distortion. Moreover, the nesting structure of polar lattices further provides solutions for some multi-terminal coding problems. The Wyner-Ziv coding problem for a Gaussian source can be solved by an AWGN capacity-achieving polar lattice nested in a rate-distortion bound achieving one, and the Gelfand-Pinsker problem can be solved in a reversed manner.

研究动机与目标

• 构建能够达到无记忆高斯源理论率失真界限的极化格栅。
• 将熵编码直接集成到格栅量化器中，以简化压缩过程。
• 在任意目标失真下实现复杂度为 O(N log²N) 的低复杂度编码与解码。
• 通过格栅嵌套将该框架扩展至解决多终端编码问题，如 Wyner-Ziv 和 Gelfand-Pinsker 问题。
• 将该方法推广至利用 Wyner 的公共信息框架，从多个高斯源中提取公共信息。

提出的方法

• 使用极化码的多级构造方法构建极化格栅，其中分量码专为量化而非信道编码设计。
• 采用平坦因子可忽略的离散高斯分布，以近似连续高斯重建字母表。
• 利用信源编码与信道编码之间的对偶性：量化问题可映射为方差为 Δ 的加性高斯白噪声（AWGN）信道，其中信噪比 SNR = (σ²_s − Δ)/Δ。
• 设计格栅量化器，使其速率趋近于 ½ log(σ²_s / Δ)，与率失真函数一致。
• 实现格栅嵌套：将一个达到容量的极化格栅（用于信道）嵌套于一个达到率失真极限的格栅中，以解决 Wyner-Ziv 编码问题。
• 将框架扩展至从多个高斯源中提取 Wyner 的公共信息，通过将极化格栅结构应用于公共信息提取问题。

实验结果

研究问题

• RQ1 能否构建极化格栅，在低复杂度下实现对高斯源的率失真界限？
• RQ2 如何自然地将熵编码集成到格栅量化过程中，以简化压缩流程？
• RQ3 相同的格栅结构能否解决如 Wyner-Ziv 和 Gelfand-Pinsker 等多终端信源编码问题？
• RQ4 离散高斯分布的平坦因子在量化性能与速率控制中起什么作用？
• RQ5 极化格栅能否用于提取多个高斯源中的公共信息，如 Wyner 所定义？

主要发现

• 所提出的极化格栅量化器实现了高斯源的率失真界限，对任意失真 Δ，其速率 R(Δ) = ½ log(σ²_s / Δ)。
• 编码与解码复杂度为 O(N log²N)，属于准线性复杂度，适合实际应用。
• 将熵编码集成到格栅量化器中，通过消除独立的熵编码阶段，简化了压缩流水线。
• 格栅嵌套技术实现了 Wyner-Ziv 问题的解决方案：将一个达到容量的极化格栅嵌套于一个达到率失真极限的格栅中。
• Gelfand-Pinsker 问题以相反方式解决：将量化器用作带状态信息的信道编码，利用相同的格栅结构。
• 该框架通过将极化格栅构造应用于公共信息提取问题，成功实现了从多个高斯源中提取 Wyner 的公共信息。