[论文解读] A Practical Approach to Lossy Joint Source-Channel Coding

Maria Fresia, Giuseppe Caire|ArXiv.org|Feb 12, 2007

Error Correcting Code Techniques参考文献 68被引用 11

一句话总结

该论文提出了一种实用的联合源信道编码（JSCC）方案，用线性信道编码替代传统源编码器中的熵编码，以防止灾难性错误传播。通过利用量化变换系数（如JPEG2000比特平面）的马尔可夫结构，该方法实现了基于信念传播的迭代解码，在有限块长条件下相比分离编码展现出显著性能增益，无需重新设计现有源编码组件即可实现近乎最优的率失真权衡。

ABSTRACT

This work is devoted to practical joint source channel coding. Although the proposed approach has more general scope, for the sake of clarity we focus on a specific application example, namely, the transmission of digital images over noisy binary-input output-symmetric channels. The basic building blocks of most state-of the art source coders are: 1) a linear transformation; 2) scalar quantization of the transform coefficients; 3) probability modeling of the sequence of quantization indices; 4) an entropy coding stage. We identify the weakness of the conventional separated source-channel coding approach in the catastrophic behavior of the entropy coding stage. Hence, we replace this stage with linear coding, that maps directly the sequence of redundant quantizer output symbols into a channel codeword. We show that this approach does not entail any loss of optimality in the asymptotic regime of large block length. However, in the practical regime of finite block length and low decoding complexity our approach yields very significant improvements. Furthermore, our scheme allows to retain the transform, quantization and probability modeling of current state-of the art source coders, that are carefully matched to the features of specific classes of sources. In our working example, we make use of ``bit-planes'' and ``contexts'' model defined by the JPEG2000 standard and we re-interpret the underlying probability model as a sequence of conditionally Markov sources. The Markov structure allows to derive a simple successive coding and decoding scheme, where the latter is based on iterative Belief Propagation. We provide a construction example of the proposed scheme based on punctured Turbo Codes and we demonstrate the gain over a conventional separated scheme by running extensive numerical experiments on test images.

研究动机与目标

• 为解决在有限块长和低复杂度场景下分离式源信道编码中的灾难性错误传播问题。
• 在保留现有最先进的源编码组件（如变换、量化和概率建模）的同时，提升对信道错误的鲁棒性。
• 证明将熵编码替换为线性信道编码可在保持渐近最优性的同时，显著提升实际性能。
• 提供一种实用、模块化的JSCC框架，兼容JPEG2000等标准，采用迭代解码和打孔Turbo码。

提出的方法

• 用将量化变换系数直接映射为信道码字的线性信道编码阶段，替代标准源编码器中的熵编码阶段。
• 将量化索引序列建模为条件马尔可夫源，以实现通过信念传播的高效连续解码。
• 采用两级线性编码结构：外源码（G2）将源符号映射为中间符号，内信道码（G1）将中间符号映射为信道码字。
• 对内码采用最大似然解码，对外码采用基于MAP的解码，通过信念传播实现迭代解码。
• 使用打孔Turbo码作为信道码，实现低复杂度的实用化实现。
• 利用信息论结果：线性码可达到容量限界，且带量化噪声的标量量化结合熵编码可逼近率失真极限。

实验结果

研究问题

• RQ1 在标准源编码器中，用线性信道编码替代熵编码是否能消除在噪声信道中的灾难性错误传播？
• RQ2 该方法是否在有限块长、低复杂度场景下保持渐近最优性并提升性能？
• RQ3 现有源编码组件（如JPEG2000比特平面建模）能否在联合源信道编码框架中得以保留？
• RQ4 所提出的JSCC方案在失真和比特误码率方面与传统分离编码相比表现如何？
• RQ5 当信道在量化系数中引入错误时，迭代信念传播解码能否有效恢复源符号？

主要发现

• 所提出的JSCC方案在有限块长条件下相比传统分离编码展现出显著性能增益，尤其在失真和比特误码率方面。
• 该方案保持渐近最优性，实现接近 C / H̄ 的率效率，其中 C 为信道容量，H̄ 为源熵率。
• 大量数值实验表明，所提方案在低信噪比和高失真场景下显著优于传统分离方案。
• 使用打孔Turbo码可实现低复杂度解码的实用化实现，并带来高性能增益。
• 通过用线性编码替代熵编码，有效缓解了信道错误下熵编码的灾难性失效问题，线性编码表现出非灾难性错误特性。
• 该方法可通过复用JPEG2000等现有源编码标准的变换、量化和上下文建模组件，实现与现有标准的无缝集成。