[论文解读] On the Joint Source-Channel Coding Error Exponent for Discrete Memoryless Systems: Computation and Comparison with Separate Coding

Yangfan Zhong, Fady Alajaji+1 more|ArXiv.org|Jan 4, 2006

Wireless Communication Security Techniques参考文献 51被引用 3

一句话总结

本文计算并比较了离散无记忆系统中联合源信道编码（JSCC）的错误概率指数 $E_J$ 与级联（分离）编码的错误概率指数 $E_T$。利用Csiszár的界和Arimoto算法，证明了 $E_T \leq E_J \leq 2E_T$，且 $E_J$ 通常接近 $2E_T$，表明在实际系统（如加性白高斯噪声和瑞利衰落信道中具有有限量化输出的二元源）中，功率增益超过2 dB。

ABSTRACT

We investigate the computation of Csiszar's bounds for the joint source-channel coding (JSCC) error exponent, E_J, of a communication system consisting of a discrete memoryless source and a discrete memoryless channel. We provide equivalent expressions for these bounds and derive explicit formulas for the rates where the bounds are attained. These equivalent representations can be readily computed for arbitrary source-channel pairs via Arimoto's algorithm. When the channel's distribution satisfies a symmetry property, the bounds admit closed-form parametric expressions. We then use our results to provide a systematic comparison between the JSCC error exponent E_J and the tandem coding error exponent E_T, which applies if the source and channel are separately coded. It is shown that E_T <= E_J <= 2E_T. We establish conditions for which E_J > E_T and for which E_J = 2E_T. Numerical examples indicate that E_J is close to 2E_T for many source-channel pairs. This gain translates into a power saving larger than 2 dB for a binary source transmitted over additive white Gaussian noise channels and Rayleigh fading channels with finite output quantization. Finally, we study the computation of the lossy JSCC error exponent under the Hamming distortion measure.

研究动机与目标

• 计算离散无记忆源和信道的联合源信道编码（JSCC）错误概率指数 $E_J$。
• 推导Csiszár关于 $E_J$ 的界被达到时的速率的显式公式。
• 系统性地比较 $E_J$ 与级联编码错误概率指数 $E_T$ 在性能和可靠性方面的差异。
• 量化JSCC相较于分离编码在错误概率指数和功率效率方面的性能增益。
• 将分析扩展至汉明失真下的率失真JSCC情形。

提出的方法

• 利用Fenchel对偶性和参数化表示，推导Csiszár关于JSCC错误概率指数 $E_J$ 的界的等价表达式。
• 应用Arimoto算法，高效计算任意源-信道对的 $E_J$。
• 当信道具有对称性时，建立 $E_J$ 的闭式表达式，简化计算过程。
• 采用随机编码指数和球体打包指数框架，对 $E_J$ 和 $E_T$ 进行界定。
• 通过Blahut方法的参数化形式，计算率失真JSCC错误概率指数。
• 运用对偶性和凸性论证，证明 $E_T \leq E_J \leq 2E_T$，并确定等式成立与严格不等式成立的条件。

实验结果

研究问题

• RQ1 对于给定的离散无记忆源与信道对，联合源信道编码错误概率指数 $E_J$ 的精确值是多少？
• RQ2 在可靠性与功率效率方面，$E_J$ 与级联编码错误概率指数 $E_T$ 的定量比较结果如何？
• RQ3 在何种条件下 $E_J > E_T$？在何种条件下 $E_J = 2E_T$？
• RQ4 能否高效计算任意源-信道对的JSCC错误概率指数？
• RQ5 在实际系统（如加性白高斯噪声和瑞利衰落信道中的二元源）中，JSCC相较于级联编码在功率节省方面的性能增益是多少？

主要发现

• 联合源信道编码错误概率指数 $E_J$ 满足 $E_T \leq E_J \leq 2E_T$，建立了性能增益的理论上限。
• 对于许多源-信道对，$E_J$ 非常接近 $2E_T$，表明相较于级联编码，可靠性有显著提升。
• 数值结果表明，在加性白高斯噪声和瑞利衰落信道中，对二元源进行有限输出量化传输时，可实现超过2 dB的功率节省。
• 当信道具有对称性时，$E_J$ 的界可表示为闭式参数形式，从而实现高效计算。
• 在汉明失真下，率失真JSCC错误概率指数通过涉及源率失真函数和散度最小化的参数形式进行计算。
• 基于源错误指数与信道错误指数的相对大小，推导出 $E_J > E_T$ 的条件，当源冗余被有效利用时，严格不等式成立。