[论文解读] On Achievable Rates and Complexity of LDPC Codes for Parallel Channels with Application to Puncturing

Igal Sason, Gil Wiechman|ArXiv.org|Aug 16, 2005

Error Correcting Code Techniques参考文献 15被引用 5

一句话总结

本文推导了在并行无记忆二进制输入对称输出（MBIOS）信道上LDPC码的可达速率上界与译码复杂度下界，适用于打孔LDPC码。研究结果表明，译码复杂度随与容量差距的倒数呈对数增长，且在最大似然（ML）译码与迭代译码下均给出了性能极限的紧致界，尤其针对随机打孔与有意打孔码。

ABSTRACT

This paper considers the achievable rates and decoding complexity of low-density parity-check (LDPC) codes over statistically independent parallel channels. The paper starts with the derivation of bounds on the conditional entropy of the transmitted codeword given the received sequence at the output of the parallel channels; the component channels are considered to be memoryless, binary-input, and output-symmetric (MBIOS). These results serve for the derivation of an upper bound on the achievable rates of ensembles of LDPC codes under optimal maximum-likelihood (ML) decoding when their transmission takes place over parallel MBIOS channels. The paper relies on the latter bound for obtaining upper bounds on the achievable rates of ensembles of randomly and intentionally punctured LDPC codes over MBIOS channels. The paper also provides a lower bound on the decoding complexity (per iteration) of ensembles of LDPC codes under message-passing iterative decoding over parallel MBIOS channels; the bound is given in terms of the gap between the rate of these codes for which reliable communication is achievable and the channel capacity. The paper presents a diagram which shows interconnections between the theorems introduced in this paper and some other previously reported results. The setting which serves for the derivation of the bounds on the achievable rates and decoding complexity is general, and the bounds can be applied to other scenarios which can be treated as different forms of communication over parallel channels.

研究动机与目标

• 推导在最优最大似然（ML）译码下，LDPC码集合在并行MBIOS信道上的可达速率上界。
• 通过将打孔LDPC码建模为并行信道上的通信，分析随机与有意打孔LDPC码的性能极限。
• 建立在并行MBIOS信道上LDPC码每轮译码复杂度的下界，归一化于与信道容量的差距。
• 量化次优迭代译码与ML译码之间的性能损失，以及即使在ML译码下由码结构带来的性能损失。
• 提供一个统一框架，适用于打孔LDPC码、非均匀保护码以及LDPC编码调制，作为并行信道模型的特例。

提出的方法

• 利用对称性与信息论不等式，推导在并行MBIOS信道上，给定接收序列时码字条件熵的界。
• 将这些界应用于推导在ML译码下LDPC码集合可达速率的上界，利用信道容量与码率与容量差距。
• 基于与容量差距倒数的对数增长，引入每轮译码复杂度的下界，以平均右度aR作为复杂度代理。
• 通过将关键参数ξ设为零并截断无穷级数至首项，放宽速率上界，从而重新推导出先前的复杂度界。
• 利用密度演化与高斯近似技术，分析打孔码在迭代译码下的阈值，尤其针对有意打孔码集合。
• 通过简化推导出的复杂度下界，重新推导出随机打孔LDPC码的已知复杂度界，验证与先前工作的自洽性。

实验结果

研究问题

• RQ1 在最优ML译码下，并行MBIOS信道上LDPC码集合的理论可达速率上界是什么？
• RQ2 LDPC码在并行MBIOS信道上的译码复杂度如何随与容量差距的变化而变化？
• RQ3 与ML译码相比，迭代译码导致的性能退化程度如何？
• RQ4 有意打孔模式如何影响迭代译码下LDPC码的阈值与渐近性能？
• RQ5 所推导的界是否可统一，以涵盖打孔、非均匀保护与LDPC编码调制等多种编码通信形式？

主要发现

• 推导出在ML译码下，并行MBIOS信道上LDPC码集合可达速率的上界，推广了先前单信道的界。
• 在并行MBIOS信道上，LDPC码每轮译码复杂度随与容量差距倒数的对数增长，即χD(ε) ≥ c · log(1/ε)，其中c为某常数。
• 对于随机打孔LDPC码，推导出的复杂度下界与文献[10, 定理4]中报告的界一致，验证了方法的有效性。
• 对于二元擦除信道（BEC），推导出一个改进的复杂度下界，考虑了擦除概率与打孔率，与[10, 定理3]一致。
• 通过密度演化分析迭代译码下的阈值与ML译码下的阈值进行比较，量化了迭代译码带来的性能损失。
• 该框架统一了打孔LDPC码、非均匀保护码与LDPC编码调制的分析，作为并行信道模型的特例。