[论文解读] Loop Calculus Helps to Improve Belief Propagation and Linear Programming Decodings of Low-Density-Parity-Check Codes

Michael Chertkov, Vladimir Chernyak|ArXiv.org|Sep 28, 2006

Error Correcting Code Techniques参考文献 34被引用 34

一句话总结

该论文提出一种基于环路微积分的方法，通过识别并修改因子图中的关键环路，来纠正低密度奇偶校验（LDPC）码在加性白高斯噪声（AWGN）信道下信念传播（BP）和线性规划（LP）译码失败的问题。该方法通过擦除这些环路上的对数似然比，成功纠正了所有此前难以处理的有效距离低于码最小距离的伪码字，适用于（155,64,20）LDPC码。

ABSTRACT

We illustrate the utility of the recently developed loop calculus for improving the Belief Propagation (BP) algorithm. If the algorithm that minimizes the Bethe free energy fails we modify the free energy by accounting for a critical loop in a graphical representation of the code. The log-likelihood specific critical loop is found by means of the loop calculus. The general method is tested using an example of the Linear Programming (LP) decoding, that can be viewed as a special limit of the BP decoding. Considering the (155,64,20) code that performs over Additive-White-Gaussian-Noise channel we show that the loop calculus improves the LP decoding and corrects all previously found dangerous configurations of log-likelihoods related to pseudo-codewords with low effective distance, thus reducing the code's error-floor.

研究动机与目标

• 解决LDPC码中因伪码字导致信念传播和线性规划译码失败的误码地板问题。
• 开发一种实用方法，在不显著增加计算复杂度的前提下提升译码性能。
• 测试环路微积分修正是否能有效消除导致译码失败的危险噪声构型（瞬子）。
• 证明简单环路擦除算法作为LP译码纠错机制的可行性。
• 在真实世界LDPC码——（155,64,20）码上验证该方法在加性白高斯噪声环境下的有效性。

提出的方法

• 该方法使用环路微积分将分区函数表示为一系列环路贡献的和，其中零阶项对应标准BP近似。
• 对于每个导致BP/LP失败的危险构型（瞬子），算法识别出对分区函数有显著贡献的关键环路。
• 通过擦除（设为零）关键环路上的对数似然比，对Bethe自由能和BP方程进行修正，从而有效纠正近似误差。
• 通过完全擦除关键环路上的对数似然比并重新运行LP译码，实施LP-擦除算法以恢复正确码字。
• 利用基于后验对数似然比和由公式（41）导出的三元组贡献的阈值化方案识别关键环路。
• 该方法对环路识别不精确具有鲁棒性，即使环路定义松散（包含多达20个比特），擦除并重新译码后仍能实现正确译码。

实验结果

研究问题

• RQ1 环路微积分能否识别出一个明确的单环修正，显著改善LDPC码的BP和LP译码？
• RQ2 通过在关键环路上修改对数似然比，是否能通过纠正有效距离较低的伪码字来降低误码地板？
• RQ3 基于关键环路识别的简单环路擦除算法，能否成功译码（155,64,20）LDPC码中所有已知的危险瞬子？
• RQ4 当环路识别存在误差（如包含额外比特）时，环路擦除方法的鲁棒性如何？
• RQ5 环路擦除修正是否对用于瞬子检测的参考码字选择具有不变性？

主要发现

• LP-擦除算法成功纠正了（155,64,20）LDPC码中所有先前识别出的危险瞬子，所有这些瞬子的有效距离均低于码的最小距离20。
• 即使采用最简单的环路擦除形式——将关键环路上的所有对数似然比设为零——也能纠正所有测试过的瞬子，证明了该方法的有效性。
• 当关键环路被过度估计时，该算法仍保持鲁棒性，即使环路包含多达20个比特，擦除并重新译码后仍能实现正确译码。
• 该方法对参考码字的选择具有不变性：无论使用全+1码字还是其他码字作为基线，LP-擦除算法均能正确译码瞬子。
• 在所有测试案例（约200个瞬子）中，只要LP-擦除算法译码出一个码字，结果总是正确的，表明其具有高度可靠性。
• 结果表明，环路微积分为纠正LDPC码中最顽固的译码失败提供了一种系统且有效的方法。