[论文解读] Learning to Flip Successive Cancellation Decoding of Polar Codes with LSTM Networks

Xianbin Wang, Huazi Zhang+5 more|arXiv (Cornell University)|Feb 22, 2019

Advanced biosensing and bioanalysis techniques参考文献 13被引用 5

一句话总结

该论文提出了一种基于长短期记忆（LSTM）网络的深度学习辅助连续取消（SC）翻转译码算法，用于极化码。该方法通过LSTM网络识别并翻转每次译码尝试中的首个错误比特。结合监督学习以定位初始错误比特，以及强化学习以纠正‘错误’的翻转操作，该方法在块错误率（BLER）性能上优于当前最先进的SC翻转算法，仅需5次译码尝试即可接近CA-SC-List-4的性能表现。

ABSTRACT

The key to successive cancellation (SC) flip decoding of polar codes is to accurately identify the first error bit. The optimal flipping strategy is considered difficult due to lack of an analytical solution. Alternatively, we propose a deep learning aided SC flip algorithm. Specifically, before each SC decoding attempt, a long short-term memory (LSTM) network is exploited to either (i) locate the first error bit, or (ii) undo a previous `wrong' flip. In each SC attempt, the sequence of log likelihood ratios (LLRs) derived in the previous SC attempt is exploited to decide which action to take. Accordingly, a two-stage training method of the LSTM network is proposed, i.e., learn to locate first error bits in the first stage, and then to undo `wrong' flips in the second stage. Simulation results show that the proposed approach identifies error bits more accurately and achieves better performance than the state-of-the-art SC flip algorithms.

研究动机与目标

• 为解决在极化码连续取消翻转译码中识别首个错误比特的挑战，该问题对性能至关重要但缺乏解析解。
• 在降低译码复杂度的同时，相比传统SC翻转和列表译码方法，提升块错误率（BLER）性能。
• 开发一种深度学习框架，能够在顺序译码过程中同时定位首个错误比特并纠正先前的‘错误’翻转。
• 采用两阶段训练方法——监督学习后接强化学习——以处理初始状态和中间状态的译码决策。

提出的方法

• 使用LSTM网络处理前一次SC译码结果的对数似然比（LLR）序列，以预测每个非冻结比特是首个错误比特的概率。
• 通过全连接层和Softmax层输出一个得分向量，表示每个比特为类型1错误（即首个错误比特）的可能性。
• 采用两阶段训练策略：首先通过监督学习识别初始状态下的首个错误比特；其次通过强化学习学习如何纠正‘错误’翻转操作。
• 强化学习迭代应用，使用动态更新的数据集，包含初始状态、一般中间状态以及‘病态’中间状态（即失败译码尝试后的状态）。
• 训练采用基于序列的损失函数，考虑长期决策影响，使网络能够学习在多次译码尝试中选择最优动作序列。
• 在长度为64、码率为1/2、使用8位循环冗余校验（CRC）的极化码上进行评估，训练和测试均使用SNR = 1 dB。

实验结果

研究问题

• RQ1 LSTM网络能否有效识别极化码连续取消翻转译码中的首个错误比特？
• RQ2 两阶段训练策略（监督学习后接强化学习）能否提升网络纠正初始及后续错误比特的能力？
• RQ3 所提出的深度学习辅助SC翻转算法是否在BLER性能上优于现有SC翻转和列表译码方法？
• RQ4 网络性能是否依赖于其从由错误翻转导致的‘病态’中间状态中成功脱困的能力？

主要发现

• 所提算法在相同译码尝试次数下，BLER性能优于动态SC翻转算法。
• 在最多5次译码尝试下，该方法的性能接近CA-SC-List-4译码器，显著优于传统SC翻转算法。
• 两阶段训练策略——先通过监督学习识别初始错误，再通过强化学习纠正‘错误’翻转——显著提升了模型的泛化能力和鲁棒性。
• LSTM网络成功学习到识别首个错误比特并纠正先前错误翻转的能力，即使在译码路径已发生偏离的复杂中间状态中亦能有效工作。
• 性能提升归因于网络利用序列LLR信息和长期决策反馈的能力，从而实现更精确的错误比特选择。