[论文解读] Scaling Deep Learning-based Decoding of Polar Codes via Partitioning

Sebastian Cammerer, Tobias Gruber+2 more|arXiv (Cornell University)|Feb 22, 2017

Error Correcting Code Techniques参考文献 14被引用 16

一句话总结

本文提出了一种用于极化码的分块神经网络解码（PNN）方法，该方法用训练好的神经网络替代传统置信传播（BP）解码器中的子组件，实现了可扩展的、非迭代的、可并行化的解码。通过子块划分限制训练复杂度，该方法在保持接近最大后验概率（MAP）和SCL解码性能的同时，显著降低了延迟，尤其在长码长情况下表现更优。

ABSTRACT

The training complexity of deep learning-based channel decoders scales exponentially with the codebook size and therefore with the number of information bits. Thus, neural network decoding (NND) is currently only feasible for very short block lengths. In this work, we show that the conventional iterative decoding algorithm for polar codes can be enhanced when sub-blocks of the decoder are replaced by neural network (NN) based components. Thus, we partition the encoding graph into smaller sub-blocks and train them individually, closely approaching maximum a posteriori (MAP) performance per sub-block. These blocks are then connected via the remaining conventional belief propagation decoding stage(s). The resulting decoding algorithm is non-iterative and inherently enables a high-level of parallelization, while showing a competitive bit error rate (BER) performance. We examine the degradation through partitioning and compare the resulting decoder to state-of-the-art polar decoders such as successive cancellation list and belief propagation decoding.

研究动机与目标

• 为解决由于码长增加导致的深度学习解码方法在极化码中训练复杂度呈指数增长而带来的可扩展性限制问题。
• 通过用训练好的神经网络替代BP解码器的子组件而非全码本学习，实现对更长极化码的实际解码。
• 通过模块化子块处理实现非迭代、高度可并行化的解码，从而降低解码延迟。
• 量化由于分块划分和子块中次优神经网络训练所导致的性能损失。
• 证明主要性能损失源于分块划分而非神经网络近似，从而为未来采用更优神经网络架构实现可扩展性提供可能。

提出的方法

• 将极化码编码图划分为更小的子块，每个子块由专用的神经网络解码器（NND）独立训练，以逼近MAP性能。
• 子块通过传统的置信传播（BP）阶段连接，保留整体解码结构的同时支持并行处理。
• 通过用NND替代迭代阶段，实现非迭代解码架构，减少同步步骤和延迟。
• 采用归一化误差（NE）度量指标，在多个信噪比（SNR）值下对比与SCL解码的性能。
• 通过限制每个NND仅处理小块子块（例如16比特），避免全码本学习，从而降低训练复杂度。
• 该方法利用NND的泛化能力，使其能够对未见过的码字进行推理，支持向更长码长的可扩展性。

实验结果

研究问题

• RQ1 能否通过替换子组件而非整个解码器，实现基于深度学习的极化码解码在实用码长下的可扩展性？
• RQ2 将码长划分为更小子块用于神经网络解码时，会引入多大的性能损失？
• RQ3 与SCL和BP等先进解码器相比，所提出的分块神经网络（PNN）解码器在误比特率（BER）和延迟方面的性能如何？
• RQ4 性能损失主要源于次优神经网络训练还是分块结构本身？
• RQ5 所提出的方法能否在保持竞争性BER性能的同时，实现低延迟、非迭代解码？

主要发现

• 所提出的PNN解码器在误比特率（BER）性能上与逐次取消列表（SCL）和置信传播（BP）解码相当，归一化误差（NE）在不同信噪比（SNR）水平下均接近1。
• 性能损失的主要来源是分块划分（λ_part），而非次优神经网络训练（λ_NN），通过分别分析误差贡献得到验证。
• 对于码长N=1024且子块为16比特的情况，归一化误差NE_PNCL随分块数量增加而上升，表明可扩展性与性能之间存在权衡。
• 延迟显著降低：PNN解码器的同步步骤为O(N/N_P * N_H + N/N_P * log(N/N_P))，而SCL为O(N log N)，BP为O(log N)。
• PNN架构支持单次完成、非迭代解码，具有高度并行化潜力，适用于GPU、FPGA或ASIC等硬件实现。
• 未来通过采用更优神经网络架构支持更大子块，有望进一步提升可扩展性，减少分块带来的性能损失。