[论文解读] Learning to Denoise and Decode: A Novel Residual Neural Network Decoder for Polar Codes

Zhiwei Cao, Hongfei Zhu+2 more|arXiv (Cornell University)|Aug 1, 2019

Error Correcting Code Techniques参考文献 22被引用 4

一句话总结

本文提出了一种用于极化码的残差神经网络译码器（RNND），该译码器在神经网络译码前集成了基于残差学习的去噪模块。通过提升接收符号的信噪比，RNND在保持相近计算复杂度的同时，实现了接近最优的误比特率性能，优于传统的逐次消除译码和标准神经网络译码器，且延迟极低。

ABSTRACT

Polar codes have been adopted as the control channel coding scheme in the fifth generation new radio (5G NR) standard due to its capacity-achievable property. Traditional polar decoding algorithms such as successive cancellation (SC) suffer from high latency problem because of their sequential decoding nature. Neural network decoder (NND) has been proved to be a candidate for polar decoder since it is capable of oneshot decoding and parallel computing. Whereas, the bit-errorrate (BER) performance of NND is still inferior to that of SC algorithm. In this paper, we propose a residual neural network decoder (RNND) for polar codes. Different from previous works which directly use neural network for decoding symbols received from the channel, the proposed RNND introduces a denoising module based on residual learning before NND. The proposed residual learning denoiser is able to remove remarkable amount of noise from received signals. Numerical results show that our proposed RNND outperforms traditional NND with regard to the BER performance under comparable latency.

研究动机与目标

• 为解决极化码中逐次消除（SC）译码的高延迟问题，该问题限制了实时无线通信应用的使用。
• 克服现有神经网络译码器（NNDs）尽管具有低延迟优势，但误比特率（BER）性能次优的问题。
• 通过引入基于残差学习的译前去噪阶段，提升神经网络译码器性能，改善译码前的输入信号质量。
• 在误比特率性能与译码延迟之间实现平衡，使译码器适用于低延迟的5G NR系统。
• 验证基于残差学习的去噪可显著提升接收信号的信噪比（SNR），从而提升译码准确性。

提出的方法

• 所提出的RNND集成了基于残差学习的去噪器，用于在输入神经网络译码器前处理噪声接收信号。
• 去噪器与NND通过多任务学习目标端到端联合训练，同时优化去噪与译码性能。
• 去噪器采用残差网络架构，学习从噪声输入到更清洁信号的映射，有效抑制高斯噪声。
• 神经网络译码器（NND）采用三种架构实现——MLP、CNN和RNN，每种均与去噪器配对，形成不同的RNND变体。
• 整个系统使用反向传播训练，损失函数联合包含去噪误差与译码误差。
• NND与RNND变体的参数量保持相近，以确保性能比较的公平性。

实验结果

研究问题

• RQ1 基于残差学习的去噪器是否能在不增加延迟的前提下，提升神经网络译码器在极化码上的误比特率（BER）性能？
• RQ2 译前去噪阶段如何影响极化码译码中接收信号的有效信噪比（SNR）？
• RQ3 在单一RNND框架中整合去噪与译码是否能带来相对于独立NND的性能增益？
• RQ4 在MLP、CNN、RNN三种神经网络架构中，哪一种与所提出的去噪模块结合后在RNND中表现最佳？
• RQ5 RNND是否能实现接近最优的BER性能，与逐次消除（SC）译码相当，同时保持超低延迟？

主要发现

• MLP-RNND在BER为1e-4时相比其NND对应版本获得约0.2 dB的BER增益，显著提升性能。
• MLP-RNND与RNN-RNND在去噪与译码方面均优于CNN-RNND，其中MLP-RNND表现最佳。
• 在测试SNR = 3 dB时，去噪器使有效SNR提升约4 dB，证明了显著的噪声抑制能力。
• MLP-RNND的BER性能非常接近逐次消除（SC）算法，在给定码设定下为近似最优性能。
• MLP-RNND的运行速度比SC算法快逾100倍，使其成为低延迟5G NR应用的有力候选。
• 与NND相比，RNND的计算开销可忽略不计，仅带来可忽略的延迟增加。