[論文レビュー] Learning to Denoise and Decode: A Novel Residual Neural Network Decoder for Polar Codes

Zhiwei Cao, Hongfei Zhu+2 more|arXiv (Cornell University)|Aug 1, 2019

Error Correcting Code Techniques参考文献 22被引用数 4

ひとこと要約

本稿では、符号化済み符号のデノイジングモジュールを導入した残差学習に基づく残差ニューラルネットワークデコーダ（RNND）を提案する。受信シンボルの信号対雑音比（SNR）を向上させることで、RNNDは超低遅延を実現しながら、従来の逐次キャンセレーション（SC）デコーディングおよび標準的なニューラルネットワークデコーダ（NND）を上回る近似最適なビット誤り率（BER）性能を達成する。計算複雑度は同等を維持する。

ABSTRACT

Polar codes have been adopted as the control channel coding scheme in the fifth generation new radio (5G NR) standard due to its capacity-achievable property. Traditional polar decoding algorithms such as successive cancellation (SC) suffer from high latency problem because of their sequential decoding nature. Neural network decoder (NND) has been proved to be a candidate for polar decoder since it is capable of oneshot decoding and parallel computing. Whereas, the bit-errorrate (BER) performance of NND is still inferior to that of SC algorithm. In this paper, we propose a residual neural network decoder (RNND) for polar codes. Different from previous works which directly use neural network for decoding symbols received from the channel, the proposed RNND introduces a denoising module based on residual learning before NND. The proposed residual learning denoiser is able to remove remarkable amount of noise from received signals. Numerical results show that our proposed RNND outperforms traditional NND with regard to the BER performance under comparable latency.

研究の動機と目的

• 極性符号における逐次キャンセレーション（SC）デコーディングの高遅延が、リアルタイム無線通信アプリケーションの制限要因となる問題に対処すること。
• 低遅延の利点があるものの、従来のニューラルネットワークデコーダ（NND）は性能が最適でないビット誤り率（BER）性能を示す問題を克服すること。
• 残差学習を用いた事前デコーディング段階のデノイジングを導入することで、NNDの性能を向上させ、デコーディングの前に入力信号品質を向上させること。
• BER性能とデコーディング遅延のバランスを図り、低遅延5G NRシステムに適したデコーダを実現すること。
• 残差学習に基づくデノイジングが受信信号のSNRを顕著に向上させることを検証すること。

提案手法

• 提案されたRNNDは、ニューラルネットワークデコーダに供給する前に、ノイズの多い受信信号を処理する残差学習に基づくデノイザーを統合する。
• デノイザーは、デノイジングとデコーディング性能の両方を最適化するマルチタスク学習目的関数を用いて、NNDとエンドツーエンドで訓練される。
• デノイザーは、ノイズの多い入力をより綺麗な信号に写像するための残差ネットワークアーキテクチャを用い、ガウスノイズを効果的に抑制する。
• ニューラルネットワークデコーダ（NND）は、MLP、CNN、RNNの3つのアーキテクチャで実装され、それぞれがデノイザーとペアを成してRNNDの変種を形成する。
• システム全体は、デノイジング誤差とデコーディング誤差を組み合わせた共同損失関数を用いてバックプロパゲーションで訓練される。
• NNDとRNNDの変種間でパラメータ数が同程度になるようにアーキテクチャを設計し、性能比較を公平に行う。

実験結果

リサーチクエスチョン

• RQ1 残差学習に基づくデノイザーは、遅延を増加させずに、極性符号のニューラルネットワークデコーダのBER性能を向上させることができるか？
• RQ2 事前デコーディング段階のデノイジング処理は、極性符号デコーディングにおける受信信号の有効なSNRにどのように影響を与えるか？
• RQ3 デノイジングとデコーディングを1つのRNNDフレームワークに統合することで、独立したNNDよりも性能向上が達成できるか？
• RQ4 MLP、CNN、RNNのうち、どのニューラルネットワークアーキテクチャが、提案されたデノイジングモジュールと組み合わせた場合に最も優れた性能を示すか？
• RQ5 RNNDは、超低遅延を維持しながら、逐次キャンセレーション（SC）デコーディングとほぼ同等の近似最適なBER性能を達成できるか？

主な発見

• MLPベースのRNNDは、BER = 1e-4の条件下で、対応するNNDと比較して約0.2 dBのBERゲインを達成し、顕著な性能向上を示した。
• MLP-RNNDとRNN-RNNDは、デノイジングおよびデコーディングの両面でCNN-RNNDを上回り、MLP-RNNDが全体として最も優れた性能を示した。
• デノイザーは、テスト時のSNR = 3 dBで有効SNRを約4 dB向上させ、顕著なノイズ抑制効果を示した。
• MLP-RNNDは、与えられたコード設定においてほぼ最適な逐次キャンセレーション（SC）アルゴリズムと同等のBER性能を達成した。
• MLP-RNNDはSCアルゴリズムの100倍以上高速に動作し、低遅延5G NRアプリケーションに非常に適した候補となった。
• NNDと比較してRNNDの計算オーバーヘッドは無視できるほど小さく、遅延のわずかな増加は実用上ほとんど無視できる。