[논문 리뷰] Learning to Denoise and Decode: A Novel Residual Neural Network Decoder for Polar Codes

Zhiwei Cao, Hongfei Zhu외 2명|arXiv (Cornell University)|2019. 08. 01.

Error Correcting Code Techniques참고 문헌 22인용 수 4

한 줄 요약

이 논문은 잔차 학습 기반의 디노이징 모듈을 신경망 디코딩 이전에 통합한 잔차 신경망 디코더(RNND)를 제안한다. 수신 기호의 신호 대 잡음비(SNR)를 향상시킴으로써 RNND는 초고속 지연을 유지하면서도 near-optimal 비트 오류율(BER) 성능를 달성하며, 전통적인 순차적 취소(Sc) 디코딩과 표준 신경망 디코더보다 뛰어난 성능를 보이며, 유사한 계산 복잡도를 유지한다.

ABSTRACT

Polar codes have been adopted as the control channel coding scheme in the fifth generation new radio (5G NR) standard due to its capacity-achievable property. Traditional polar decoding algorithms such as successive cancellation (SC) suffer from high latency problem because of their sequential decoding nature. Neural network decoder (NND) has been proved to be a candidate for polar decoder since it is capable of oneshot decoding and parallel computing. Whereas, the bit-errorrate (BER) performance of NND is still inferior to that of SC algorithm. In this paper, we propose a residual neural network decoder (RNND) for polar codes. Different from previous works which directly use neural network for decoding symbols received from the channel, the proposed RNND introduces a denoising module based on residual learning before NND. The proposed residual learning denoiser is able to remove remarkable amount of noise from received signals. Numerical results show that our proposed RNND outperforms traditional NND with regard to the BER performance under comparable latency.

연구 동기 및 목표

• 펄스 코드 디코딩에서 순차적 취소(SC) 디코딩의 높은 지연 문제를 해결함으로써 실시간 무선 통신 응용 분야의 한계를 해소한다.
• 낮은 지연 시간을 갖는다는 장점에도 불구하고 기존 신경망 디코더(NND)의 부분 최적 BER 성능 문제를 해결한다.
• 잔차 학습을 활용한 디코딩 이전의 디노이징 단계를 도입하여, 디코딩 이전에 입력 신호 품질을 향상시킴으로써 NND 성능을 향상시킨다.
• BER 성능와 디코딩 지연 시간 사이의 균형을 이루어, 초저지연 5G NR 시스템에 적합한 디코더를 구현한다.
• 잔차 학습 기반 디노이징이 수신 신호의 SNR를 크게 향상시켜 더 높은 디코딩 정확도를 가능하게 함을 검증한다.

제안 방법

• 제안된 RNND는 수신된 노이즈 있는 신호를 처리한 후 신경망 디코더에 입력하는 잔차 학습 기반 디노이저를 통합한다.
• 디노이저는 다중 작업 학습 목적함수를 사용하여 NND와 함께 종단 간으로 훈련되며, 디노이징 및 디코딩 성능을 동시에 최적화한다.
• 디노이저는 노이즈 있는 입력에서 더 깔끔한 신호로의 매핑을 학습하기 위해 잔차 신경망 아키텍처를 사용하여 가우시안 노이즈를 효과적으로 억제한다.
• 신경망 디코더(NND)는 다층 퍼셉트론(MLP), 컨volutional 신경망(CNN), 순환 신경망(RNN)의 세 가지 아키텍처로 구현되며, 각각 디노이저와 조합되어 RNND 변종을 형성한다.
• 전체 시스템은 디노이징 오차와 디코딩 오차를 결합한 공동 손실 함수를 사용하여 backpropagation으로 훈련된다.
• NND 및 RNND 변종 간의 파라미터 수를 유사하게 유지하여 공정한 성능 비교를 보장한다.

실험 결과

연구 질문

• RQ1 잔차 학습 기반 디노이저는 지연 시간을 증가시키지 않고도 신경망 디코더의 BER 성능을 향상시킬 수 있는가?
• RQ2 디코딩 이전의 디노이징 단계는 펄스 코드 디코딩에서 수신 신호의 유효 SNR에 어떤 영향을 미치는가?
• RQ3 단일 RNND 프레임워크 내에서 디노이징과 디코딩을 통합함으로써, 별도의 NND보다 성능 향상이 이루어지는가?
• RQ4 MLP, CNN, RNN 중 어떤 신경망 아키텍처가 제안된 디노이징 모듈과 조합되었을 때 가장 우수한 성능를 보이는가?
• RQ5 RNND는 초저지연을 유지하면서도 순차적 취소(SC) 디코딩 수준의 near-optimal BER 성능를 달성할 수 있는가?

주요 결과

• MLP 기반 RNND는 BER 1e-4에서 NND 대비 약 0.2 dB의 BER 향상을 보이며, 성능 향상이 뚜렷하다.
• MLP-RNND와 RNN-RNND는 디노이징 및 디코딩 모두에서 CNN-RNND를 능가하며, 특히 MLP-RNND가 가장 우수한 종합 성능를 보인다.
• 디노이저는 시험용 SNR = 3 dB에서 유효 SNR를 약 4 dB 향상시켜 뚜렷한 노이즈 억제 효과를 입증한다.
• MLP-RNND는 주어진 코드 설정에서 순차적 취소(SC) 알고리즘 수준의 near-optimal BER 성능를 달성한다.
• MLP-RNND는 SC 알고리즘보다 100배 이상 빠르게 동작하여 초저지연 5G NR 응용 분야에 매우 적합한 후보로 부상한다.
• NND 대비 RNND의 계산 오버헤드는 극히 미미하며, 실질적으로 무시할 수 있는 정도의 약간의 지연 증가 외에는 영향이 없다.