[논문 리뷰] Learning to Flip Successive Cancellation Decoding of Polar Codes with LSTM Networks

Xianbin Wang, Huazi Zhang외 5명|arXiv (Cornell University)|2019. 02. 22.

Advanced biosensing and bioanalysis techniques참고 문헌 13인용 수 5

한 줄 요약

이 논문은 성능 향상을 위해 순차적 취소(Sc) 플립 디코딩에 딥러닝 기반 기법을 도입한 방법을 제안한다. 이 방법은 장기적 기억(LSTM) 네트워크를 사용하여 각 디코딩 시도에서 첫 번째 오류 비트를 식별하고, 이를 플립하는 방식이다. 초기 오류 비트를 탐지하기 위해 지도학습을, 이전에 잘못된 플립를 수정하기 위해 강화학습을 적용함으로써, 기존의 최첨단 SC 플립 알고리즘보다 블록 오류율(BLERR) 성능을 향상시키며, 단지 5번의 디코딩 시도로 CA-SC-List-4 성능에 근접한다.

ABSTRACT

The key to successive cancellation (SC) flip decoding of polar codes is to accurately identify the first error bit. The optimal flipping strategy is considered difficult due to lack of an analytical solution. Alternatively, we propose a deep learning aided SC flip algorithm. Specifically, before each SC decoding attempt, a long short-term memory (LSTM) network is exploited to either (i) locate the first error bit, or (ii) undo a previous `wrong' flip. In each SC attempt, the sequence of log likelihood ratios (LLRs) derived in the previous SC attempt is exploited to decide which action to take. Accordingly, a two-stage training method of the LSTM network is proposed, i.e., learn to locate first error bits in the first stage, and then to undo `wrong' flips in the second stage. Simulation results show that the proposed approach identifies error bits more accurately and achieves better performance than the state-of-the-art SC flip algorithms.

연구 동기 및 목표

• 순차적 취소 플립 디코딩에서 첫 번째 오류 비트를 식별하는 문제를 해결하기 위해, 이는 성능 향상에 필수적이지만 분석적 해법이 없는 문제이다.
• 기존의 SC 플립 및 리스트 디코딩 방법에 비해 디코딩 복잡도를 줄이면서도 블록 오류율(BLERR) 성능을 향상시키기 위해 노력한다.
• 순차적 디코딩 과정에서 첫 번째 오류 비트를 식별하고 이전에 잘못된 플립를 수정할 수 있는 딥러닝 프레임워크를 개발한다.
• 두 단계의 훈련 방식—초기 상태에서의 지도학습, 이후 상태에서의 강화학습—을 사용하여 초기 및 중간 상태의 디코딩 결정을 처리한다.

제안 방법

• LSTM 네트워크를 사용하여 이전 SC 디코딩 시도에서 생성된 로그가능도비율(LLR) 시퀀스를 처리하여 각 동결되지 않은 비트가 첫 번째 오류 비트일 확률을 예측한다.
• 완전 연결 및 소프트맥스 계층을 통해 점수 벡터를 출력하며, 이는 각 비트가 유형-1 오류(즉, 첫 번째 오류 비트)일 가능성의 척도를 나타낸다.
• 두 단계의 훈련 전략을 적용한다: 첫 번째로 초기 상태에서 첫 번째 오류 비트를 식별하기 위한 지도학습, 두 번째로 잘못된 플립를 수정하기 위한 강화학습.
• 강화학습은 반복적으로 적용되며, 초기 상태, 일반적인 중간 상태, 그리고 실패한 디코딩 시도 후의 '병상 중간 상태'(sick middle states)를 포함한 동적으로 업데이트되는 데이터셋을 사용한다.
• 훈련은 장기적인 결정 영향을 고려하는 시퀀스 기반 손실 함수를 사용하여, 네트워크가 다중 디코딩 시도 동안 최적의 행동 시퀀스를 학습할 수 있도록 한다.
• 프레임워크는 길이 64, 레이트 1/2, 8비트 CRC를 가진 펄스 코드에 대해 평가되었으며, 훈련 및 테스트 모두에 SNR = 1 dB를 사용하였다.

실험 결과

연구 질문

• RQ1 LSTM 네트워크는 순차적 취소 플립 디코딩에서 첫 번째 오류 비트를 효과적으로 식별할 수 있는가?
• RQ2 지도학습 이후 강화학습을 적용하는 두 단계의 훈련 전략은 네트워크의 초기 오류 비트 식별 능력과 이후 오류 비트 수정 능력을 향상시키는가?
• RQ3 제안된 딥러닝 기반 SC 플립 알고리즘은 기존의 SC 플립 및 리스트 디코딩 방법보다 더 나은 BLER 성능을 달성하는가?
• RQ4 네트워크의 성능는 잘못된 플립로 인해 발생한 '병상 중간 상태'에서 벗어나는 능력에 따라 어떻게 달라지는가?

주요 결과

• 제안된 알고리즘은 동일한 디코딩 시도 수에서 기존의 동적 SC 플립 알고리즘보다 더 나은 블록 오류율(BLERR) 성능을 달성한다.
• 최대 5회의 디코딩 시도로 제안된 방법은 CA-SC-List-4 디코더 성능에 근접하며, 기존의 전통적 SC 플립 알고리즘보다 뚜렷이 뛰어난 성능을 보인다.
• 두 단계의 훈련 전략—초기 오류 식별을 위한 지도학습, 이후 잘못된 플립 수정을 위한 강화학습—은 일반화 능력과 강인성을 향상시킨다.
• LSTM 네트워크는 복잡한 중간 상태에서도 첫 번째 오류 비트를 식별하고, 이전에 잘못된 플립를 수정하는 데 성공한다.
• 성능 향상은 네트워크가 순차적 LLR 정보와 장기적인 결정 피드백을 활용하여 더 정확한 오류 비트 선택을 가능하게 하기 때문이다.