[논문 리뷰] DRF Codes: Deep SNR-Robust Feedback Codes

Mahdi Boloursaz Mashhadi, Denız Gündüz외 2명|arXiv (Cornell University)|2021. 12. 22.

Advanced Wireless Communication Techniques인용 수 8

한 줄 요약

이 논문은 노이지 출력 피드백이 있는 fading 채널을 위한 DNN 기반 채널 코딩 기법인 Deep SNR-Robust Feedback (DRF) 코드를 제안한다. 과거 채널 출력을 활용하는 LSTM 기반 인코더와 SNR 인지 주의 메커니즘을 갖춘 이중 방향 LSTM 디코더를 사용하여, DRF 코드는 광범위한 SNR 값 범위에서 뛰어난 오류율 성능과 강건성을 달성하며, 이는 이전의 DNN 기반 코드를 능가하고 멀티캐스트 및 fading 환경에서의 피드백 효율적 사용을 가능하게 한다.

ABSTRACT

We present a new deep-neural-network (DNN) based error correction code for fading channels with output feedback, called deep SNR-robust feedback (DRF) code. At the encoder, parity symbols are generated by a long short term memory (LSTM) network based on the message as well as the past forward channel outputs observed by the transmitter in a noisy fashion. The decoder uses a bi-directional LSTM architecture along with a signal to noise ratio (SNR)-aware attention NN to decode the message. The proposed code overcomes two major shortcomings of the previously proposed DNN-based codes over channels with passive output feedback: (i) the SNR-aware attention mechanism at the decoder enables reliable application of the same trained NN over a wide range of SNR values; (ii) curriculum training with batch-size scheduling is used to speed up and stabilize training while improving the SNR-robustness of the resulting code. We show that the DRF codes significantly outperform state-of-the-art in terms of both the SNR-robustness and the error rate in additive white Gaussian noise (AWGN) channel with feedback. In fading channels with perfect phase compensation at the receiver, DRF codes learn to efficiently exploit knowledge of the instantaneous fading amplitude (which is available to the encoder through feedback) to reduce the overhead and complexity associated with channel estimation at the decoder. Finally, we show the effectiveness of DRF codes in multicast channels with feedback, where linear feedback codes are known to be strictly suboptimal.

연구 동기 및 목표

• 시간에 따라 변하는 무선 환경에서의 구현을 제한하는 DNN 기반 코드의 SNR 불일치에 대한 높은 민감도라는 핵심적 한계를 해결한다.
• 단일 SNR에서 훈련된 DNN 코드가 다양한 SNR 조건에 적용될 때 발생하는 불안정성과 성능 저하 문제를 해결한다.
• 채널의 순간적인 페이딩 지식을 인코더가 활용할 수 있도록 함으로써 디코딩 복잡도를 감소시키고 피드백의 효율적 활용을 가능하게 하여 fading 채널에서의 성능 향상을 도모한다.
• 선형 피드백 코드가 엄격히 열등한 것으로 알려진 멀티캐스트 환경에 DNN 기반 코드의 적용 가능성을 넓힌다.
• 각기 다른 SNR 영역에서 일반화 및 강건성을 향상시키기 위한 별도의 모델 별도 훈련 없이도 가능한 훈련 프레임워크를 개발한다.

제안 방법

• 인코더는 메시지와 송신단에서 관측한 노이지 과거 전방 채널 출력을 기반으로 패리티 기호를 생성하기 위해 장기 단기 기억(LSTM) 네트워크를 사용한다.
• 디코더는 두 층의 이중 방향 LSTM 아키텍처에 더하여 SNR 인지 주의 메커니즘을 활용하여 다양한 채널 SNR 조건에 동적으로 적응한다.
• 학습 과정에서 배치 크기 스케줄링을 적용한 커리큘럼 훈련을 통해 학습 안정성과 SNR 강건성을 향상시킨다.
• 손실 함수는 디코더에서의 이진 교차 엔트로피 손실의 합으로 정의되어 오류 수정 성능의 공동 최적화를 가능하게 한다.
• 멀티캐스트 채널로의 프레임워크 일반화를 위해 인코더를 다수 수신기로부터의 피드백을 수용하도록 수정하고, 디코더는 다중 출력 스트림을 동시에 처리하도록 훈련한다.
• 스펙트럼 효율성은 $\mathrm{SE}_{r} = \frac{K \times (1 - \mathrm{BLER}_{r})}{L}$ 로 계산되며, 여기서 $K$는 비트 수, $L$은 블록 길이, $\mathrm{BLER}_{r}$은 수신기 $r$에서의 블록 오류율이다.

실험 결과

연구 질문

• RQ1 재훈련이나 모델 전환 없이도 DNN 기반 코드가 다양한 SNR 값에 대해 강건하게 작동할 수 있는가?
• RQ2 DNN 인코더가 피드백를 통해 얻은 순간적인 페이딩 지식을 얼마나 효과적으로 활용하여 디코딩 복잡도와 오버헤드를 줄일 수 있는가?
• RQ3 선형 코드가 열등한 것으로 알려진 멀티캐스트 채널에서 피드백이 있는 DNN 기반 코드가 신뢰성을 얼마나 향상시킬 수 있는가?
• RQ4 배치 크기 스케줄링을 적용한 커리큘럼 훈련이 DNN 기반 피드백 코드의 SNR 강건성과 수렴 안정성에 상당한 영향을 미치는가?
• RQ5 다수 수신기에서의 전방 채널 노이즈 시퀀스 간 상관관계가 공동 DNN 기반 멀티캐스트 코드의 성능에 어떤 영향을 미치는가?

주요 결과

• DRF 코드는 코드율 $r = 50/153$ 이며 블록 길이 $L = 50$ 인 AWGN 채널에서 피드백이 있는 조건에서, 이전의 DNN 기반 코드인 Deepcode 및 DEF 코드보다 유의미하게 낮은 블록 오류율(BLER)을 달성한다.
• SNR 인지 주의 메커니즋试는 동일한 훈련된 DRF 코드가 광범위한 SNR 범위에서 높은 신뢰성을 유지할 수 있도록 해주어 별도의 SNR 특화 모델이 필요 없도록 한다.
• 두 수신기가 있는 멀티캐스트 시나리오에서, 전방 노이즈 시퀀스가 양의 상관관계가 있는 경우($\epsilon = 0.9$), DRF 코드는 이론적 한계인 $50/153 \approx 0.3268$ 에 가까운 스펙트럼 효율성을 달성한다.
• 전방 노이즈 시퀀스가 상관관계가 없을 경우($\epsilon = 0$) 성능이 저하되며, 이는 노이즈가 상호 독립일 때 가장 큰 성능 손실이 발생하는 것으로 나타났다. 이는 인코더가 두 수신기 모두의 오류 수정 성능을 고려해야 하기 때문이다.
• 두 전방 노이즈 시퀀스가 부정적 상관관계가 있는 경우($\epsilon = -0.9$) 스펙트럼 효율성이 더욱 낮아지며, 이는 반대 상관 노이즈 조건에서 인코딩의 어려움이 증가함을 시사한다.
• DRF 코드 프레임워크는 두 명 이상의 수신기로 일반화 가능하며, 인코더는 다수 수신기의 피드백을 처리하도록 수정되고, 디코더는 동시에 다중 출력 스트림을 처리하도록 훈련된다.