[논문 리뷰] Low Noise Non-Linear Equalization Using Neural Networks and Belief Propagation

Etsushi Yamazaki, Nariman Farsad외 1명|arXiv (Cornell University)|2019. 05. 13.

Optical Network Technologies참고 문헌 5인용 수 5

한 줄 요약

이 논문은 비선형성에 의한 왜곡을 완화하면서 노이즈 증폭을 최소화하기 위해 신경망(이하 NN)과 민감도 전파(BP)를 조합한 새로운 반복적 비선형 등화 기법을 제안한다. 다단계 NN 프레임워크 내에서 BP를 훈련 불가능한 레이어로 통합함으로써, 이 방법은 최적의 볼테라 등화기 대비 0.6 dB 향상과 비등화 시스템 대비 1.7 dB 향상을 달성하여, 가우시안 노이즈가 첨가된 비선형 광학 및 무선 통신 시스템에서 뛰어난 성능을 보여준다.

ABSTRACT

Nonlinearities can be introduced into communication systems by the physical components such as the power amplifier, or during signal propagation through a nonlinear channel. These nonlinearities can be compensated by a nonlinear equalizer at the receiver side. The nonlinear equalizer also operates on the additive noise, which can lead to noise enhancement. In this work we evaluate this trade-off between distortion reduction and noise-enhancement via nonlinear equalization techniques. We first, evaluate the trade-off between nonlinearity compensation and noise enhancement for the Volterra equalizer, and propose a method to determine the training SNR that optimizes this performance trade-off. We then propose a new approach for nonlinear equalization that alternates between neural networks (NNs) for nonlinearity compensation, and belief propagation (BP) for noise removal. This new approach achieves a 0.6 dB gain compared to the Volterra equalizer with the optimal training SNR, and a 1.7 dB gain compared to a system with no nonlinearity compensation.

연구 동기 및 목표

• 볼테라 등화기에서 비선형 보정과 노이즈 증폭 간의 상충 관계를 분석한다.
• 훈련 시 신호 대 노이즈비를 기반으로 한 볼테라 등화기의 노이즈 도수를 닫힌 형태의 식으로 유도하여 최적의 훈련 SNR 선택을 안내한다.
• 왜곡과 노이즈 증폭을 동시에 완화하는 새로운 비선형 등화 프레임워크를 개발한다.
• 가우시안 노이즈가 첨가된 비선형 채널에서 기존 볼테라 등화기 및 비등화 시스템 대비 성능 향상을 입증한다.

제안 방법

• 훈련 시 신호 대 노이즈비에 따라 노이즈 증폭을 정량화하는 볼테라 등화기의 수학적 노이즈 도수 식을 유도한다.
• 비선형 보정을 위한 훈련 가능한 신경망과 노이즈 제거를 위한 민감도 전파를 번갈아 사용하는 하이브리드 등화 아키텍처를 제안한다.
• 민감도 전파를 훈련 불가능한 신경망 레이어로 구현하여 전체 시스템을 통한 역전파를 가능하게 한다.
• 민감도 전파 단계의 출력에서 교차 엔트로피 손실을 사용하여 NN 등화기를 훈련함으로써 등화 및 디코딩의 공동 최적화를 가능하게 한다.
• 세 단계 반복 구조를 구현: BP 이전에 NN, 그 다음 BP, 이후 추가적인 NN 및 BP 단계를 거쳐 추정치를 정밀화한다.
• 유도된 노이즈 도수 모델을 활용해 볼테라 등화기의 훈련 SNR를 최적화하여 총 신호 대 노이즈비 손실을 최소화한다.

실험 결과

연구 질문

• RQ1 비선형성과 노이즈 증폭의 병합 손실을 최소화하는 데 최적의 훈련 SNR는 무엇인가?
• RQ2 비선형 채널에서 가우시안 노이즈가 첨가된 환경에서, 신경망-민감도 전파 하이브리드 아키텍처가 기존 볼테라 등화기보다 뛰어난 성능을 낼 수 있는가?
• RQ3 비선형 등화기에서 노이즈 증폭은 어느 정도 억제될 수 있으며, 同시에 효과적인 비선형 보정을 유지할 수 있는가?
• RQ4 반복적 방식으로 신경망과 민감도 전파를 통합할 경우, 단일 단계 또는 비반복적 접근 대비 시스템 성능은 어떻게 향상되는가?

주요 결과

• 유도된 노이즈 도수 모델은 볼테라 등화기의 노이즈 증폭 손실(NE-penalty)을 정확히 예측하며, 19 dB 훈련 SNR에서 0.35 dB의 NE-penalty가 관찰되었다.
• 17 dB 이상의 훈련 SNR에서는 총 신호 대 노이즈비 손실(NL-penalty + NE-penalty)이 비교적 일정하게 유지되며, 고신호 대 노이즈비 훈련이 최적임을 시사한다.
• 제안된 반복적 NN-BP 등화기는 최적의 훈련 SNR를 가진 볼테라 등화기 대비 0.6 dB 향상을 달성한다.
• 비등화 시스템 대비 제안된 방법은 1.7 dB 향상을 보이며, 뚜렷한 성능 향상을 입증한다.
• 세 단계 반복적 NN-BP 아키텍처는 단일 단계 NN 및 선형 FIR 필터보다 뛰어난 성능을 보이며, 반복적 정밀화의 유용성을 확인한다.
• BP를 훈련 불가능한 레이어로 사용함으로써 시스템 전체를 통한 효과적인 역전파가 가능해졌으며, 이는 등화 및 디코딩의 공동 최적화를 가능하게 한다.