[논문 리뷰] Deep Learning for Communication over Dispersive Nonlinear Channels: Performance and Comparison with Classical Digital Signal Processing

Boris Karanov, Gabriele Liga외 4명|arXiv (Cornell University)|2019. 10. 02.

Optical Network Technologies참고 문헌 31인용 수 17

한 줄 요약

이 논문은 분산성 비선형 채널을 통한 광학적 IM/DD 통신에서 SBRNN 기반 오토에코더의 성능을 향상시킬 것을 제안한다. 최적화된 비트-심볼 매핑과 가중치를 적용한 시퀀스 추정을 통해 성능을 향상시키며, 기존의 MLSD와 유사한 BER 성능를 달성하면서도 선형적인 계산 복잡도를 유지한다. 이는 MLSD의 지수적 증가와는 대조적으로, 더 높은 데이터 전송 속도 또는 더 긴 전송 거리를 비용이 과도하게 증가하지 않도록 가능하게 한다.

ABSTRACT

In this paper, we apply deep learning for communication over dispersive channels with power detection, as encountered in low-cost optical intensity modulation/direct detection (IM/DD) links. We consider an autoencoder based on the recently proposed sliding window bidirectional recurrent neural network (SBRNN) design to realize the transceiver for optical IM/DD communication. We show that its performance can be improved by introducing a weighted sequence estimation scheme at the receiver. Moreover, we perform bit-to-symbol mapping optimization to reduce the bit-error rate (BER) of the system. Furthermore, we carry out a detailed comparison with classical schemes based on pulse-amplitude modulation and maximum likelihood sequence detection (MLSD). Our investigation shows that for a reference 42\\,Gb/s transmission, the SBRNN autoencoder achieves a BER performance comparable to MLSD, when both systems account for the same amount of memory. In contrast to MLSD, the SBRNN performance is achieved without incurring a computational complexity exponentially growing with the processed memory.

연구 동기 및 목표

• 비선형적이고 분산성이 있는 채널을 통해 딥러닝 기반 광학 통신 시스템의 종단 간 성능을 향상시키기 위해.
• 기존의 SBRNN 오토에코더가 가지는 비효율적인 BER 성능 문제를 최적화된 비트-심볼 매핑과 수신기 가중치 조정을 통해 해결하기 위해.
• 동일한 메모리 제약 조건 하에서 기존의 MLSD 기반 시스템과 비교하여 SBRNN 오토에코더의 성능와 계산 복잡도를 평가하기 위해.
• 기존의 비선형 등화 기법에 비해 훨씬 낮은 복잡도로 근사 최적 성능를 달성할 수 있음을 보여주기 위해.
• 실제 세계의 제약 조건을 고려한 실용적인 광학적 IM/DD 시스템에서 종단 간 학습이 가능한 오토에코더의 실현 가능성을 검증하기 위해.

제안 방법

• 전체 통신 체인에 걸쳐 송신기 및 수신기 간 공동 학습이 가능한 슬라이딩 윈도우 양방향 순환 신경망(SBRNN) 오토에코더를 사용하였다.
• 슬라이딩 윈도우의 출력에 학습 가능한 또는 최적화된 가중치를 할당하여 수신기에서 가중치를 적용한 시퀀스 추정 방식을 도입함으로써 BER 성능을 균일한 가중치보다 향상시켰다.
• 비트-심볼 매핑의 최적화를 위해 조합 최적화 알고리즘인 탭우 검색을 적용하여, 수동적 또는 그레이 매핑에 비해 비트 오류율을 감소시켰다.
• SBRNN와 MLSD 간의 계산 복잡도를 비교하기 위해 각 디코딩 비트당 부동소수점 연산 수(FLOPSpdb)를 메트릭으로 사용하였다.
• 공정한 비교를 위해 동일한 메모리 깊이(μ)를 가진 PAM 변조와 최대우도시퀀스검출(MLSD)을 사용한 벤치마크 시스템을 설계하였다.
• 전송 거리(최대 70 km) 및 메모리 깊이(η = 12, 60)에 걸쳐 평가하였으며, 하드 디시전 FEC 임계값 하에서 BER을 측정하였다.

실험 결과

연구 질문

• RQ1 SBRNN 기반 오토에코더는 분산성 비선형 광학적 IM/DD 채널에서 기존의 MLSD와 유사한 BER 성능를 달성할 수 있는가?
• RQ2 조합 최적화를 통한 비트-심볼 매핑 최적화는 표준 그레이 매핑에 비해 SBRNN 오토에코더의 BER 성능를 향상시키는가?
• RQ3 SBRNN 수신기에서 가중치를 적용한 시퀀스 추정 방식은 특히 긴 전송 거리에서 BER을 감소시키는가?
• RQ4 SBRNN 오토에코더의 계산 복잡도는 채널 메모리에 따라 어떻게 변화하는가? MLSD와 비교해보면 어떻게 되는가?
• RQ5 최적화된 SBRNN는 PAM 기반 시스템에 비해 전송 거리와 데이터 전송 속도를 얼마나 향상시킬 수 있는가?

주요 결과

• 메모리 깊이 μ = 6인 42 Gb/s 전송에서, 동일한 메모리 깊이를 사용할 경우 SBRNN 오토에코더는 MLSD와 유사한 BER 성능를 달성한다.
• 최적화된 비트-심볼 매핑을 적용한 SBRNN 오토에코더는 처리 윈도우 η = 60일 때 70 km까지 하드 디시전 FEC 임계값인 6.7% 이하의 BER 성능를 확보하며, MLSD를 사용한 PAM4보다 뛰어난 성능를 보였다.
• 가중치를 적용한 시퀀스 추정 방식은 긴 거리에서 BER을 감소시켰으며, 최적화된 매핑 하에서 η = 12일 때 50 km, η = 60일 때 70 km의 전송 거리를 달성할 수 있었다.
• SBRNN의 계산 복잡도는 메모리에 따라 선형적으로 증가한다(FLOPSpdb ∝ W), 반면 MLSD의 복잡도는 지수적으로 증가한다(FLOPSpdb ∝ M^μ+1)로서, SBRNN는 고메모리 환경에서 유의미하게 적용 가능하다.
• PAM4는 더 높은 스펙트럼 효율성을 지닌 반면, 더 높은 노이즈 민감도를 가지므로, SBRNN 오토에코더는 전송 거리와 BER 성능 면에서 PAM4에 비해 뛰어난 성능를 보였다.
• 제안된 최적화 방법(매핑 및 가중치 조정)은 모델 크기나 추론 복잡도를 증가시키지 않으면서도 종단 간 성능 향상에 효과적이었다.