[논문 리뷰] Deep-learning Autoencoder for Coherent and Nonlinear Optical Communication

Tim Uhlemann, Sebastian Cammerer외 3명|arXiv (Cornell University)|2020. 06. 26.

Optical Network Technologies참고 문헌 14인용 수 9

한 줄 요약

이 논문은 고전적인 디지털 신호 처리 체인을 모방하여 색산분산과 킬러 비선형성을 보상하는 딥러닝 오토인코더를 제안한다. 비록 선형 아키텍처이지만, 전통적인 시스템 대비 최대 4.46 bits/s/Hz의 스펙트럼 효율성 향상을 달성하며, 색산분산에 대해 해석 가능하고 거의 최적에 가까운 보상을 보여주지만, 고출력에서 비선형 잡음에 대처하는 데 어려움을 겪는다.

ABSTRACT

Motivated by the recent success of end-to-end training of communications in the wireless domain, we strive to adapt the end-to-end-learning idea from the wireless case (i.e., linear) to coherent optical fiber links (i.e., nonlinear). Although, at first glance, it sounds like a straightforward extension, it turns out that several pitfalls exist - in terms of theory but also in terms of practical implementation. This paper analyzes the potential of an autoencoder and limitations for the optical fiber under the influence of Kerr-nonlinearity and chromatic dispersion. As there is no exact capacity limit known and, hence, no analytical perfect system solution available, we set great value to the interpretability on the learnings of the autoencoder. Therefore, we design its architecture to be as close as possible to the structure of a classic communication system, knowing that this may limit its degree of freedom and, thus, its performance. Nevertheless, we were able to achieve an unexpected high gain in terms of spectral efficiency compared to a conventional reference system.

연구 동기 및 목표

• 무선 통신에서의 엔드 투 엔드 딥러닝을 코herent 광섬유 통신으로 확장하여, 비선형성과 분산이 성능에 악영향을 미치는 환경을 대응한다.
• 고전적 통신 시스템을 모방하는 미분 가능하고 해석 가능한 오토인코더 아키텍처를 설계하여 학습된 잡음의 특성을 분석할 수 있도록 한다.
• 닫힌형 해법에 대한 사전 지식 없이도 색산분산과 킬러 비선형성 보상을 학습할 수 있는 능력을 평가한다.
• 특히 별도의 복소수 변조나 비선형 블록 없이 선형 오토인코더 아키텍처가 비선형 보상을 얼마나 효과적으로 학습할 수 있는지 성능 한계와 실패 원인을 규명한다.
• 선형 오토인코더 아키텍처가 비록 비선형성을 직접 표현하지 않지만, 효과적인 비선형 보상 학습이 가능한지 탐색한다.

제안 방법

• 오토인코더는 훈련 가능한 블록인 매핑기, 펄스 샤프닝기, 수신 필터를 포함한 고전적 디지털 신호 처리 체인으로 구성되며, 엔드 투 엔드 훈련을 위해 모두 미분 가능하다.
• 송신기에서는 펄스 샤프닝과 복소수 변조를 적용하고, 수신기에서는 매치드 필터와 결정 블록을 사용하며, 모두 확률적 경사 하강법으로 최적화된다.
• 색산분산(CD)과 킬러 비선형성(KNL)이 포함된 시뮬레이션된 광섬유 링크에서 훈련되며, 손실 함수로 이진 교차 엔트로피와 평균 제곱오차를 사용한다.
• 시간 정렬 제어를 위해 조정 가능한 샘플링 포인트 수(N_adj)를 포함하여, 특히 저 SNR 조건에서 수렴 성능을 향상시킨다.
• 학습된 펄스 형태, 위상 응답, 복소수 변조 다이어그램을 분석하여 기존 분석 해법과 비교함으로써 해석 가능성을 향상시킨다.
• 스펙트럼 효율성(SE), 비트 오류율(BER), 블록 오류율(BLER), 정규화된 평균 제곱오차(NMSE)를 사용하여 다양한 송신 전력(−10 dBm에서 10 dBm) 조건에서 평가된다.

실험 결과

연구 질문

• RQ1 해석 가능하고 미분 가능한 오토인코더는 분석 해법에 대한 사전 지식 없이도 광섬유 링크에서 색산분산 보상을 효과적으로 학습할 수 있는가?
• RQ2 닫힌형 해법이 존재하지 않는 비선형 잡음, 예를 들어 킬러 비선형성에 대해 오토인코더는 어느 정도 일반화할 수 있는가?
• RQ3 낮은 전력에서는 성공했지만 고출력(예: 10 dBm)에서 수렴하지 못하거나 성능 향상을 달성하지 못하는 이유는 무엇인가?
• RQ4 특히 선형 설계를 가진 오토인코더 아키텍처의 구조가 비선형 보상 학습 능력을 어느 정도 제한하는가?
• RQ5 학습된 펄스 형태와 위상 응답은 스펙트럼 효율성을 향상시키는 데 어떤 역할을 하는가? 기존 최적 필터와 비교해보면 어떻게 다른가?

주요 결과

• 0 dBm 송신 전력에서 오토인코더는 최대 4.46 bits/s/Hz의 스펙트럼 효율성 향상을 달성하여 기존 기준 시스템을 크게 능가했다.
• 낮은 송신 전력(−10 dBm) 조건에서는 색산분산 보상에 대한 분석 해법과 유사한 펄스 형태와 위상 응답을 학습했으며, 포물선형 위상 응답과 수직 시간 샘플링을 보였다.
• 학습된 복소수 변조 다이어그램은 대칭적이고 원형 구조로 수렴하여 안정적이고 해석 가능한 신호 매핑을 나타냈다.
• 고출력(10 dBm) 조건에서는 오토인코더가 적절히 수렴하지 못했으며, 의미 있는 펄스 형태나 위상 응답이 나타나지 않아 비선형 영역에서 기울기 악화 또는 타당한 해가 존재하지 않는 것으로 추정된다.
• 조정 가능한 샘플링 포인트 수(N_adj)를 증가시킬수록 성능 향상이 있었고, 최적 값 20를 넘어서면 성능 포화 상태에 도달하여 시간 정렬의 민감성과 최적화 안정성 사이의 상충 관계를 보였다.
• 오토인코더가 CD 보상을 학습할 수 있었던 점은 향후 비선형 아키텍처에서 KNL 보상 학습 가능성에 대한 잠재력을 시사하지만, 현재 선형 설계로 인해 이 능력은 제한되어 있다.