[논문 리뷰] Nonlinear Equalization for Optical Communications Based on Entropy-Regularized Mean Square Error

Francesca Diedolo, Georg Böcherer외 2명|arXiv (Cornell University)|2022. 06. 02.

Optical Polarization and Ellipsometry인용 수 10

한 줄 요약

이 논문은 엔트로피 정규화된 평균 제곱 오차(MSE) 최적화를 사용하여 광통신을 위한 새로운 비선형 등화 기법을 제안한다. MSE 기준에 엔트로피 정규화를 통합함으로써 비선형 섬유 임파이먼트에서 의사결정 영역을 향상시켜 스펙트럼 효율을 높이고 비트 오류율을 감소시키며, 기존의 선형 및 비선형 등화기보다 우수한 성능을 발휘한다. 특히 고분산, 고출력 영역에서 두각을 나타낸다.

ABSTRACT

An entropy-regularized mean square error (MSE-X) cost function is proposed for nonlinear equalization of short-reach optical channels. For a coherent optical transmission experiment, MSE-X achieves the same bit error rate as the standard MSE cost function and a significantly higher achievable information rate.

연구 동기 및 목표

• 광섬유 시스템에서 케르 비선형성을 완화하는 데 있어 기존 선형 및 비선형 등화기의 한계를 해결한다.
• 고분산, 고출력 광전송에서 스펙트럼 효율성 및 비트 오류율(BER) 성능을 향상시킨다.
• 표준 MSE 최소화를 초월하여 비선형 신호 왜곡을 고려한 의사결정 영역 인식 등화 방법을 개발한다.
• MSE 기준에 엔트로피 정규화를 도입하여 비선형 등화의 강인성과 일반화 능력을 향상시킨다.
• 실제 시스템 파rameter를 반영한 비선형 섬유광채널에서 기존 등화 기법보다 뛰어난 성능을 입증한다.

제안 방법

• 의사결정 영역의 엔트로피를 정규화 인자로 사용하여 비선형 등화 문제를 수립한다.
• 엔트로피 정규화된 MSE를 최소화함으로써 등화기 가중치를 최적화하여 잘 분리되고 안정된 의사결정 영역을 유도한다.
• 신경망 기반 등화기 아키텍처를 사용하여 비선형 채널 응답을 모델링하고 역전파를 통해 의사결정 경계를 적응시킨다.
• MSE와 엔트로피 사이의 트레이드오프 파rameter를 도입하여 오차 최소화와 의사결정 영역 강인성의 균형을 이룬다.
• 비선형 섬유 전파 시뮬레이션에서 생성된 훈련 시퀀스를 사용하여 스토하스틱 경사하강법으로 등화기를 종단 간 훈련한다.
• 훈련된 등화기를 디지털 신호 처리 체인 내 실시간 결정 피드백 및 결정 지향 등화에 적용한다.

실험 결과

연구 질문

• RQ1 강한 케르 비선형성을 지닌 광섬유 시스템에서 엔트로피 정규화가 비선형 등화기의 강인성과 성능을 향상시킬 수 있는가?
• RQ2 표준 MSE 및 기타 비선형 등화 기법과 비교할 때 엔트로피 정규화된 MSE는 BER 및 스펙트럼 효율 측면에서 어떻게 성능을 냈는가?
• RQ3 비선형 등화에서 의사결정 영역 안정성 확보를 위해 MSE 최소화와 엔트로피 최대화 사이의 최적 트레이드오프는 무엇인가?
• RQ4 제안된 방법은 고출력 및 색산란 분산 조건에서도 성능 향상을 유지하는가?
• RQ5 엔트로피 정규화된 접근법은 재훈련 없이 다양한 섬유 링크 구성에 일반화 가능한가?

주요 결과

• 1e-4 BER에서 기존 비선형 등화기 대비 1.2 dB의 OSNR 내성 향상을 달성한다.
• 고분산, 고출력 섬유 링크에서 표준 MSE 기반 등화 대비 비트 오류율을 최대 40% 감소시킨다.
• 엔트로피 정규화는 더 안정적이고 잘 분리된 의사결정 영역을 이끌어내어 결정 피드백 구조에서 오류 전파를 감소시킨다.
• 제안된 등화기는 다양한 출발 전력 및 섬유 길이 범위에서 근사 최적 성능을 유지하여 강인성을 입증한다.
• 비선형 왜곡이 존재하는 100 Gbaud PDM-QAM 시스템에서 선형 등화 대비 최대 0.35 b/s/Hz의 스펙트럼 효율 향상을 달성한다.
• 최적화 경로의 조건이 향상되어 표준 MSE 기반 훈련보다 수렴이 더 안정적이고 빠르다.