[논문 리뷰] Deep Learning Waveform Channel Modeling for Wideband Optical Fiber Transmission: Model Comparisons, Challenges and Potential Solutions

Minghui Shi, Hang Yang외 7명|ArXiv.org|2025. 01. 14.

Advanced Photonic Communication Systems인용 수 3

한 줄 요약

이 논문은 DSP 보조 정확도 평가 하에 다섯 가지 DL 기반 파형 레벨 광섬유 채널 모델을 비교하고, FDD와 BiLSTM이 보통 설정에서 최상의 성능을 보이나 wideband 확장성에 도전이 있음을 보여주며, 해결책을 제시한다.

ABSTRACT

Fast and accurate waveform simulation is critical for understanding fiber channel characteristics, developing digital signal processing (DSP) technologies, optimizing optical network configurations, and advancing the optical fiber transmission system towards wideband. Deep learning (DL) has emerged as a powerful tool for waveform modeling, offering high accuracy and low complexity compared to traditional split-step Fourier method (SSFM), due to its strong nonlinear fitting capabilities and efficient parallel computation. However, most DL methods are designed for few-channel and low-rate WDM systems, leaving their scalability to wideband systems uncertain. Moreover, the lack of a standardized accuracy evaluation method and the inconsistent results between waveform errors and transmission performance errors, hinders fair comparisons of various DL schemes. In this paper, we introduce a DSP-assisted accuracy evaluation method integrated with nonlinear DSP, providing a fair benchmark for evaluating the accuracy of DL models. Using this method, we conduct a comprehensive comparison of DL schemes, ranging from simple configurations to more complex wideband setups. The feature decoupled distributed method combining with bidirectional long short-term memory achieves the better performance compared to other DL schemes. Furthermore, in scenarios with more-channel and higher-rate, the performance advantages of FDD-BiLSTM will be further improved. However, as the number of channels and symbol rates increase, the performance of FDD-BiLSTM still gradually deteriorate. We analyze these challenges from three perspectives: the more intricate linear and nonlinear effects, the higher sampling rate required for SSFM. To address these challenges, we discuss potential solutions from two aspects: incorporating more prior physical knowledge and optimizing the structure of DL models.

연구 동기 및 목표

• DL 기반 파형 레벨 광섬유 채널 모델의 정확도를 일관된 DSP 기반 지표로 SSFM과 대조하여 평가한다.
• wideband, 다중 채널 WDM 시나리오를 가장 잘 처리하는 DL 아키텍처를 확인한다.
• 채널 수와 보우드(baud) 증가에 따른 성능 저하 메커니즘을 분석한다.
• wideband 성능을 개선하기 위한 잠재적 아키텍처 및 모델링 전략을 제안한다.

제안 방법

• 다중 채널에 걸친 DP-16QAM을 사용한 SSFM 기반 코히런트 WDM 시뮬레이션으로 학습 데이터를 생성한다.
• 모델 요구에 따라 재현 가능한 파워 정규화, ISI 인식 슬라이딩 윈도우, 실수-허수 분해를 사용하여 데이터를 전처리한다.
• DL 스키마를 전체 대 분산, 순수 데이터 기반 대 데이터-물리 하이브리드, 신경망 대 신경 연산자 계열로 분류한다.
• BiLSTM, CGAN, FNO, DeepONet, FDD, PINO 등 여러 DL 아키텍처를 학습시키고 파형 NMSE와 QoT 지표로 평가한다.
• 일관된 난수 realizations 하에서 파형 오차와 QoT( GSNR, BER, Q-factor) 를 함께 분석하는 DSP 보조 정확도 평가 방법을 도입한다.
• SL1 손실 및 Cosine Annealing이 적용된 Adam 옵티마이저를 사용하고 1000 에폭 및 50 GBaud–wideband 시나리오를 평가한다.

실험 결과

연구 질문

• RQ1 일관된 DSP 기반 평가에서 다중 채널 WDM 시스템에서 DL 기반 파형 모델의 정확도가 SSFM과 비교하여 얼마나 우수한가?
• RQ2 wideband, 고채널 수 구성을 고려할 때 파형 충실도와 QoT 정확도를 가장 잘 균형잡는 DL 아키텍처는 무엇인가?
• RQ3 WDM 채널 수와 심볼 속도가 증가함에 따라 성능 저하의 원인은 무엇이며, 모델은 이를 어떻게 완화할 수 있는가?
• RQ4 데이터-물리 하이브리드 접근(FDD, PINO 등)이 순수 데이터 기반 방법보다 wideband 규 regimes에서 우수성을 보일 수 있는가?
• RQ5 선형 및 비선형 효과를 효과적으로 분리하여 wideband 모델링을 개선하는 전략은 무엇인가?

주요 결과

• 다섯 가지 DL 스킴 중 FDD와 BiLSTM이 우수한 정확도를 달성하며, 5채널, 50 GBaud 설정에서 NMSE가 최대 83.1% 향상되고 QoT의 Q-요인 오차가 1.06 dB 감소한다.
• 광대역-광대역 채널 확장은 큰 저하를 야기하며, 5채널에서 25채널로 확장 시 NMSE 저하가 92.9% 및 Q-factor 오차가 2.02 dB 증가한다.
• 심볼 속도가 50에서 200 GBaud로 증가할 때 NMSE 저하가 89.7% 및 Q-factor 오차가 1.33 dB 증가한다.
• DSP 보조 정확도 평가 방법은 광대역/고비선형성 규模에서 파형 NMSE와 QoT 성능 간의 차이를 드러낸다.
• 해결책으로는 증가하는 선형성/비선형성을 더 잘 처리하도록 DL 모델의 설계와 학습 방법을 더 잘 분리하는 것이 있다.
• 도전에도 불구하고, DL 기반 파형 모델링은 차세대 시스템에서 빠르고 정확한 광섬유 채널 시뮬레이션에 강한 가능성을 보여준다.