[논문 리뷰] Revisiting Multi-Step Nonlinearity Compensation with Machine Learning

Charlotte K. Häger, Henry D. Pfister외 3명|arXiv (Cornell University)|2019. 04. 22.

Optical Network Technologies참고 문헌 30인용 수 9

한 줄 요약

이 논문은 섬유 비선형성 보정을 위한 디지털 백프로파게이션(DBP)에서 단계 수가 적을수록 더 효율적이라는 일반적인 가정을 도전하며, 필터 계수와 희소 MIMO 필터 분해를 공동으로 최적화하는 철저히 설계된 다단계 기계학습 기법이 성능-복잡도 균형을 향상시킬 수 있음을 보여준다. 모델 기반 DBP 알고리즘을 매개변수화하기 위해 확률적 경사 하강법(SGD)을 사용한 지도 학습을 적용함으로써, 하드웨어 복잡도를 최대 두 계급 정도 감소시키면서도 고정밀도 정밀도 구현에서도 높은 정확도를 유지할 수 있다.

ABSTRACT

For the efficient compensation of fiber nonlinearity, one of the guiding principles appears to be: fewer steps are better and more efficient. We challenge this assumption and show that carefully designed multi-step approaches can lead to better performance-complexity trade-offs than their few-step counterparts.

연구 동기 및 목표

• 디지털 백프로파게이션(DBP)에서 단계 수가 적을수록 본질적으로 더 효율적이라는 가정을 도전하기 위해.
• 필터 계수의 공동 최적화를 통한 다단계 DBP가 복잡도-성능 균형 측면에서 단일 단계 또는 소수 단계 접근 방식을 능가할 수 있음을 보여주기 위해.
• 특히 SGD를 사용한 지도 학습과 같은 기계학습 기법이 블랙박스 신경망에 의존하지 않고 모델 기반 디지털 신호 처리(DSP) 알고리즘을 최적화하는 데 어떻게 적용될 수 있는지 탐색하기 위해.
• 희소 필터 분해와 함께 다단계 아키텍처가 계수 양자화에 대한 강건성 향상과 함께 하드웨어 복잡도를 어떻게 감소시킬 수 있는지 조사하기 위해.

제안 방법

• 디지털 백프로파게이션(DBP)의 다단계에서 유한 임펄스 응답(FIR) 필터 계수를 공동 최적화하기 위해 지도 기반 기계학습과 확률적 경사 하강법(SGD)을 사용한다.
• 함수 fθ가 시간 영역 CD 필터링을 포함한 SSFM을 나타내는 매개변수화된 모델 기반 접근 방식을 적용하며, θ는 각 단계에서 사용되는 필터 탭을 의미한다.
• SGD 동안 L1-노름 정규화를 적용하여 서브밴드 처리에 사용되는 MIMO 필터의 희소성을 유도함으로써 비제로 계수의 수를 약 8%로 줄이고 성능 손실를 최소화한다.
• 메모리리스 회전과 짧은 분수형 지연(FD) 필터를 번갈아 사용함으로써 PMD 보정 필터의 다단계 분해을 제안하며, 이는 역방향 전파 모델을 모방한다.
• 고정점 구현을 공동 최적화하기 위해 학습 중에 '가짜 양자화'를 도입함으로써, 성능 저하 없이 계수 비트 폭을 8–9비트에서 5–6비트로 감소시킬 수 있다.
• 텐서 표현을 사용하여 서브밴드 및 PMD 보정에서 다탭 MIMO 필터를 모델링함으로써 구조적 최적화와 하드웨어 인식 설계를 가능하게 한다.

실험 결과

연구 질문

• RQ1 다단계 DBP에서 필터 계수의 공동 최적화가 복잡도와 정확도 측면에서 단일 단계 또는 소수 단계 DBP를 능가할 수 있는가?
• RQ2 다단계 DBP에 희소 필터 분해를 조합함으로써 성능 저하 없이 하드웨어 효율성을 향상시킬 수 있는가?
• RQ3 SGD와 같은 기계학습 기법이 뉴럴 네트워크를 보편적인 함수 근사기로 사용하지 않고도 모델 기반 DSP 알고리즘(예: CD 및 PMD 필터)을 최적화하는 데 효과적으로 적용될 수 있는가?
• RQ4 다단계에서 필터 계수를 공동 최적화함으로써 고정점 구현에서 계수 양자화에 대한 강건성이 어떻게 향상되는가?
• RQ5 PMD 보정을 위한 다단계 아키텍처가 SGD를 통해 효과적으로 학습되고 DBP에 통합되어 낮은 하드웨어 복잡도로 구현될 수 있는가?

주요 결과

• 시간 영역 DBP에서 다단계에 걸쳐 FIR 필터 계수를 공동 최적화함으로써 하드웨어 복잡도를 거의 두 계급 감소시켰으며, 70타프 필터 대신 5타프 및 3타프 필터로도 유사한 정확도를 달성했다.
• SGD에서 L1-노름 정규화를 적용함으로써 서브밴드 처리용 MIMO 필터의 희소성 비율이 92%에 도달하여 비제로 계수의 수를 637개에서 각 단계 약 50개로 줄였고 성능 손실는 최소화했다.
• 4차원 회전과 짧은 FD 필터를 번갈아 사용하는 다단계 PMD 보정 아키텍처는 낮은 하드웨어 복잡도로 분산 PMD 보정을 가능하게 하며, SGD를 통해 학습이 가능하다.
• 학습 중 '가짜 양자화'를 사용함으로써 DBP 구현에서 계수 비트 폭을 8–9비트에서 5–6비트로 감소시켰지만 성능에 악영향을 주지 않았다.
• 28-nm CMOS 기반 ASIC 합성 결과, 짧은 FIR 필터를 사용한 다단계 DBP가 현재 칩 면적과 전력 소비 제약 조건 내에서 실현 가능하다고 확인되었다.
• 실험적 증거는 다단계 아키텍처가 유사한 성능를 가지는 많은 근접한 매개변수 설정을 가지며, 이는 양자화 유도 변형에 대해 강건함을 시사한다.