[论文解读] Deep-learning Autoencoder for Coherent and Nonlinear Optical Communication

Tim Uhlemann, Sebastian Cammerer+3 more|arXiv (Cornell University)|Jun 26, 2020

Optical Network Technologies参考文献 14被引用 9

一句话总结

本文提出一种用于相干光纤通信的深度学习自编码器，通过模拟经典数字信号处理链路来学习补偿差分相位失真和克尔非线性。尽管其架构为线性，该自编码器在频谱效率方面相比传统系统最高可提升4.46 bit/s/Hz，展现出良好的可解释性，并实现了接近最优的差分相位失真补偿，但在高发射功率下对非线性损伤的补偿能力有限。

ABSTRACT

Motivated by the recent success of end-to-end training of communications in the wireless domain, we strive to adapt the end-to-end-learning idea from the wireless case (i.e., linear) to coherent optical fiber links (i.e., nonlinear). Although, at first glance, it sounds like a straightforward extension, it turns out that several pitfalls exist - in terms of theory but also in terms of practical implementation. This paper analyzes the potential of an autoencoder and limitations for the optical fiber under the influence of Kerr-nonlinearity and chromatic dispersion. As there is no exact capacity limit known and, hence, no analytical perfect system solution available, we set great value to the interpretability on the learnings of the autoencoder. Therefore, we design its architecture to be as close as possible to the structure of a classic communication system, knowing that this may limit its degree of freedom and, thus, its performance. Nevertheless, we were able to achieve an unexpected high gain in terms of spectral efficiency compared to a conventional reference system.

研究动机与目标

• 将端到端深度学习从无线通信适配至相干光纤通信，其中非线性与色散会限制系统性能。
• 设计一种可微分、可解释的自编码器架构，以模仿经典通信系统，从而支持对学习到的损伤特性的分析。
• 评估自编码器在无闭式解先验知识的情况下，学习补偿差分相位失真与克尔非线性的能力。
• 识别自编码器在高发射功率下的性能极限与失效模式，特别是星座图与脉冲整形收敛性问题。
• 探究尽管缺乏显式非线性结构，线性自编码器架构是否仍能有效学习非线性补偿。

提出的方法

• 自编码器采用经典数字信号处理链结构，包含可训练模块：映射器、脉冲整形器与接收滤波器，所有模块均可微分，支持端到端训练。
• 发射端执行脉冲整形与星座映射，接收端使用匹配滤波器与判决模块，所有参数通过随机梯度下降法进行优化。
• 系统在包含差分相位失真（CD）与克尔非线性（KNL）的仿真光纤链路上进行训练，损失函数采用二元交叉熵与均方误差。
• 架构中引入可调采样点数（N_adj）以控制定时对齐，提升收敛性能，尤其在低信噪比条件下表现更优。
• 通过分析学习到的脉冲波形、相位响应与星座图，增强可解释性，以便与已知解析解进行对比。
• 采用频谱效率（SE）、误比特率（BER）、误块率（BLER）与归一化均方误差（NMSE）等指标，在不同发射功率（−10 dBm 至 10 dBm）下评估模型性能。

实验结果

研究问题

• RQ1 可微分、可解释的自编码器是否能在无解析解先验知识的情况下，有效学习光纤链路中差分相位失真的补偿？
• RQ2 自编码器在缺乏闭式解的非线性损伤（如克尔非线性）上，其泛化能力能达到何种程度？
• RQ3 为何自编码器在高发射功率（如10 dBm）下无法收敛或获得性能增益，尽管在低功率下表现成功？
• RQ4 自编码器的结构——尤其是其线性设计——如何限制其学习非线性补偿的能力？
• RQ5 学习到的脉冲波形与相位响应在提升频谱效率中起到何种作用？其与已知最优滤波器相比表现如何？

主要发现

• 在0 dBm发射功率下，自编码器实现了最高4.46 bit/s/Hz的频谱效率增益，显著优于传统参考系统。
• 在低发射功率（−10 dBm）下，自编码器学习到的脉冲波形与相位响应与差分相位失真补偿的解析解高度一致，表现为抛物线相位响应与正交时间采样点。
• 学习到的星座图收敛为对称圆形结构，表明信号映射稳定且可解释。
• 在高发射功率（10 dBm）下，自编码器未能正确收敛，未出现可解释的脉冲波形或相位响应，表明在非线性区域可能存在梯度退化或无有效解空间。
• 增加可调采样点数（N_adj）可提升性能，最优值为20，超过该值性能趋于饱和，表明定时灵活性与优化稳定性之间存在权衡。
• 自编码器在学习CD补偿方面的成功表明其未来在非线性架构中学习KNL补偿具有潜力，但当前线性设计限制了其能力。