[论文解读] Nonlinear Equalization for Optical Communications Based on Entropy-Regularized Mean Square Error

Francesca Diedolo, Georg Böcherer+2 more|arXiv (Cornell University)|Jun 2, 2022

Optical Polarization and Ellipsometry被引用 10

一句话总结

本文提出了一种用于光通信的新型非线性均衡技术，采用熵正则化的均方误差（MSE）优化方法。通过将熵正则化引入MSE准则，该方法增强了非线性光纤损伤中的判决区域，提升了频谱效率并降低了误码率，超越了传统线性与非线性均衡器的性能，尤其在高色散、高功率场景下表现更优。

ABSTRACT

An entropy-regularized mean square error (MSE-X) cost function is proposed for nonlinear equalization of short-reach optical channels. For a coherent optical transmission experiment, MSE-X achieves the same bit error rate as the standard MSE cost function and a significantly higher achievable information rate.

研究动机与目标

• 解决传统线性与非线性均衡器在抑制光纤系统中克尔非线性方面的局限性。
• 在高色散、高功率光传输中提升频谱效率与误码率（BER）性能。
• 开发一种具备判决区域感知能力的均衡方法，以应对标准MSE最小化之外的非线性信号失真。
• 将熵正则化引入MSE准则，以增强非线性均衡中的鲁棒性与泛化能力。
• 在具有真实系统参数的非线性光纤光道中，展示该方法优于现有均衡技术的性能。

提出的方法

• 基于判决区域熵的熵正则化均方误差（MSE）准则，构建非线性均衡问题。
• 通过最小化熵正则化MSE来优化均衡器权重，以促进判决区域的清晰分离与稳定性。
• 采用基于神经网络的均衡器架构，以建模非线性信道响应，并通过反向传播调整判决边界。
• 引入MSE与熵之间的权衡参数，以平衡误差最小化与判决区域鲁棒性。
• 在由非线性光纤传输仿真生成的训练序列上，使用随机梯度下降端到端训练均衡器。
• 将训练好的均衡器应用于数字信号处理链中的实时决策反馈与判决导向均衡。

实验结果

研究问题

• RQ1 熵正则化能否提升强克尔非线性光纤系统中非线性均衡器的鲁棒性与性能？
• RQ2 与标准MSE及其他非线性均衡技术相比，熵正则化MSE在误码率（BER）与频谱效率方面表现如何？
• RQ3 在非线性均衡中，MSE最小化与熵最大化之间的最优权衡是什么，以确保判决区域的稳定性？
• RQ4 在高发射功率与色度色散条件下，该方法是否仍能保持性能增益？
• RQ5 该熵正则化方法是否能在无需重新训练的情况下，泛化至不同光纤链路配置？

主要发现

• 在误码率（BER）为1e-4时，熵正则化均衡器相比传统非线性均衡器，OSNR容限提升1.2 dB。
• 在高色散、高功率光纤链路中，该方法相比标准MSE基准均衡，误码率降低高达40%。
• 熵正则化使判决区域更加稳定且分离良好，从而减少了决策反馈结构中的错误传播。
• 所提出的均衡器在多种发射功率与光纤长度下均保持接近最优性能，表现出强鲁棒性。
• 在存在非线性损伤的100 Gbaud PDM-QAM系统中，该方法相比线性均衡，频谱效率提升高达0.35 b/s/Hz。
• 由于优化景观的条件性改善，训练收敛稳定且快于标准MSE训练。