[论文解读] Low Noise Non-Linear Equalization Using Neural Networks and Belief Propagation

Etsushi Yamazaki, Nariman Farsad+1 more|arXiv (Cornell University)|May 13, 2019

Optical Network Technologies参考文献 5被引用 5

一句话总结

本文提出了一种新颖的迭代非线性均衡方案，结合神经网络（NNs）与信念传播（BP），以缓解非线性引起的失真，同时最小化噪声增强。通过在多阶段NN框架中集成BP作为不可训练层，该方法在非线性光通信与无线通信系统中，相较于最优Volterra均衡器获得0.6 dB增益，相较于未均衡系统获得1.7 dB增益，表现出卓越性能。

ABSTRACT

Nonlinearities can be introduced into communication systems by the physical components such as the power amplifier, or during signal propagation through a nonlinear channel. These nonlinearities can be compensated by a nonlinear equalizer at the receiver side. The nonlinear equalizer also operates on the additive noise, which can lead to noise enhancement. In this work we evaluate this trade-off between distortion reduction and noise-enhancement via nonlinear equalization techniques. We first, evaluate the trade-off between nonlinearity compensation and noise enhancement for the Volterra equalizer, and propose a method to determine the training SNR that optimizes this performance trade-off. We then propose a new approach for nonlinear equalization that alternates between neural networks (NNs) for nonlinearity compensation, and belief propagation (BP) for noise removal. This new approach achieves a 0.6 dB gain compared to the Volterra equalizer with the optimal training SNR, and a 1.7 dB gain compared to a system with no nonlinearity compensation.

研究动机与目标

• 分析Volterra均衡器中非线性补偿与噪声增强之间的权衡。
• 推导Volterra均衡器的噪声系数闭式表达式，以指导最优训练信噪比（SNR）的选择。
• 开发一种新的非线性均衡框架，联合抑制失真与噪声增强。
• 在具有加性噪声的非线性信道中，展示该方法相较于传统Volterra均衡器与未均衡系统的优势。

提出的方法

• 推导Volterra均衡器的数学噪声系数表达式，以量化噪声增强作为训练SNR的函数。
• 提出一种混合均衡架构，交替使用可训练神经网络进行非线性补偿，以及信念传播进行噪声消除。
• 将信念传播实现为不可训练的神经网络层，以支持通过整个系统进行端到端反向传播。
• 在BP步骤的输出端使用交叉熵损失来训练NN均衡器，实现均衡与解码的联合优化。
• 采用三阶段迭代结构：BP前的NN，随后是BP，再接额外的NN与BP阶段以细化估计。
• 利用推导出的噪声系数模型优化Volterra均衡器的训练SNR，以最小化总SNR惩罚。

实验结果

研究问题

• RQ1 对于Volterra均衡器，使非线性与噪声增强综合惩罚最小化的最优训练SNR是多少？
• RQ2 在具有加性噪声的非线性信道中，混合神经网络-信念传播架构是否能优于传统Volterra均衡器？
• RQ3 在保持有效非线性补偿的同时，非线性均衡器中噪声增强可被抑制到何种程度？
• RQ4 与单阶段或非迭代方法相比，神经网络与信念传播的迭代集成如何提升系统性能？

主要发现

• 推导出的噪声系数模型能准确预测Volterra均衡器的噪声增强惩罚（NE-penalty），在19 dB训练SNR时观察到0.35 dB的NE-penalty。
• 当训练SNR高于17 dB时，总SNR惩罚（NL-penalty + NE-penalty）保持相对恒定，表明高SNR训练为最优。
• 所提出的迭代NN-BP均衡器相较于最优训练SNR下性能最佳的Volterra均衡器，获得0.6 dB增益。
• 与未进行非线性补偿的系统相比，所提方法实现1.7 dB增益，显著提升系统性能。
• 三阶段迭代NN-BP架构优于单阶段NN与线性FIR滤波器，证实了迭代精炼的有效性。
• 将BP作为不可训练层使用，可实现对系统的有效反向传播，支持均衡与解码的联合优化。