[论文解读] Deep Learning for Communication over Dispersive Nonlinear Channels: Performance and Comparison with Classical Digital Signal Processing

Boris Karanov, Gabriele Liga+4 more|arXiv (Cornell University)|Oct 2, 2019

Optical Network Technologies参考文献 31被引用 17

一句话总结

本文提出了一种基于SBRNN的改进型自编码器，用于色散非线性光纤IM/DD通信系统，通过优化比特到符号的映射和加权序列估计，提升了性能。该方法在保持线性计算复杂度的同时，实现了与MLSD相当的误码率（BER）性能，避免了MLSD随记忆深度指数增长的处理开销，从而可在不增加处理成本的前提下实现更高的数据速率或更长的传输距离。

ABSTRACT

In this paper, we apply deep learning for communication over dispersive channels with power detection, as encountered in low-cost optical intensity modulation/direct detection (IM/DD) links. We consider an autoencoder based on the recently proposed sliding window bidirectional recurrent neural network (SBRNN) design to realize the transceiver for optical IM/DD communication. We show that its performance can be improved by introducing a weighted sequence estimation scheme at the receiver. Moreover, we perform bit-to-symbol mapping optimization to reduce the bit-error rate (BER) of the system. Furthermore, we carry out a detailed comparison with classical schemes based on pulse-amplitude modulation and maximum likelihood sequence detection (MLSD). Our investigation shows that for a reference 42\\,Gb/s transmission, the SBRNN autoencoder achieves a BER performance comparable to MLSD, when both systems account for the same amount of memory. In contrast to MLSD, the SBRNN performance is achieved without incurring a computational complexity exponentially growing with the processed memory.

研究动机与目标

• 提升深度学习方法在非线性色散光纤信道中端到端通信系统的性能。
• 通过优化比特到符号的映射和接收端加权，解决先前SBRNN自编码器BER性能不佳的问题。
• 在相同记忆深度约束下，对比SBRNN自编码器与经典MLSD系统在性能和计算复杂度方面的表现。
• 证明深度学习方法可在显著降低复杂度的前提下，实现接近最优的性能，优于传统非线性均衡方法。
• 验证端到端可训练自编码器在具有真实世界约束的实际光学IM/DD系统中的可行性。

提出的方法

• 采用滑动窗口双向循环神经网络（SBRNN）自编码器，在整个通信链路中实现发射端与接收端的联合学习。
• 在接收端引入加权序列估计方案，通过为滑动窗口输出分配可学习或优化的权重，提升BER性能，优于均匀加权。
• 采用禁忌搜索组合优化算法寻找最优比特到符号映射，相比启发式或格雷映射，可显著降低误码率。
• 使用每解码比特的浮点运算次数（FLOPSpdb）作为指标，比较SBRNN与MLSD之间的计算复杂度。
• 设计基准系统，采用PAM调制与最大似然序列检测（MLSD），并设置与SBRNN相同的记忆深度（μ），以实现公平比较。
• 在传输距离（最高70 km）和记忆深度（η = 12, 60）范围内评估系统性能，测量硬决策FEC阈值下的BER。

实验结果

研究问题

• RQ1 基于SBRNN的自编码器是否能在色散非线性光学IM/DD信道中实现与经典MLSD相当的BER性能？
• RQ2 通过组合优化方法优化比特到符号映射，是否能提升SBRNN自编码器的BER性能，优于标准格雷映射？
• RQ3 SBRNN接收端的加权序列估计方案是否能降低BER，尤其在长距离传输中表现更优？
• RQ4 与MLSD相比，SBRNN自编码器的计算复杂度如何随信道记忆深度变化？
• RQ5 与采用MLSD的PAM系统相比，优化后的SBRNN在系统传输距离和数据速率方面能实现多大提升？

主要发现

• 在μ = 6、42 Gb/s传输速率下，当SBRNN自编码器与MLSD使用相同记忆深度时，其BER性能与MLSD相当。
• 采用优化比特到符号映射后，当处理窗口η = 60时，SBRNN自编码器在70 km内BER低于6.7%的HD-FEC阈值，优于采用MLSD的PAM4系统。
• 加权序列估计方案在长距离传输中有效降低BER，使系统在η = 12时实现50 km传输，在η = 60时实现70 km传输，且在优化映射下表现更优。
• SBRNN的计算复杂度随记忆深度呈线性增长（FLOPSpdb ∝ W），而MLSD的复杂度呈指数增长（FLOPSpdb ∝ M^μ+1），因此SBRNN在高记忆深度场景下更具可行性。
• 尽管PAM4具有更高的频谱效率，但SBRNN自编码器在传输距离和BER性能方面仍优于采用MLSD的PAM4系统，主要归因于其对噪声更高的敏感性。
• 所提出的优化方法（映射与加权）在不增加模型大小或推理复杂度的前提下，有效提升了端到端性能。