[论文解读] Deep Learning Based Sphere Decoding

Mostafa Mohammadkarimi, Mehrtash Mehrabi+2 more|arXiv (Cornell University)|Jul 6, 2018

Advanced Wireless Communication Techniques参考文献 30被引用 3

一句话总结

该论文提出了一种基于深度学习的球形检测算法，利用深度神经网络（DNN）学习最优解调超球半径，在高维MIMO系统中实现高阶调制时，显著降低计算复杂度，同时在广泛的信噪比（SNR）范围内达到近乎最大似然（ML）性能。

ABSTRACT

In this paper, a deep learning (DL)-based sphere decoding algorithm is proposed, where the radius of the decoding hypersphere is learned by a deep neural network (DNN). The performance achieved by the proposed algorithm is very close to the optimal maximum likelihood decoding (MLD) over a wide range of signal-to-noise ratios (SNRs), while the computational complexity, compared to existing sphere decoding variants, is significantly reduced. This improvement is attributed to DNN's ability of intelligently learning the radius of the hypersphere used in decoding. The expected complexity of the proposed DL-based algorithm is analytically derived and compared with existing ones. It is shown that the number of lattice points inside the decoding hypersphere drastically reduces in the DL-based algorithm in both the average and worst-case senses. The effectiveness of the proposed algorithm is shown through simulation for high-dimensional multiple-input multiple-output (MIMO) systems, using high-order modulations.

研究动机与目标

• 解决高维MIMO系统中高阶调制下传统球形检测的高计算复杂度问题。
• 克服固定或启发式半径选择方法导致的格点搜索过多或解码失败的局限性。
• 利用深度学习构建智能、数据驱动的半径选择机制，以最小化解调超球内的格点数量。
• 在显著降低平均和最坏情况下的解码复杂度的同时，实现接近最优的最大似然解码性能。
• 实现球形检测在实际高维系统（包括大规模MIMO和多用户通信）中的高效应用。

提出的方法

• 离线训练深度神经网络（DNN），将信道矩阵和接收信号映射为一组学习得到的解调超球半径。
• 将DNN的输出结果用作球形检测的半径，替代传统的半径选择方法（如Babai估计或迭代半径搜索）。
• 将球形检测的迭代次数限制在预设的最大值，避免SDIRS中的顺序搜索，从而降低复杂度。
• 利用DNN的通用逼近能力，建模信道状态、噪声与最优半径之间复杂的非线性关系。
• 通过伽马函数及超球内格点的概率分布，对所提算法的期望复杂度进行理论推导。
• 将DNN计算开销和次优检测的回退机制整合到总期望复杂度模型中，确保与现有方法的公平比较。

实验结果

研究问题

• RQ1 深度神经网络能否在高维MIMO系统中有效学习球形检测的最优解调半径？
• RQ2 与传统方法相比，基于DNN的半径选择在解码复杂度和误比特率（BER）性能方面表现如何？
• RQ3 所提深度学习球形检测算法的理论期望复杂度是多少？其随系统参数的变化趋势如何？
• RQ4 与传统球形检测相比，DNN在多大程度上减少了解调超球内的格点数量？
• RQ5 所提方法是否能在高阶MIMO系统中以显著降低的计算复杂度实现近乎最大似然的性能？

主要发现

• 所提深度学习球形检测在广泛的SNR范围内，其误比特率（BER）性能与最大似然检测（MLD）几乎无法区分。
• 解调超球内格点的平均数量降低至0.1761以下（非对数尺度），表明复杂度接近恒定或亚线性增长。
• 所提算法的期望复杂度通过理论推导得出，且低于现有方法，尤其在平均SNR低于23 dB时更为显著。
• 所提算法的复杂度指数低于文献[32]中的算法，证实了计算效率的理论提升。
• 由于智能半径选择，解码失败概率几乎为零，且无需多次迭代调整半径。
• 基于DNN的方法通过智能学习最小化需搜索格点数的半径值，显著降低了最坏情况和平均情况下的复杂度。