[论文解读] Learning of Time-Frequency Attention Mechanism for Automatic Modulation Recognition

Shangao Lin, Yuan Zeng+1 more|arXiv (Cornell University)|Nov 5, 2021

Wireless Signal Modulation Classification被引用 6

一句话总结

本文提出了一种用于基于卷积神经网络（CNN）的自动调制识别（AMR）的时间-频率注意力（TFA）机制，该机制联合学习信道、频率和时间注意力，以增强特征表示。与基线模型相比，TFA机制在低信噪比（SNR）条件下将识别准确率提高了3%–9%，推理开销极低，且在RadioML2016数据集上的性能优于当前最先进方法。

ABSTRACT

Recent learning-based image classification and speech recognition approaches make extensive use of attention mechanisms to achieve state-of-the-art recognition power, which demonstrates the effectiveness of attention mechanisms. Motivated by the fact that the frequency and time information of modulated radio signals are crucial for modulation mode recognition, this paper proposes a time-frequency attention mechanism for a convolutional neural network (CNN)-based modulation recognition framework. The proposed time-frequency attention module is designed to learn which channel, frequency and time information is more meaningful in CNN for modulation recognition. We analyze the effectiveness of the proposed time-frequency attention mechanism and compare the proposed method with two existing learning-based methods. Experiments on an open-source modulation recognition dataset show that the recognition performance of the proposed framework is better than those of the framework without time-frequency attention and existing learning-based methods.

研究动机与目标

• 在低信噪比（SNR）和复杂信道环境中提升自动调制识别（AMR）的性能。
• 解决现有注意力机制未能显式建模谱图表示中时间、频率和信道依赖性的局限性。
• 设计一种轻量级注意力模块，增强基于CNN的AMR模型，同时显著降低推理成本。
• 在标准AMR基准（包括RadioML2016.10a和10b）上验证所提出的TFA机制的有效性。
• 展示在最先进方法基础上的增量性能提升，特别是在低SNR区域。

提出的方法

• TFA机制首先通过全局平均池化和可学习权重应用信道注意力，以突出输入特征图中的重要通道。
• 然后并行地在频率轴和时间轴上分别使用一维全局平均池化计算频率注意力和时间注意力。
• 通过逐元素乘法将学习到的频率和时间注意力权重与原始特征图结合，以优化特征表示。
• TFA模块被集成到两个基于CNN的AMR模型中：SCNN和SCNN2，形成TFA-SCNN和TFA-SCNN2。
• 注意力机制可端到端训练，并与主分类网络联合优化，以最小化识别误差。
• 该方法利用通过短时傅里叶变换（STFT）生成的谱图输入，以利用无线电信号的时间-频率特性。

实验结果

研究问题

• RQ1 一种联合建模信道、频率和时间维度的注意力机制是否能提升低SNR环境下的AMR性能？
• RQ2 与SE和CBAM等现有注意力模块相比，所提出的TFA机制在准确率和计算成本方面表现如何？
• RQ3 TFA机制是否能减少对相似调制类型（如8PSK与QPSK，或WBFM与AM-DSB）之间的混淆？
• RQ4 在将TFA集成到基于CNN的AMR模型时，训练时间与推理效率之间的权衡如何？
• RQ5 TFA机制是否能在最先进AMR模型基础上提供增量性能提升，特别是在低SNR条件下？

主要发现

• 所提出的TFA-SCNN模型在RadioML2016.10a数据集上于18 dB SNR时达到最高92%的识别准确率，相较于AAM-SCNN在所有SNR水平下均提升1%–3%。
• 在-8 dB至10 dB SNR范围内，TFA-SCNN在RadioML2016.10a上比基线SCNN提升5%–8%，在RadioML2016.10b上提升3%–9%。
• 在-2 dB SNR时，TFA机制将8PSK与QPSK、WBFM与AM-DSB之间的混淆识别准确率最高降低24%。
• 尽管训练时间增加了1.2 ms，TFA-SCNN仅使推理时间增加0.003 ms，与其他模型保持相当。
• TFA-SCNN仅有104k参数，少于IQCNN（2830k）和CLDNN（167k），且在所有SNR水平下均优于二者。
• 消融实验证实，信道、频率和时间注意力的组合带来了最显著的性能提升，验证了多维注意力设计的有效性。