[论文解读] Fast Deep Learning for Automatic Modulation Classification

Sharan Ramjee, Shengtai Ju+4 more|arXiv (Cornell University)|Jan 16, 2019

Wireless Signal Modulation Classification参考文献 35被引用 136

一句话总结

本文评估五种深度神经网络架构用于自动调制分类，并开发了方法（PCA、子采样和基于SNR的训练选择）以在训练时间大幅缩减的同时将准确率降至最低。

ABSTRACT

In this work, we investigate the feasibility and effectiveness of employing deep learning algorithms for automatic recognition of the modulation type of received wireless communication signals from subsampled data. Recent work considered a GNU radio-based data set that mimics the imperfections in a real wireless channel and uses 10 different modulation types. A Convolutional Neural Network (CNN) architecture was then developed and shown to achieve performance that exceeds that of expert-based approaches. Here, we continue this line of work and investigate deep neural network architectures that deliver high classification accuracy. We identify three architectures - namely, a Convolutional Long Short-term Deep Neural Network (CLDNN), a Long Short-Term Memory neural network (LSTM), and a deep Residual Network (ResNet) - that lead to typical classification accuracy values around 90% at high SNR. We then study algorithms to reduce the training time by minimizing the size of the training data set, while incurring a minimal loss in classification accuracy. To this end, we demonstrate the performance of Principal Component Analysis in significantly reducing the training time, while maintaining good performance at low SNR. We also investigate subsampling techniques that further reduce the training time, and pave the way for online classification at high SNR. Finally, we identify representative SNR values for training each of the candidate architectures, and consequently, realize drastic reductions of the training time, with negligible loss in classification accuracy.

研究动机与目标

• 确定在一系列信噪比（SNR）下能最大化调制分类准确率的深度神经网络架构。
• 量化 CNN、DenseNet、CLDNN、LSTM 与 ResNet 在调制识别中的性能。
• 开发并评估在不显著牺牲准确性的前提下降低训练时间的策略（降维和子采样）。

提出的方法

• 在 RadioML2016.10b 数据集上，比较五种架构（CNN、DenseNet、CLDNN、LSTM、ResNet）对 10 种调制类型的表现。
• 评估高SNR和低SNR 下的性能，以确定适用于不同工作区间的架构。
• 应用 PCA 降低输入维度，并评估其对准确性和训练时间的影响。
• 对输入应用均匀、随机和幅值基的子采样，测量训练时间节省和准确性。
• 研究具有代表性的 SNR 训练值，以实现快速在线/自适应再训练，且达到最小的准确性损失。

实验结果

研究问题

• RQ1 哪些深度神经网络架构在 -20 dB 到 18 dB 的 SNR 范围内能够产生最高的调制分类准确率？
• RQ2 如何显著降低训练时间（例如通过 PCA、子采样或基于 SNR 的训练）而在分类准确率上几乎不损失？
• RQ3 CLDNN、ResNet 和 LSTM 在不同 SNR 区间的相对优势是什么？
• RQ4 降维和子采样方法如何影响在线再训练的可行性？

主要发现

• CLDNN、ResNet 和 LSTM 取得了较高的性能，在高信噪比下，LSTM 和 ResNet 的准确率约为 92%。
• ResNet 在高 SNR 下达到 92% 的准确率，训练速度快（每个 epoch 58 秒）。
• LSTM 和 CLDNN 在不同的 SNR 区间表现最佳；在低 SNR 下 CLDNN 和 ResNet 出色，在高 SNR 下 LSTM 和 ResNet 出色。
• PCA 随着维度降低线性降低训练时间；在准确率损失很小（低至 2%）的情况下，获得显著的时间节省（据报道高达约 20 倍）。
• 子采样策略（均匀、随机、幅值基）也能降低训练时间并保持准确性，取舍取决于架构和 SNR 区间。
• 选择具有代表性的训练 SNR 值（如两个 SNR）在某些架构（特别是 LSTM）下可实现显著的训练时间降低（最高可达 10x），且准确率几乎无损失。