[論文レビュー] Large Scale Radio Frequency Signal Classification

Luke Boegner, Manbir Gulati+6 more|arXiv (Cornell University)|Jul 20, 2022

Wireless Signal Modulation Classification被引用数 6

ひとこと要約

本稿では、53種類の変調方式をカバーする500万件の合成RF信号サンプル（実際の劣化要因を含む）からなるSig53データセットと、PyTorchベースのオープンソースツールキットTorchSigを紹介する。実験の結果、正則化を用いずとも、変換器（XCiT-Tiny12）が畳み込みニューラルネットワーク（EfficientNet-B4）を上回り、オンラインデータ生成とドメイン固有の拡張を組み合わせることで71.16%の正確性を達成した。

ABSTRACT

Existing datasets used to train deep learning models for narrowband radio frequency (RF) signal classification lack enough diversity in signal types and channel impairments to sufficiently assess model performance in the real world. We introduce the Sig53 dataset consisting of 5 million synthetically-generated samples from 53 different signal classes and expertly chosen impairments. We also introduce TorchSig, a signals processing machine learning toolkit that can be used to generate this dataset. TorchSig incorporates data handling principles that are common to the vision domain, and it is meant to serve as an open-source foundation for future signals machine learning research. Initial experiments using the Sig53 dataset are conducted using state of the art (SoTA) convolutional neural networks (ConvNets) and Transformers. These experiments reveal Transformers outperform ConvNets without the need for additional regularization or a ConvNet teacher, which is contrary to results from the vision domain. Additional experiments demonstrate that TorchSig's domain-specific data augmentations facilitate model training, which ultimately benefits model performance. Finally, TorchSig supports on-the-fly synthetic data creation at training time, thus enabling massive scale training sessions with virtually unlimited datasets.

研究の動機と目的

• RadioMLなど既存のRF信号データセットには多様性、現実性、再現可能性に欠ける点があるため、それらを是正する。
• 実際の劣化要因を含む合成データを用いて、大規模で多様性に富み、再現可能なRF信号分類のベンチマークを提供する。
• データ生成、拡張、学習を支援するドメイン特化型の機械学習ツールキット（TorchSig）を構築する。
• 視覚系の最先端アーキテクチャ（EfficientNet、XCiT）をRFドメインに適用し、移行可能性と性能スケーリングを評価する。
• ドメイン特化型のデータ拡張とオンライン合成データ生成が、モデルの汎化性能と性能向上に与える利点を実証する。

提案手法

• 制御された信号生成パrameterを用いて、53種類の変調方式にわたる500万件の複素数値RF信号サンプルを合成する。
• 周波数オフセット、位相ノイズ、多径フェージングなどの現実的なチャネル劣化要因を合成信号に組み込むことで、現実性を向上させる。
• 複素数値テンソル演算、ドメイン固有のデータ拡張、およびリアルタイムデータ生成をサポートするPyTorchベースのツールキットTorchSigを開発する。
• SNRの変動、時間領域でのジッタ、周波数領域でのフィルタリングなど、RF信号に特化したデータ拡張を実装する。
• 静的データ生成戦略とオンラインデータ生成戦略を用いて、Sig53データセット上で視覚系モデル（EfficientNet-B0/B4、XCiT-Tiny12）を訓練・評価する。
• モデル比較のための複雑なSNRごとの正確性曲線を避けるために、単一の正確性指標を用いる。

実験結果

リサーチクエスチョン

• RQ1 大規模で多様性に富み、現実的な合成RF信号データセットは、RF信号分類における深層学習モデルの汎化性能と性能向上に寄与するか？
• RQ2 コンピュータビジョンタスクと同様に、アーキテクチャの変更や知識 distillation を施さずに、変換器アーキテクチャがRF信号分類で畳み込みネットワークを上回るのか？
• RQ3 TorchSigに実装されたドメイン特化型のデータ拡張は、RF信号分類タスクにおけるモデルの訓練と汎化性能にどの程度寄与するか？
• RQ4 トレーニング中にオンラインで合成データを生成する手法は、静的データセット学習と比較して、モデルの収束性と性能にどのような影響を与えるか？
• RQ5 視覚系の深層学習アーキテクチャ（例：EfficientNet、XCiT）は、最小限の適応でRF信号分類ドメインに効果的に移行可能か？

主な発見

• XCiT-Tiny12は、オンラインデータ生成とドメイン固有の拡張を組み合わせて学習した場合、Sig53データセットで最高のテスト正確性71.16％を達成した。
• 正則化や畳み込みネットワークの教師モデルを追加せずとも、変換器がRF信号分類において畳み込みネットワークを上回った。これは、コンピュータビジョン分野のトレンドとは対照的である。
• EfficientNet-B4はオンライン学習で69.73％の正確性を達成し、静的データ学習に比べて著しく過学習が抑制された。静的データ学習では、検証損失に明著な過学習の兆候が見られた。
• 混同行列の結果、誤分類は主に変調方式ファミリー内（例：異なるQAMのオーダー）で発生しており、ファミリーレベルでの識別が強いことが示された。
• XCiT-Tiny12とEfficientNet-B4の性能差は、QAM信号において最も顕著で、注目機構が高SNR下の複雑な変調方式の区別に優れていることを示唆している。
• TorchSigのオンラインデータ生成とドメイン特化型拡張により、ほぼ無限に近い規模のデータで学習が可能となり、モデルの汎化性能が向上し、過学習が軽減された。