[論文レビュー] SVM and Dimensionality Reduction in Cognitive Radio with Experimental Validation

Shujie Hou, Robert C. Qiu+2 more|arXiv (Cornell University)|Jun 12, 2011

Speech and Audio Processing参考文献 33被引用数 6

ひとこと要約

本稿では、測定されたWi-Fi信号を用いた認知無線のスペクトラム状態分類において、次元削減（PCA、KPCA、LMVU）とSVMを組み合わせることを提案する。1つの低次元特徴量のみを用いても、元の13次元特徴量を用いた場合と同等の分類誤差率を達成しており、次元削減が信号の内面的構造を抽出しノイズを低減することでSVMの性能向上を実現していることを示している。

ABSTRACT

There is a trend of applying machine learning algorithms to cognitive radio. One fundamental open problem is to determine how and where these algorithms are useful in a cognitive radio network. In radar and sensing signal processing, the control of degrees of freedom (DOF)---or dimensionality---is the first step, called pre-processing. In this paper, the combination of dimensionality reduction with SVM is proposed apart from only applying SVM for classification in cognitive radio. Measured Wi-Fi signals with high signal to noise ratio (SNR) are employed to the experiments. The DOF of Wi-Fi signals is extracted by dimensionality reduction techniques. Experimental results show that with dimensionality reduction, the performance of classification is much better with fewer features than that of without dimensionality reduction. The error rates of classification with only one feature of the proposed algorithm can match the error rates of 13 features of the original data. The proposed method will be further tested in our cognitive radio network testbed.

研究の動機と目的

• 機械学習、特にSVMを認知無線ネットワークに体系的かつ効果的に応用する方法を調査すること。
• 認知無線システム性能に与える信号の次元（自由度）の役割を特定すること。
• 次元削減を前処理として用いることで、SVMを用いたスペクトラム状態分類の性能が向上するかどうかを評価すること。
• 高SNR条件下での実測Wi-Fi信号を用いて、提案手法の妥当性を検証すること。
• 線形（PCA）と非線形（KPCA、LMVU）の次元削減手法を、認知無線応用におけるSVMと組み合わせて比較すること。

提案手法

• 測定されたWi-Fi信号の低次元表現を抽出するために、線形（PCA）および非線形（KPCA、LMVU）の次元削減を適用する。
• スペクトラム状態の分類に、重い尾を示すRBFカーネル（γ=1, a=1, b=1）を用いたSVM-KMツールボックスを用いる。
• LMVUにおける最適化を解くために、SeDuMi 1.1R3を用いた半定値計画法を採用し、局所等長性を保持するとともに分散を最大化する。
• 元の13次元のWi-Fi信号特徴量をPCA、KPCA、LMVUを用いて1次元に削減し、その低次元データをSVMに供給する。
• SVMに供給する元のデータと低次元データの両方における分類性能（誤警報率および見逃し率）を比較する。
• 固有値分布を分析することで、最初の数個の主成分にどれだけ有用な情報が保持されているかを評価する。

実験結果

リサーチクエスチョン

• RQ1 次元削減は、認知無線スケーラム感知におけるSVMの分類精度にどのように影響を与えるか？
• RQ2 次元削減によって得られた1つの特徴量が、複数の元の特徴量と同等の分類性能を達成できるか？
• RQ3 線形（PCA）と非線形（KPCA、LMVU）のうち、どの次元削減手法が、Wi-Fi信号分類におけるSVMと組み合わせた際に最も優れた性能を示すか？
• RQ4 実測Wi-Fi信号の固有次元数は、認知無線における機械学習の有効性にどのように影響を与えるか？
• RQ5 次元削減は特徴量削減以上の利点を提供するのか、特に低SNR領域においてノイズ低減などの付加的利点があるか？

主な発見

• 次元削減により1つの特徴量を抽出した場合、分類誤差率（誤警報率）は、元の13特徴量を用いた場合の0.06581％から0.03068％にまで低下した。
• 見逃し率は、次元削減なしの4.255％から、次元削減ありの0.9883％に低下し、顕著な性能向上が確認された。
• LMVUの最初の主成分が全分散の97％を保持しており、有用な情報の大部分が1次元に集約されていることが示された。
• 1つを超える特徴量にまで削減次元を増やしても、誤差率に顕著な改善が見られなかったため、信号の本質的構造を1つの特徴量で十分に捉えることができると示された。
• 結果から、次元削減は計算複雑性の低減に加え、ノイズと冗長性のフィルタリングにより耐障害性を向上させることが確認された。
• SVMと次元削減を組み合わせた手法は、単独のSVMを上回る性能を示し、特に見逃し率の観点から顕著な優位性を示しており、実世界の認知無線応用における前処理の価値を裏付けている。