[논문 리뷰] SVM and Dimensionality Reduction in Cognitive Radio with Experimental Validation

Shujie Hou, Robert C. Qiu외 2명|arXiv (Cornell University)|2011. 06. 12.

Speech and Audio Processing참고 문헌 33인용 수 6

한 줄 요약

이 논문은 측정된 Wi-Fi 신호를 사용하여 인지 방송 스펙트럼 상태 분류를 위해 차원 축소(PCA, KPCA, LMVU)를 SVM과 조합하는 방법을 제안한다. 단 한 개의 축소된 특징만으로도 원래의 13개 특징을 사용할 때와 동일한 분류 오차율을 달성하며, 이는 차원 축소가 내재된 신호 구조를 추출하고 노이즈를 감소시켜 SVM 성능을 향상시킨다는 것을 보여준다.

ABSTRACT

There is a trend of applying machine learning algorithms to cognitive radio. One fundamental open problem is to determine how and where these algorithms are useful in a cognitive radio network. In radar and sensing signal processing, the control of degrees of freedom (DOF)---or dimensionality---is the first step, called pre-processing. In this paper, the combination of dimensionality reduction with SVM is proposed apart from only applying SVM for classification in cognitive radio. Measured Wi-Fi signals with high signal to noise ratio (SNR) are employed to the experiments. The DOF of Wi-Fi signals is extracted by dimensionality reduction techniques. Experimental results show that with dimensionality reduction, the performance of classification is much better with fewer features than that of without dimensionality reduction. The error rates of classification with only one feature of the proposed algorithm can match the error rates of 13 features of the original data. The proposed method will be further tested in our cognitive radio network testbed.

연구 동기 및 목표

• 기계 학습, 특히 SVM가 인지 방송 네트워크에 체계적으로 적용될 수 있는 방법을 조사하기 위해.
• 인지 방송 시스템 성능에 영향을 주는 신호 차원(자유도)의 역할을 규명하기 위해.
• 차원 축소가 SVM 기반 스펙트럼 상태 분류의 성능 향상에 미치는 영향을 평가하기 위해.
• 고SNR 조건에서 실측된 Wi-Fi 신호를 사용하여 제안된 방법을 검증하기 위해.
• 선형 및 비선형 차원 축소 기법(PCA, KPCA, LMVU)을 SVM와 함께 사용했을 때 인지 방송 응용 분야에서의 성능을 비교하기 위해.

제안 방법

• 측정된 Wi-Fi 신호의 저차원 표현을 추출하기 위해 선형(PCA) 및 비선형(KPCA, LMVU) 차원 축소를 적용한다.
• 스펙트럼 상태 분류를 위해 체중이 두꺼운 RBF 커널(γ=1, a=1, b=1)을 사용하는 SVM-KM 도구박스를 활용한다.
• 지표적 프로그래밍을 통해 SeDuMi 1.1R3를 사용하여 LMVU의 최적화 문제를 해결하며, 국소等장성과 분산 최대화를 유지한다.
• 원래의 13차원 Wi-Fi 신호 특징을 PCA, KPCA, LMVU를 사용해 한 차원으로 축소한 후, 이를 SVM에 입력한다.
• 원래 데이터와 축소된 데이터를 SVM에 입력했을 때의 분류 성능(거짓 경고율 및 누락 탐지율)을 비교한다.
• 고유값 분포 분석을 통해 첫 번째 주요 성분에 얼마나 많은 유용한 정보가 유지되었는지 평가한다.

실험 결과

연구 질문

• RQ1 차원 축소는 인지 방송 스펙트럼 감지에서 SVM의 분류 정확도에 어떤 영향을 미치는가?
• RQ2 차원 축소를 통해 추출한 단일 특징이 다수의 원래 특징과 동일한 분류 성능을 달성할 수 있는가?
• RQ3 SVM과 함께 사용했을 때 선형(PCA)과 비선형(KPCA, LMVU) 차원 축소 기법 중 어느 것이 Wi-Fi 신호 분류에서 가장 높은 성능을 내는가?
• RQ4 실제 측정된 Wi-Fi 신호의 내재적 차원은 인지 방송에서 기계 학습의 효과성에 어떤 영향을 미치는가?
• RQ5 차원 축소는 특징 수 줄이기 외에도 노이즈 제거 등의 추가적 이점(특히 저SNR 환경에서)을 제공하는가?

주요 결과

• 차원 축소를 통해 유일한 특징을 추출한 결과, 분류 오차율(거짓 경고율)은 원래 13개 특징을 사용할 때의 0.06581%에서 0.03068%로 감소하였다.
• 누락 탐지율은 차원 축소 없이 사용할 경우 4.255%에서 차원 축소를 적용한 후 0.9883%로 감소하여 뚜렷한 성능 향상을 보였다.
• LMVU에서 첫 번째 주성분이 총 분산의 97%를 유지하여 대부분의 유용한 정보가 단일 차원에 압축되어 있음을 입증하였다.
• 한 개를 초과하는 축소된 특징 수를 늘여도 오차율 향상이 유의미하게 관찰되지 않아, 단일 특징만으로도 필수적인 신호 구조를 충분히 포괄할 수 있음을 시사하였다.
• 결과적으로 차원 축소가 계산 복잡도를 줄이는 것 외에도 노이즈와 중복을 걸러내어 강인성을 향상시킨다는 점이 확인되었다.
• SVM과 차원 축소를 조합한 방법은 독립적인 SVM보다 뛰어난 성능을 보이며, 특히 누락 탐지율 측면에서 뚜렷한 우수성을 보여주어 실생활 인지 방송 응용 분야에서 사전 처리의 가치를 입증한다.