[논문 리뷰] When Attackers Meet AI: Learning-empowered Attacks in Cooperative Spectrum Sensing

Zhengping Luo, Shangqing Zhao외 3명|arXiv (Cornell University)|2019. 05. 04.

Adversarial Robustness in Machine Learning참고 문헌 69인용 수 12

한 줄 요약

이 논문은 협동 스펙트럼 센싱에서 기존 방어 메커니즘을 우회하기 위해 융합 센터의 의사결정 과정을 모의하는 서rogate 모델을 구축함으로써 지능적 공격자를 위한 새로운 학습 기반 공격 프레임워크인 학습-평가-공격(Learning-Evaluation-Beating, LEB)을 제안한다. LEB 공격은 융합 센터를 오도하는 데 최대 82%의 성공률을 기록하며, 다양한 기존 방어 기법에 대해 뚜렷한 효과를 보이며, 이에 대응해 비침습적 영향 제한 방어 기법을 도입하여 교란을 최대 80% 감소시킨다.

ABSTRACT

Defense strategies have been well studied to combat Byzantine attacks that aim to disrupt cooperative spectrum sensing by sending falsified versions of spectrum sensing data to a fusion center. However, existing studies usually assume network or attackers as passive entities, e.g., assuming the prior knowledge of attacks is known or fixed. In practice, attackers can actively adopt arbitrary behaviors and avoid pre-assumed patterns or assumptions used by defense strategies. In this paper, we revisit this security vulnerability as an adversarial machine learning problem and propose a novel learning-empowered attack framework named Learning-Evaluation-Beating (LEB) to mislead the fusion center. Based on the black-box nature of the fusion center in cooperative spectrum sensing, our new perspective is to make the adversarial use of machine learning to construct a surrogate model of the fusion center's decision model. We propose a generic algorithm to create malicious sensing data using this surrogate model. Our real-world experiments show that the LEB attack is effective to beat a wide range of existing defense strategies with an up to 82% of success ratio. Given the gap between the proposed LEB attack and existing defenses, we introduce a non-invasive method named as influence-limiting defense, which can coexist with existing defenses to defend against LEB attack or other similar attacks. We show that this defense is highly effective and reduces the overall disruption ratio of LEB attack by up to 80%.

연구 동기 및 목표

• 기존 방어 가정을 무시하는 지능적이고 적응적인 공격자에 의해 영향을 받는 협동 스펙트럼 센싱의 취약성을 해결하기 위해.
• 융합 센터의 블랙박스 성격을 악용하여 효과적이고 은밀한 공격을 수행할 수 있는 방법을 탐구하기 위해.
• 기존 방어 메커니즘에 대한 사전 지식 없이도 작동하는 일반적인 학습 기반 공격 프레임워크를 개발하기 위해.
• 존재하는 방어 기법과 보완되며 LEB 유형의 공격 영향을 완화할 수 있는 비침습적 방어 메커니즘을 제안하기 위해.
• LEB 공격과 영향 제한 방어 기법의 실제 적용 효과를 다양한 방어 전략에 대해 평가하기 위해.

제안 방법

• 공격자는 입력과 출력을 관찰함으로써 융합 센터의 의사결정 모델을 블랙박스 방식으로 추론하고 의사결정 과정의 서rogate 모델을 구축한다.
• 서rogate 모델의 정확도를 향상시키기 위해 서브모델 앙상블 기법을 활용하여 융합 센터의 행동을 정밀하게 예측한다.
• 융합 센터의 의사결정을 뒤바꾸는 최소한의 변형을 가진 악성 센싱 데이터를 생성하기 위한 일반적인 데이터 생성 알고리즘을 사용한다.
• 공격는 세 단계로 진행된다: 서rogate 모델 학습, 정밀도 평가, 악성 데이터 배포를 통한 융합 센터 오도.
• 기존 방어 시스템을 수정하지 않고도 입력-출력 행동을 분석함으로써 악성 노드의 영향을 제한하는 비침습적 메커니즘으로 설계된 영향 제한 방어 기법.
• 공격 전략을 시뮬레이션하고 대응하기 위해 적대적 기계학습의 이행성과 모델 불일치 개념을 활용한다.

실험 결과

연구 질문

• RQ1 어떻게 공격자는 융합 센터의 의사결정 논리를 학습함으로써 협동 스펙트럼 센싱의 기존 방어 기법을 효과적으로 우회할 수 있는가?
• RQ2 입력-출력 관측만으로 융합 센터의 의사결정 규칙에 대한 서rogate 모델을 얼마나 정확하게 구성할 수 있는가?
• RQ3 다양한 방어 전략에 대해 LEB 공격이 융합 센터를 오도하는 데 성공할 확률은 어느 정도인가?
• RQ4 LEB 유형의 공격에 의해 발생하는 교란을 줄이기 위해 영향 제한 방어 기법은 얼마나 효과적인가?
• RQ5 영향 제한 방어 기법은 시스템 수준의 수정 없이도 존재하는 방어 기법과 공존하고 이를 강화할 수 있는가?

주요 결과

• LEB 공격는 다양한 기존 방어 기법에 대해 융합 센터를 오도하는 데 최대 82%의 성공 비율을 기록한다.
• LEB 공격 프레임워크는 통계 모델, 기계학습 분류기, 신뢰 기반 가중치 기법에 의존하는 방어 기법에도 효과적이다.
• 제안된 영향 제한 방어 기법은 LEB 공격로 인한 총 교란 비율을 최대 80% 감소시켜 시스템의 내재성 향상에 기여한다.
• 적대적 센싱 데이터 생성 알고리즘은 기존 기울기 기반 방법 대비 평균 65%의 계산 비용 절감을 달성한다.
• 실제 환경 실험을 통해 LEB 공격가 모델 불일치와 동적 무선 환경에서의 적응적 행동을 성공적으로 악용함을 확인하였다.
• 영향 제한 방어 기법은 비침습적이며 기존 방어 기법과 원활하게 통합되어 고도화된 학습 기반 공격에 대한 보안성을 향상시킬 수 있다.