[논문 리뷰] Machine Learning Based Cyber Attacks Targeting on Controlled Information: A Survey

Yuantian Miao, Chao Chen외 4명|arXiv (Cornell University)|2021. 02. 16.

Network Security and Intrusion Detection참고 문헌 133인용 수 14

한 줄 요약

이 종합 검토는 기계 학습 기반의 도용 공격에 대해 제어된 정보—사용자 활동, 기계 학습 모델, 인증 데이터 등—을 대상으로 하는 다섯 단계 공격 방법론을 분석함으로써, 탐지, 방해, 격리 방식의 방어 전략을 제안한다. 도용 공격의 은밀성과 탐지 어려움에 대한 과제를 강조하며, 기계 학습 기반 시스템에서 민감한 정보를 보호하기 위한 향후 연구 방향을 제시한다.

ABSTRACT

Stealing attack against controlled information, along with the increasing number of information leakage incidents, has become an emerging cyber security threat in recent years. Due to the booming development and deployment of advanced analytics solutions, novel stealing attacks utilize machine learning (ML) algorithms to achieve high success rate and cause a lot of damage. Detecting and defending against such attacks is challenging and urgent so that governments, organizations, and individuals should attach great importance to the ML-based stealing attacks. This survey presents the recent advances in this new type of attack and corresponding countermeasures. The ML-based stealing attack is reviewed in perspectives of three categories of targeted controlled information, including controlled user activities, controlled ML model-related information, and controlled authentication information. Recent publications are summarized to generalize an overarching attack methodology and to derive the limitations and future directions of ML-based stealing attacks. Furthermore, countermeasures are proposed towards developing effective protections from three aspects -- detection, disruption, and isolation.

연구 동기 및 목표

• 기계 학습 기반의 도용 공격이 사이버보안 분야에서 증가하는 위협임을 분석하는 것.
• 사용자 활동, 기계 학습 모델 관련 데이터, 인증 정보의 세 가지 유형의 제어된 정보를 분류하고 검토하는 것.
• 일반화된 공격 방법론을 기반으로 기계 학습 기반 도용 공격의 한계와 향후 연구 방향을 규명하는 것.
• 탐지, 방해, 격리 기반의 방어 기법을 제안하고 평가하여 이러한 공격을 완화하는 것.
• 이러한 공격의 은밀성과 높은 성공률로 인해 탐지 및 보호 기능 향상의 긴급성이 강조되는 것.

제안 방법

• 다섯 단계 공격 방법론을 제안함: 정찰, 데이터 수집, 특징 공학, 목표 공격, 평가.
• 기계 학습 기반 도용 공격을 두 가지 방식으로 분류함: 기계 학습 모델을 통한 정보 도용, 기계 학습 모델 자체의 재구성(모델 재구성).
• 학습 데이터 및 모델 파라미터를 보호하기 위해 차등 프라이버시(전역, 국지, 분산) 기법을 검토함.
• 모델 역공학 공격을 방해하기 위해 굵은 수준의 예측과 신뢰도 마스킹을 통한 출력 편향 기법을 도입함.
• 정규화 및 왜곡 기법을 적용하여 접근 가능한 데이터 소스 내 민감 정보를 숨김.
• 공격자가 고급 특징 공학 및 기계 학습 기반 분석을 수행하는 것을 방지하기 위해 적대적 훈련을 강력한 정규화 기법으로 활용함.

실험 결과

연구 질문

• RQ1 기계 학습 기반 도용 공격는 어떻게 제어된 사용자 활동, 기계 학습 모델, 인증 정보를 체계적으로 대상으로 하는가?
• RQ2 다양한 유형의 제어된 정보에서 공통적으로 악용되는 취약점은 무엇인가?
• RQ3 차등 프라이버시와 출력 편향 기법은 모델 역공학 및 멤버십 추론 공격에 효과적으로 어떻게 작용하는가?
• RQ4 현재의 방어 기법은 데이터 기밀성 확보와 서비스 기능 유지를 동시에 유지하는 데 어떤 한계를 지니는가?
• RQ5 기계 학습 기반 정보 도용 공격의 은밀성과 진화하는 성격을 해결하기 위해 필요한 향후 연구 방향은 무엇인가?

주요 결과

• 기계 학습 기반 도용 공격는 은밀한 성격으로 인해 점점 더 효과적이며, 기존 보안 기법을 쉽게 우회함.
• 모델 재구성 공격는 특히 쿼리 접근이 가능한 경우, MLaaS 플랫폼에서 모델 파라미터와 학습 데이터를 성공적으로 추출할 수 있음.
• 기록 수준의 차등 프라이버시는 파rameter 수준의 DP보다 GAN 기반 공격에 더 강력한 보호 기능을 제공하지만, 둘 다 정보 泄露를 감소시킴.
• 粗 granularity 예측과 신뢰도 마스킹을 통한 출력 편향은 모델 역공학 공격의 성공률을 크게 감소시킴.
• 적대적 훈련과 왜곡 기법은 공격자가 고급 특징 공학을 수행하는 것을 방해하는 효과적인 정규화 기법으로 기능함.
• 동적 권한 제어 및 접근 제한을 통한 격리는 정찰 단계를 효과적으로 차단하지만, 과도하게 사용할 경우 서비스 기능 저하의 위험이 있음.