[논문 리뷰] An Overview of Vulnerabilities of Voice Controlled Systems

Yuan Gong, Christian Poellabauer|arXiv (Cornell University)|2018. 03. 24.

Adversarial Robustness in Machine Learning참고 문헌 17인용 수 28

한 줄 요약

이 논문은 음성 제어 IoT 시스템을 대상으로 한 음성 스푸핑 공격의 종합적 설문 조사 및 분류를 제시하며, 네 가지 공격 유형을 밝혀내었다: OS 수준, 하드웨어 수준, 기계 학습 기반 공격. 모든 공격 유형, 포함된 알려지지 않은 공격까지도 차단하기 위해 실시간 화자 검출 기반의 통합 방어 전략을 제안한다. 이 전략은 전자 신호 소스와 인간의 목소리를 구분함으로써 공격를 완화한다.

ABSTRACT

Over the last few years, a rapidly increasing number of Internet-of-Things (IoT) systems that adopt voice as the primary user input have emerged. These systems have been shown to be vulnerable to various types of voice spoofing attacks. However, how exactly these techniques differ or relate to each other has not been extensively studied. In this paper, we provide a survey of recent attack and defense techniques for voice controlled systems and propose a classification of these techniques. We also discuss the need for a universal defense strategy that protects a system from various types of attacks.

연구 동기 및 목표

• 음성 제어 IoT 시스템을 대상으로 한 최근의 음성 스푸핑 공격 기법을 체계적으로 분류하고 비교하는 것.
• 특정 공격 유형에만 보호 기능을 제공하는 기존 방어 기법의 한계를 규명하는 것.
• 다양하고 알려지지 않은 음성 스푸핑 공격을 모두 완화할 수 있는 통합 방어 전략을 제안하는 것.
• 모든 공격 벡터에 걸쳐 실시간 화자 검출을 기본 방어 계층으로 삼을 필수성에 주목하는 것.

제안 방법

• OS 수준(예: GVS, A11y, Monkey), 하드웨어 수준(예: Dolphin, IEMI), 기계 학습 기반(예: Cocaine Noodles, Hidden Voice Command), 하이브리드 공격로 나누어 음성 스푸핑 공격을 분류하는 것.
• 적대자 지식(화이트박스 대 비어드박스), 신호 생성 방법, 공격 표면(OS, 하드웨어, 또는 ML 모델) 등의 공격 구현 방식의 차이를 분석하는 것.
• 적대적 훈련, 화자 확인, 오디오 채널 격리(예: AuDroid)와 같은 기존 방어 기법을 평가하는 것.
• 신호의 물리적 소스를 감지하는 데 기반한 통합 방어 전략을 제안하는 것—전자 신호 소스와 인간의 말소리를 신호 특성으로 구분하는 방식.
• VSButton(와이파이 모션 센싱), VAuth(신체 표면 진동), 자석 센서 기반 검출(10cm 범위) 등의 기존 실시간 화자 검출 기법을 검토하는 것.
• 모든 공격가 전자로 녹음하거나 생성된 오디오를 재생하는 데 의존하므로, 전자 신호 소스의 부재를 감지하는 것이 강력한 통합 방어의 핵심이 되어야 한다고 주장하는 것.

실험 결과

연구 질문

• RQ1 OS 수준, 하드웨어 수준, 기계 학습 기반 공격의 다양한 음성 스푸핑 공격 기법은 구현 방식, 지식 요구 조건, 공격 표면에서 어떻게 다를까?
• RQ2 현재의 방어 기법은 왜 다양한 음성 스푸핑 공격에 대한 보호를 위해 부적절한가?
• RQ3 기존의 공격뿐만 아니라 알려지지 않은 음성 스푸핑 공격까지도 방어할 수 있는 통합 방어 전략을 설계할 수 있는가?
• RQ4 실시간 화자 검출을 통해 음성 명령이 실시간 화자에서 유래되었는지 전자 소스에서 유래되었는지 식별하는 데 있어 핵심적인 기술적 과제는 무엇인가?
• RQ5 사용자 착용 기기나 사용자 운동에 대한 가정 없이 실시간 화자 검출을 효과적으로 구현하는 방법은 무엇인가?

주요 결과

• 모든 음성 스푸핑 공격는 사전 녹음된, 전자적으로 생성된, 또는 적대적으로 변형된 오디오를 재생하는 데 의존하므로, 신호의 소스가 공격의 핵심 표면이 된다.
• 기계 학습 기반 공격는 특히 위험한데, 이는 공격자가 모델 아키텍처나 훈련 데이터를 알지 못해도 알려지지 않은 ASR 시스템을 우회할 수 있기 때문이다.
• 화자 확인 및 적대적 훈련과 같은 기존 방어 기법은 OS나 하드웨어 계층을 공격하는 데에는 효과적이지 않으며, 적대적 예시 자체에 취약하다.
• 적대적 훈련은 공격 기법에 대한 사전 지식과 적대적 예제의 가용성이 필요하므로, 새로운 또는 적응형 공격에 대해서는 효과적이지 않다.
• 제안된 통합 방어 전략—실시간 화자에서 온 음성 명령인지 스피커나 신호 생성기에서 온 것인지 감지하는 것—은 알려진 모든 공격 유형을 완화할 수 있는 유망한 길을 제시한다.
• 현재의 실시간 화자 검출 기법(예: VSButton, VAuth, 자석 센서 기반 검출)은 범위, 하드웨어 의존성, 환경적 가정에 의해 제한되어 있어, 더 견고하고 비침습적인 솔루션이 필요하다는 점을 시사한다.