[논문 리뷰] DolphinAtack: Inaudible Voice Commands

Guoming Zhang, Chen Yan외 4명|arXiv (Cornell University)|2017. 08. 31.

Speech and Audio Processing참고 문헌 29인용 수 126

한 줄 요약

DolphinAttack은 보이지 않는 초음파 음성 명령이 비선형 하드웨어를 통해 MEMS/ECM 마이크로폰에 의해 복조되고 인기 SR 시스템에 의해 해석될 수 있어, 은밀한 활성화 및 장치 간 명령 실행을 가능하게 하며, 방어책도 제안한다.

ABSTRACT

Speech recognition (SR) systems such as Siri or Google Now have become an increasingly popular human-computer interaction method, and have turned various systems into voice controllable systems(VCS). Prior work on attacking VCS shows that the hidden voice commands that are incomprehensible to people can control the systems. Hidden voice commands, though hidden, are nonetheless audible. In this work, we design a completely inaudible attack, DolphinAttack, that modulates voice commands on ultrasonic carriers (e.g., f > 20 kHz) to achieve inaudibility. By leveraging the nonlinearity of the microphone circuits, the modulated low frequency audio commands can be successfully demodulated, recovered, and more importantly interpreted by the speech recognition systems. We validate DolphinAttack on popular speech recognition systems, including Siri, Google Now, Samsung S Voice, Huawei HiVoice, Cortana and Alexa. By injecting a sequence of inaudible voice commands, we show a few proof-of-concept attacks, which include activating Siri to initiate a FaceTime call on iPhone, activating Google Now to switch the phone to the airplane mode, and even manipulating the navigation system in an Audi automobile. We propose hardware and software defense solutions. We validate that it is feasible to detect DolphinAttack by classifying the audios using supported vector machine (SVM), and suggest to re-design voice controllable systems to be resilient to inaudible voice command attacks.

연구 동기 및 목표

• 음성 제어 시스템(VCS)을 대상으로 하는 들리지 않는 음성 명령 주입의 타당성을 시연한다.
• 초음파 변조가 마이크로폰 비선형성에 의해 복조되어 SR 시스템에 도달하는 과정을 설명한다.
• 보안 시사점을 평가하기 위해 여러 SR 시스템과 장치 플랫폼에서 공격을 검증한다.
• 들리지 않는 명령 공격을 완화하기 위한 하드웨어/소프트웨어 방어책을 제안한다.

제안 방법

• AM(진폭 변조)을 사용하여 바탕 음성 명령을 초음파 반송파에 변조한다.
• 마이크로폰 비선형성을 이용해 LPF 단계 이전에 복조하고 바닥대역(baseband) 명령을 복구한다.
• 마이크로폰 비선형성을 특성화하고 MEMS 및 ECM 마이크로폰으로 복조를 시연한다.
• 실용적 발신기(벤치탑 및 휴대용 스마트폰 기반)를 설계하여 들리지 않는 명령을 주입한다.
• 다양한 SR 시스템(Siri, Google Now, Alexa 등)에서 활성화 및 일반 제어 명령을 평가한다.
• 전송 주파수 선택, 변조 깊이, 음성 선택을 평가하여 공격을 최적화한다.

실험 결과

연구 질문

• RQ1 들려 보이지 않는 초음파 명령이 일반적인 마이크로폰 하드웨어에 의해 복조되고 SR 시스템에 의해 해독될 수 있는가?
• RQ2 장치 전반에서 DolphinAttack의 성공에 영향을 주는 하드웨어 및 소프트웨어 요인은 무엇인가?
• RQ3 주요 SR 플랫폼에서 들리지 않는 주입으로 어떤 활성화 및 제어 명령을 발행할 수 있는가?
• RQ4 그러한 들리지 않는 명령 공격을 효과적으로 탐지하거나 완화할 수 있는 방어책은 무엇인가?

주요 결과

• DolphinAttack은 초음파 반송파에서 들리지 않는 명령을 주입할 수 있으며 Siri, Google Now, Alexa와 같은 SR 시스템에 의해 해독될 수 있다.
• 소유자 음성 샘플 없이도 활성화 명령을 생성할 수 있었고, 89개 테스트 활성화 명령 유형 중 39% 성공(35건 성과).
• 공격은 7개 SR 시스템과 16대의 장치/플랫폼에서 검증되었다.
• 실험 결과 MEMS 및 ECM 마이크로폰 모두에 대해 마이크로폰 비선형성을 통해 바닥대역 신호의 성공적인 복조를 보여준다.
• 실험에는 벤치탑 및 휴대용 실용적 발신기 설계가 포함되며, 실제 공격 시나리오(예: FaceTime, 비행기 모드, 내비게이션) 가능성을 시연한다.
• 저자들은 DolphinAttack를 완화하기 위한 하드웨어/소프트웨어 방어책을 제안한다.