[논문 리뷰] Understanding and Mitigating the Security Risks of Voice-Controlled Third-Party Skills on Amazon Alexa and Google Home

Nan Zhang, Xianghang Mi외 4명|arXiv (Cornell University)|2018. 05. 03.

Spam and Phishing Detection참고 문헌 36인용 수 56

한 줄 요약

본 논문은 Alexa 및 Google Home의 제3자 스킬에 대한 두 가지 원격 음성 기반 공격(voice squatting 및 voice masquerading)을 식별하고, 그 실행 가능성을 입증하며, 음성 이름 스캐너와 맥락-민감 탐지기(context-sensitive detector)를 포함한 방어 메커니즘을 제안한다.

ABSTRACT

Virtual personal assistants (VPA) (e.g., Amazon Alexa and Google Assistant) today mostly rely on the voice channel to communicate with their users, which however is known to be vulnerable, lacking proper authentication. The rapid growth of VPA skill markets opens a new attack avenue, potentially allowing a remote adversary to publish attack skills to attack a large number of VPA users through popular IoT devices such as Amazon Echo and Google Home. In this paper, we report a study that concludes such remote, large-scale attacks are indeed realistic. More specifically, we implemented two new attacks: voice squatting in which the adversary exploits the way a skill is invoked (e.g., "open capital one"), using a malicious skill with similarly pronounced name (e.g., "capital won") or paraphrased name (e.g., "capital one please") to hijack the voice command meant for a different skill, and voice masquerading in which a malicious skill impersonates the VPA service or a legitimate skill to steal the user's data or eavesdrop on her conversations. These attacks aim at the way VPAs work or the user's mis-conceptions about their functionalities, and are found to pose a realistic threat by our experiments (including user studies and real-world deployments) on Amazon Echo and Google Home. The significance of our findings have already been acknowledged by Amazon and Google, and further evidenced by the risky skills discovered on Alexa and Google markets by the new detection systems we built. We further developed techniques for automatic detection of these attacks, which already capture real-world skills likely to pose such threats.

연구 동기 및 목표

• Amazon Alexa와 Google Home에서 음성 제어 제3자 스킬의 보안 위험 평가.
• rogue 스킬을 통한 원격 대규모 공격의 실행 가능성 시연.
• squatting 및 masquerading 공격을 탐지·방지하는 완화 기술 개발.

제안 방법

• 스킬 벨리데이션 및 음성 명령 해석의 취약점을 식별하기 위해 호출 및 스킬 호출 메커니즘 분석.
• 공격 실행 가능성을 평가하기 위한 사용자 연구(156명의 Amazon Echo/Google Home 사용자 설문) 및 실제 배치 연구.
• 취약성 테스트를 위한 시장에서의 음성 스쿼팅 및 워드 스쿼팅 공격 배포 개발.
• ARPABET를 이용한 음성 기반 Skill Name Scanner 구축으로 스쿼팅 위험을 스킬 간에 탐지.
• SRC(Skill Response Checker)와 UIC(User Intention Classifier)를 활용한 맥락-민감 탐지기로 마스커레이딩 공격 완화.

실험 결과

연구 질문

• RQ1 rogue 제3자 스킬을 원격으로 시작해 합법적 스킬이나 VPA 서비스로 가장할 수 있는가?
• RQ2 음성 스쿼팅 및 음성 마스커레이딩이 실제 Alexa/Google Home 배치에서 실행 가능한가?
• RQ3 사용자 경험을 저해하지 않으면서 이러한 공격을 효과적으로 탐지하고 완화할 수 있는 방어책은 무엇인가?
• RQ4 스킬 마켓과 호출 이름 전반에 걸쳐 스쿼팅 위험은 얼마나 널리 퍼져 있는가?

주요 결과

• 음성 스쿼팅은 발음이 유사하거나 의역된 이름을 등록해 호출 명령을 가로챌 수 있다(예: Capital One vs Capital Won).
• 음성 마스커레이딩은 악의적 스킬이 시스템 또는 합법적 스킬을 흉내내어 데이터 탈취나 도청을 할 수 있게 한다.
• 설문 조사에서 사용자는 자연스러운 발화를 사용하고 때때로 맥락 전환을 잘못하여 잘못된 호출 위험이 증가하며, 약 85%가 자연스러운 발화를 사용했고 28%가 의도하지 않게 스킬을 열었다.
• 실무 배치 연구에서 4개의 공격 스킬을 업로드하고 테스트하는 것이 가능했으며, 잘못 인식될 때 악의적 호출이 발생했다.
• 음성-철자 스캐너는 19,670개의 Amazon 스킬 중 4,718개의 스쿼팅-위험 스킬을 탐지해 실세계 위험이 상당함을 시사한다.
• SRC 및 UIC 탐지기는 음성 분석과 맥락 인식 의도 분류를 이용한 이중 계층 보호를 통해 마스커레이딩에 대응한다.