[논문 리뷰] "Are you home alone?" "Yes" Disclosing Security and Privacy Vulnerabilities in Alexa Skills

Dan Su, Jiqiang Liu외 3명|arXiv (Cornell University)|2020. 10. 21.

Advanced Malware Detection Techniques참고 문헌 35인용 수 7

한 줄 요약

이 논문은 아마존 알렉사 스킬에서의 세 가지 새로운 프라이버시 및 보안 취약점을 규명한다—과도한 자원 접근, 숨겨진 코드 수정, 숨겨진 콘텐츠 수정—이를 통해 악성 스킬이 검토 절차를 우회하고 사용자 데이터를 유출할 수 있음을 보여준다. 33,744개의 스킬을 분석하고 실제 공격을 수행한 결과, 공격자는 백엔드 로직과 콘텐츠 피드를 조작하여 음성 상호작용을 통해 집 주소와 같은 민감한 정보를 도용할 수 있음을 입증하였다.

ABSTRACT

The home voice assistants such as Amazon Alexa have become increasingly popular due to many interesting voice-activated services provided through special applications called skills. These skills, though useful, have also introduced new security and privacy challenges. Prior work has verified that Alexa is vulnerable to multiple types of voice attacks, but the security and privacy risk of using skills has not been fully investigated. In this work, we study an adversary model that covers three severe privacy-related vulnerabilities, namely,over-privileged resource access, hidden code-manipulation and hidden content-manipulation. By exploiting these vulnerabilities, malicious skills can not only bypass the security tests in the vetting process, but also surreptitiously change their original functions in an attempt to steal users' personal information. What makes the situation even worse is that the attacks can be extended from virtual networks to the physical world. We systematically study the security issues from the feasibility and implementation of the attacks to the design of countermeasures. We also made a comprehensive survey study of 33,744 skills in Alex Skills Store.

연구 동기 및 목표

• 오픈 생태계에서 제3자 알렉사 스킬이 초래하는 보안 및 프라이버시 위험을 조사하기 위해.
• 아마존의 검토 절차를 우회하고 사용자 프라이버시를 침해하는 새로운 공격 벡터를 규명하고 시연하기 위해.
• 알렉사 스킬 개발 및 배포 모델의 취약점의 근본 원인을 분석하기 위해.
• 실제 알렉사 스킬 스토어에서 과도한 접근 권한과 악성으로 수정 가능한 스킬의 사례를 조사하기 위해.
• 음성 보조 플랫폼의 프라이버시 및 보안을 향상시키기 위한 실천 가능한 대응 조치를 제안하기 위해.

제안 방법

• 아마존 스킬 스토어에서 확보한 33,744개의 알렉사 스킬에 대해 종합적인 정적 및 동적 분석을 수행하여 과도한 접근 권한 패tern을 탐지하였다.
• 스킬 설명에 정상적인 功能처럼 보이게 데이터 유출을 위장함으로써 아마존의 검토 절차를 우회하는 새로운 공격을 설계하고 구현하였다.
• 알렉사 스킬의 백엔드 전용 업데이트 메커니즘의 특성을 악용하여 숨겨진 코드 수정을 수행함으로써, 프론트엔드 발화 내용을 변경하지 않고도 실시간 대화 흐름을 변경하였다.
• 뉴스 피드 소스를 악용하여 악성 콘텐츠를 삽입함으로써 숨겨진 콘텐츠 수정 공격을 시연하였다. 이는 사용자를 오도하거나 해로운 행동을 유도할 수 있다.
• 네트워크 트래픽과 사용자 상호작용 로그를 수집하고 분석하여 공격의 타당성과 은밀함을 검증하였다.
• 더 엄격한 권한 강제 실행, 백엔드 무결성 검사, 콘텐츠 소스 검증을 포함한 대응 조치 세트를 제안하였다.

실험 결과

연구 질문

• RQ1 알렉사 스킬에서 과도한 자원 접근 패턴은 허가된 권한 조건에도 불구하고 어떻게 비정상적인 데이터 수집을 가능하게 하는가?
• RQ2 악성 스킬은 어떻게 가짜 기능 설명과 같은 정상적인 기능처럼 보이게 함으로써 아마존의 검토 절차를 우회할 수 있는가?
• RQ3 백엔드 코드 수정은 프론트엔드 인터페이스를 변경하지 않고 스킬의 동작 방식을 어떻게 변경할 수 있는가?
• RQ4 뉴스 스킬의 콘텐츠 피드는 어떻게 악성 또는 오도성 정보를 삽입하여 감지되지 않도록 유도할 수 있는가?
• RQ5 이러한 취약점은 알렉사 스킬 스토어 전반에서 얼마나 널리 퍼져 있으며, 실제 영향은 어떠한가?

주요 결과

• 분석한 33,744개 스킬 중 57개의 과도한 접근 권한을 가진 스킬을 식별하였으며, 이는 해당 스킬의 기능 설명에 비해 불필요하게 많은 개인 정보를 요청하고 있었다.
• 데이터 유출 기능을 '개인화된 추천'과 같이 정상적인 기능처럼 보이게 하여 아마존의 검토 절차를 우회하는 데 성공한 새로운 공격을 실제로 구현하였다.
• 백엔드 로직을 수정하여 '농담' 대화 흐름을 '혼자서 집에 있는가요?'로 변경함으로써 숨겨진 코드 수정 공격을 시연하였으며, 이는 도청이 가능한 은밀한 데이터 유출을 가능하게 하였다.
• 피드 소스를 해킹하여 뉴스 스킬에 악성 콘텐츠를 삽입함으로써 숨겨진 콘텐츠 수정 공격이 성공적으로 작동하였으며, 이는 외부 신뢰할 수 없는 콘텐츠에 의존할 경우의 위험을 입증하였다.
• 기존 보안 메커니즘이 초기 승인 후 백엔드 재검토가 없기 때문에 이러한 공격을 탐지하지 못함을 확인하였다.
• 결과적으로 현재 알렉사 스킬 생태계는 종단 간 무결성과 접근 제어가 부족하여, 사용자가 지속적이고 감지되지 않는 프라이버시 침해에 노출되어 있음을 드러냈다.