[论文解读] "Are you home alone?" "Yes" Disclosing Security and Privacy Vulnerabilities in Alexa Skills

Dan Su, Jiqiang Liu+3 more|arXiv (Cornell University)|Oct 21, 2020

Advanced Malware Detection Techniques参考文献 35被引用 7

一句话总结

本文识别出亚马逊Alexa技能中的三个新型隐私与安全漏洞——过度授权的资源访问、隐藏的代码篡改以及隐藏的内容篡改——使恶意技能能够绕过审核并窃取用户数据。通过对33,744个技能进行分析及真实世界攻击实验，作者展示了攻击者如何操纵后端逻辑和内容源，通过语音交互秘密收集敏感信息，包括家庭住址。

ABSTRACT

The home voice assistants such as Amazon Alexa have become increasingly popular due to many interesting voice-activated services provided through special applications called skills. These skills, though useful, have also introduced new security and privacy challenges. Prior work has verified that Alexa is vulnerable to multiple types of voice attacks, but the security and privacy risk of using skills has not been fully investigated. In this work, we study an adversary model that covers three severe privacy-related vulnerabilities, namely,over-privileged resource access, hidden code-manipulation and hidden content-manipulation. By exploiting these vulnerabilities, malicious skills can not only bypass the security tests in the vetting process, but also surreptitiously change their original functions in an attempt to steal users' personal information. What makes the situation even worse is that the attacks can be extended from virtual networks to the physical world. We systematically study the security issues from the feasibility and implementation of the attacks to the design of countermeasures. We also made a comprehensive survey study of 33,744 skills in Alex Skills Store.

研究动机与目标

• 调查第三方Alexa技能在开放生态系统中带来的安全与隐私风险。
• 识别并演示可绕过亚马逊审核流程、损害用户隐私的新攻击向量。
• 分析Alexa技能开发与部署模型中漏洞的根本原因。
• 对Alexa技能商店进行调查，识别过度授权及可被恶意篡改的技能实例。
• 提出可操作的对策，以提升语音助手平台的隐私与安全性。

提出的方法

• 对来自亚马逊技能商店的33,744个Alexa技能进行全面的静态与动态分析，以检测过度授权的访问模式。
• 设计并实现一种新型攻击，通过将数据外泄伪装为技能描述中的合法功能，从而绕过亚马逊的审核流程。
• 利用Alexa技能中仅后端更新的机制，实施隐藏的代码篡改，改变实时对话流程，而无需修改前端语音指令。
• 通过劫持新闻源，成功演示隐藏的内容篡改攻击，注入恶意内容，可能误导用户或引发有害行为。
• 收集并分析网络流量及用户交互日志，以验证攻击的可行性和隐蔽性。
• 提出一组对策，包括更严格的权限控制、后端完整性检查以及内容源验证。

实验结果

研究问题

• RQ1 Alexa技能中过度授权的资源访问模式如何在权限控制下仍导致未经授权的数据收集？
• RQ2 恶意技能在多大程度上可通过混淆技术及听起来合法的功能描述来绕过亚马逊的审核流程？
• RQ3 后端代码篡改在不改变前端界面的情况下，如何用于改变技能的行为？
• RQ4 新闻类技能中的内容源在何种方式下可被利用以注入有害或误导性信息而不触发检测？
• RQ5 这些漏洞在Alexa技能商店中的真实世界普遍性及其影响程度如何？

主要发现

• 在分析的33,744个技能中，发现了57个过度授权的技能，其请求的个人信息超出其声明功能所需。
• 成功实现了一种新型攻击，通过将数据外泄伪装为合法功能（如“个性化推荐”），绕过了亚马逊的审核流程。
• 通过修改后端逻辑，将技能的对话流程从“讲笑话”更改为“你一个人在家吗？”，成功演示了隐藏的代码篡改攻击，实现隐蔽的数据外泄。
• 通过攻破其内容源，成功向新闻类技能注入恶意内容，证明了依赖未经验证的外部内容所带来的风险。
• 研究证实，现有安全机制无法检测此类攻击，原因在于初始批准后未重新评估后端逻辑。
• 研究结果表明，当前Alexa技能生态系统缺乏端到端的完整性与访问控制，使用户面临持续且无法察觉的隐私泄露风险。