[論文レビュー] "Are you home alone?" "Yes" Disclosing Security and Privacy Vulnerabilities in Alexa Skills

Dan Su, Jiqiang Liu+3 more|arXiv (Cornell University)|Oct 21, 2020

Advanced Malware Detection Techniques参考文献 35被引用数 7

ひとこと要約

この論文は、アマゾンのAlexaスキルにおける3つの新しいプライバシーおよびセキュリティ脆弱性——過剰なリソースアクセス、隠しコード操作、隠しコンテンツ操作——を特定し、悪意あるスキルが査証を回避し、ユーザーのデータを漏洩させることを可能にする。33,744のスキルの分析と実世界での攻撃の検証を通じて、著者たちは攻撃者がバックエンドの論理とコンテンツフィードを操作し、音声インタラクションを通じて、自宅の住所など機微な情報を秘密裏に収集できることを示している。

ABSTRACT

The home voice assistants such as Amazon Alexa have become increasingly popular due to many interesting voice-activated services provided through special applications called skills. These skills, though useful, have also introduced new security and privacy challenges. Prior work has verified that Alexa is vulnerable to multiple types of voice attacks, but the security and privacy risk of using skills has not been fully investigated. In this work, we study an adversary model that covers three severe privacy-related vulnerabilities, namely,over-privileged resource access, hidden code-manipulation and hidden content-manipulation. By exploiting these vulnerabilities, malicious skills can not only bypass the security tests in the vetting process, but also surreptitiously change their original functions in an attempt to steal users' personal information. What makes the situation even worse is that the attacks can be extended from virtual networks to the physical world. We systematically study the security issues from the feasibility and implementation of the attacks to the design of countermeasures. We also made a comprehensive survey study of 33,744 skills in Alex Skills Store.

研究の動機と目的

• オープンエコシステムにおけるサードパーティのAlexaスキルが引き起こすセキュリティおよびプライバシーリスクを調査すること。
• アマゾンの査証プロセスを回避し、ユーザーのプライバシーを侵害する新たな攻撃ベクトルを同定し、実証すること。
• Alexaのスキル開発およびデプロイメントモデルにおける脆弱性の根本的原因を分析すること。
• Alexa Skills Storeにおいて、過剰なアクセス権を持つ、または悪意ある方法で操作可能なスキルの実世界の事例を調査すること。
• ボイスアシスタントプラットフォームにおけるプライバシーとセキュリティを向上させるための実行可能な対策を提言すること。

提案手法

• アマゾンのスキルストアから抽出した33,744のAlexaスキルに対して、包括的な静的および動的分析を実施し、過剰なリソースアクセスパターンを検出すること。
• スキルの説明文に正当な機能として装ったデータ漏洩を隠蔽する手法を考案・実装し、アマゾンの査証プロセスを回避する新しい攻撃を設計したこと。
• Alexaスキルに存在するバックエンド専用の更新メカニズムを悪用し、フロントエンドの発話内容を変更せずに、バックエンド論理を操作する「隠しコード操作」を実行したこと。
• ニュースフィードのソースを乗っ取ることで、ユーザーを誤導する、または有害な行動を引き起こす悪意あるコンテンツを注入する「隠しコンテンツ操作」を実証したこと。
• ネットワークトラフィックおよびユーザーインタラクションログの収集・分析を通じて、攻撃の実現可能性と隠密性を検証したこと。
• より厳格な権限制御、バックエンドの整合性チェック、コンテンツソースの検証を含む、一連の対策を提言したこと。

実験結果

リサーチクエスチョン

• RQ1 Alexaスキルにおける過剰なリソースアクセスパターンは、権限制御があるにもかかわらず、どのように不正なデータ収集を可能にするか？
• RQ2 悪意あるスキルは、スプライシングや正当に聞こえる機能説明を用いることで、アマゾンの査証プロセスをどの程度回避できるか？
• RQ3 バックエンドコードの操作は、フロントエンドインターフェースを変更せずに、スキルの振る舞いをどのように変更できるか？
• RQ4 ニューススキルのコンテンツフィードは、検出されないまま、どのようにして有害または誤解を招く情報の注入に利用可能か？
• RQ5 これらの脆弱性は、Alexa Skills Store全体にわたり、実世界でどの程度広がっており、どのような影響を及ぼしているか？

主な発見

• 33,744のスキルを分析した結果、57件の過剰なアクセス権を持つスキルが同定され、それらは明言された機能に比べて不要な個人情報を要求していた。
• データ漏洩を正当な機能（例：「パーソナライズドレコメンデーション」）として装ったことで、アマゾンの査証プロセスを回避する攻撃が実際に成功した。
• バックエンド論理を変更して、スキルの会話フローを「ジョーク」から「あなたは一人で家にいますか？」に変更することで、隠しコード操作攻撃が実証された。この操作により、静かにデータを漏洩させることができた。
• 外部フィードソースを乗っ取ることで、ニューススキルに悪意あるコンテンツを注入する隠しコンテンツ操作攻撃が成功し、信頼できない外部コンテンツに依存するリスクが明らかになった。
• 既存のセキュリティメカニズムは、初期承認後のバックエンド再評価が行われないため、これらの攻撃を検出できないことが確認された。
• 研究結果は、現在のAlexaスキルエコシステムにエンドツーエンドの整合性とアクセス制御が欠如しており、ユーザーが恒久的かつ検出不能なプライバシー侵害にさらされていることを明らかにした。