[論文レビュー] What's up with Privacy?: User Preferences and Privacy Concerns in Intelligent Personal Assistants

Lydia Manikonda, Aditya Deotale+1 more|arXiv (Cornell University)|Nov 20, 2017

Privacy, Security, and Data Protection被引用数 13

ひとこと要約

本研究は、アマゾン・エコーとグーグル・ホームなどのインテリジェント・パーソナルアシスタント（IPA）に関するユーザーのプライバシー懸念と行動を、オンラインレビューとアンケートを用いて調査している。ユーザーはIPAに対して一般的に肯定的であるが、多くの人が常にリッスンしているという点に顕著なプライバシー懸念を示しており、マイクのミュートなどの行動をとっている。特に『常にリッスン』しているという事実の認識が、懸念レベルを著しく高めることが明らかになった。

ABSTRACT

The recent breakthroughs in Artificial Intelligence (AI) have allowed individuals to rely on automated systems for a variety of reasons. Some of these systems are the currently popular voice-enabled systems like Echo by Amazon and Home by Google that are also called as Intelligent Personal Assistants (IPAs). Though there are raising concerns about privacy and ethical implications, users of these IPAs seem to continue using these systems. We aim to investigate why users are concerned about privacy and how they are handling these concerns while using the IPAs. By utilizing the reviews posted online along with the responses to a survey, this paper provides a set of insights about the detected markers related to user interests and privacy challenges. The insights suggest that users of these systems irrespective of their concerns about privacy, are generally positive in terms of utilizing IPAs in their everyday lives. However, there is a significant percentage of users who are concerned about privacy and took further actions to address the related concerns. Some percentage of users expressed that they do not have any privacy concerns but when they learned about the "always listening" feature of these devices, their concern about privacy increased.

研究の動機と目的

• ユーザーがプライバシー懸念があるにもかかわらずIPAを採用する主な要因を理解すること。
• 音声アクティベートされたアシスタントを使用する際、ユーザーが直面する主なプライバシー問題を特定すること。
• プライバシー懸念に対するユーザーの行動や対応を調査すること。
• 『常にリッスン』機能の認識がユーザーのプライバシー認識に与える影響を評価すること。

提案手法

• アマゾン、ベストバイ、グーグル検索などのソースから、アマゾン・エコーのオンラインレビュー31,235件とグーグル・ホームの6,150件を収集・分析した。
• IRB承認を得たアンケートを実施し、ユーザーの認識とプライバシー行動に関する詳細な洞察を収集した。
• 機械学習技術と人間によるコーディングを組み合わせ、レビューからプライバシー関連のマーカーとユーザーの感情を抽出した。
• レビューのデータを用いて、マスコミイベント（例：アーカンソー州殺人事件）と関連付けて、プライバシー懸念の時間的トレンドを追跡した。
• ユーザーに『常にリッスン』機能について説明した前後で回答を比較し、プライバシー懸念レベルの変化を測定した。
• マイクミュートの動機を分析し、特にプライバシーが主な要因であることに焦点を当てた。

実験結果

リサーチクエスチョン

• RQ1 ユーザーがプライバシー懸念があるにもかかわらずIPAを使用する主な理由は何か？
• RQ2 ユーザーが音声アクティベートされたアシスタントにおいて最も懸念している具体的なプライバシー問題は何か？
• RQ3 実際の使用においてユーザーはどのようにプライバシー懸念に対処し、どのような行動をとるか？
• RQ4 『常にリッスン』機能の認識が、ユーザーのプライバシー懸念レベルにどのように影響するか？
• RQ5 マスコミや文化的ナラティブは、ユーザーがIPAのプライバシーリスクを認識するのをどのように形作っているか？

主な発見

• アンケート回答者の68.63％が、デバイスがハッキングされるリスクを最も深刻なプライバシー懸念として挙げた。
• デバイスが『常にリッスン』していることを知らないユーザーの50％が、この事実を学んだ後、プライバシー懸念が著しく上昇したと報告した。
• アンケート回答者の47％がマイクをミュートしており、その主な理由としてプライバシーが挙げられた。
• 技術的に不慣れなユーザーは、マイクミュート機能の存在を知らない傾向にあり、透明性のギャップが浮き彫りになった。
• 2015年のアーカンソー州殺人事件の時期に、アマゾン・エコーのプライバシー関連レビューが急増した。これは、マスコミイベントがプライバシー懸念を拡大させることを示唆している。
• 広範な使用にもかかわらず、多くの技術的に熟練したユーザーが『常にリッスン』機能を把握していないことが判明し、システムの透明性向上の必要性が浮き彫りになった。