[论文解读] What's up with Privacy?: User Preferences and Privacy Concerns in Intelligent Personal Assistants

Lydia Manikonda, Aditya Deotale+1 more|arXiv (Cornell University)|Nov 20, 2017

Privacy, Security, and Data Protection被引用 13

一句话总结

本研究通过在线评论和调查，探讨了用户对智能个人助理（IPAs）如亚马逊Echo和谷歌Home的隐私担忧及行为。研究发现，尽管用户普遍对IPAs持积极态度，但许多人对设备持续监听表示严重担忧，导致其采取如静音麦克风等行动，且对‘始终监听’功能的知晓程度显著提升了隐私担忧水平。

ABSTRACT

The recent breakthroughs in Artificial Intelligence (AI) have allowed individuals to rely on automated systems for a variety of reasons. Some of these systems are the currently popular voice-enabled systems like Echo by Amazon and Home by Google that are also called as Intelligent Personal Assistants (IPAs). Though there are raising concerns about privacy and ethical implications, users of these IPAs seem to continue using these systems. We aim to investigate why users are concerned about privacy and how they are handling these concerns while using the IPAs. By utilizing the reviews posted online along with the responses to a survey, this paper provides a set of insights about the detected markers related to user interests and privacy challenges. The insights suggest that users of these systems irrespective of their concerns about privacy, are generally positive in terms of utilizing IPAs in their everyday lives. However, there is a significant percentage of users who are concerned about privacy and took further actions to address the related concerns. Some percentage of users expressed that they do not have any privacy concerns but when they learned about the "always listening" feature of these devices, their concern about privacy increased.

研究动机与目标

• 理解用户在存在隐私担忧的情况下仍采纳IPAs的关键驱动因素。
• 识别用户在使用语音激活助手时面临的主要隐私问题。
• 考察用户对隐私担忧的实际应对行为与采取的行动。
• 评估用户对‘始终监听’功能的知晓程度如何影响其隐私感知。

提出的方法

• 从亚马逊、百思买和谷歌搜索等来源收集并分析了31,235条亚马逊Echo的在线评论和6,150条谷歌Home的在线评论。
• 在获得IRB批准后开展调查，以深入获取用户对隐私感知和行为的看法。
• 结合机器学习技术与人工编码，从评论中提取与隐私相关的标记和用户情感。
• 利用评论数据追踪隐私担忧的随时间变化趋势，并将其与媒体事件（如2015年阿肯色州谋杀案）相关联。
• 对比在告知用户‘始终监听’功能前后其回答的差异，以衡量隐私担忧水平的变化。
• 分析用户静音麦克风的动机，重点关注隐私作为主要驱动因素。

实验结果

研究问题

• RQ1 用户在存在隐私担忧的情况下，仍使用IPAs的主要原因是什么？
• RQ2 用户在语音激活助手中识别出的最令人担忧的具体隐私问题是什么？
• RQ3 用户在实际中如何应对隐私担忧，采取了哪些具体行动？
• RQ4 用户对‘始终监听’功能的知晓程度如何影响其隐私担忧水平？
• RQ5 媒体和文化叙事在塑造用户对IPA隐私风险认知方面发挥什么作用？

主要发现

• 68.63%的调查受访者表示，设备被黑的风险是其首要隐私担忧。
• 50%在知晓设备‘始终监听’前未意识到该功能的用户，在得知后报告隐私担忧显著上升。
• 47%的调查受访者会静音其麦克风，而隐私是其采取该行为的主要原因。
• 技术不熟练的用户更可能不了解麦克风静音功能，凸显了透明度方面的差距。
• 2015年阿肯色州谋杀案发生期间，亚马逊Echo的隐私相关评论数量激增，表明媒体事件会放大用户隐私担忧。
• 尽管IPAs使用广泛，许多技术熟练用户仍不了解‘始终监听’功能，表明系统透明度亟需提升。