[论文解读] Ignorance is Bliss? The Effect of Explanations on Perceptions of Voice Assistants

William Seymour, José M. Such|arXiv (Cornell University)|Nov 23, 2022

AI in Service Interactions被引用 6

一句话总结

本研究探讨了关于语音助手功能的解释如何影响用户对信任、隐私和安全的感知。研究发现，隐私解释可减少隐私担忧，而信任解释则会增加信任担忧；此外，用户能区分第一方和第三方在线功能，且信任主要与设备制造商相关，而非所提供的解释。

ABSTRACT

Voice assistants offer a convenient and hands-free way of accessing computing in the home, but a key problem with speech as an interaction modality is how to scaffold accurate mental models of voice assistants, a task complicated by privacy and security concerns. We present the results of a survey of voice assistant users (n=1314) measuring trust, security, and privacy perceptions of voice assistants with varying levels of online functionality explained in different ways. We then asked participants to re-explain how these voice assistants worked, showing that while privacy explanations relieved privacy concerns, trust concerns were exacerbated by trust explanations. Participants' trust, privacy, and security perceptions also distinguished between first party online functionality from the voice assistant vendor and third party online functionality from other developers, and trust in vendors appeared to operate independently from device explanations. Our findings point to the use of analogies to guide users, targeting trust and privacy concerns, key improvements required from manufacturers, and implications for competition in the sector.

研究动机与目标

• 探讨不同方式解释在线功能程度的语音助手，用户对其信任、隐私和安全感知的影响。
• 评估关于信任、隐私和安全的解释如何影响用户对语音助手的感知。
• 探究用户现有的设备选择是否比解释或功能本身更深刻地影响其信任感知。
• 了解用户如何心理建模语音助手，以及其中存在的理解差距。
• 为设计更有效、以用户为中心的语音助手解释提供依据，以解决核心关切。

提出的方法

• 对1,314名语音助手用户进行了调查，通过描述不同在线功能配置的短篇故事（vignettes）呈现情境。
• 参与者接触了以不同组合呈现的信任、隐私和安全解释，包括离线、第一方在线和第三方在线功能。
• 解释内容与复杂度被系统性地调整，实验条件包括以信任为重点、以隐私为重点，以及综合解释（3E/TPS）。
• 在阅读每个短篇故事后，参与者使用标准化量表对信任、隐私和安全感知进行评分。
• 随后，要求参与者重新解释语音助手的工作原理，以评估其心理模型的准确性。
• 数据分析比较了不同条件下的感知变化，并将其与用户的重述内容相关联，以识别误解和知识空白。

实验结果

研究问题

• RQ1 语音助手中存在第一方和第三方实体如何影响用户对信任、隐私和安全的感知？
• RQ2 在解释中提供信任、隐私和安全信息如何影响用户对信任、隐私和安全的感知？
• RQ3 与解释或功能相比，用户现有的设备选择在多大程度上影响其信任感知？
• RQ4 用户对语音助手功能的重述如何反映其心理模型及知识空白？

主要发现

• 隐私解释显著降低了参与者对隐私的担忧，表明关于数据处理的清晰信息可缓解焦虑。
• 信任解释，尤其是强调能力的解释，反而增加了信任担忧，表明信任解释可能适得其反，反而突显潜在风险。
• 用户认为具有第三方在线功能的助手比仅具备第一方或离线功能的助手更令人担忧，显示出对风险感知的明显区分。
• 对语音助手厂商的信任是信任感知的更强预测因子，超过任何提供的解释，表明品牌声誉在信任感知中占主导地位。
• 参与者的重述揭示了理解上的显著空白，尤其是在数据流和第三方角色方面，凸显了心理模型的薄弱。
• 研究未发现更长解释导致认知过载的证据，表明更详细的信息并不必然降低理解或记忆效果。