[論文レビュー] Ignorance is Bliss? The Effect of Explanations on Perceptions of Voice Assistants

William Seymour, José M. Such|arXiv (Cornell University)|Nov 23, 2022

AI in Service Interactions被引用数 6

ひとこと要約

本研究は、ボイスアシスタントの機能に関する説明が、ユーザーの信頼、プライバシー、セキュリティの認識に与える影響を調査する。その結果、プライバシーに関する説明はプライバシー懸念を軽減するが、信頼に関する説明は信頼懸念を増大させ、ユーザーは第一者および第三者のオンライン機能を区別しており、信頼は主にデバイス製造元に結びついていることが判明した。

ABSTRACT

Voice assistants offer a convenient and hands-free way of accessing computing in the home, but a key problem with speech as an interaction modality is how to scaffold accurate mental models of voice assistants, a task complicated by privacy and security concerns. We present the results of a survey of voice assistant users (n=1314) measuring trust, security, and privacy perceptions of voice assistants with varying levels of online functionality explained in different ways. We then asked participants to re-explain how these voice assistants worked, showing that while privacy explanations relieved privacy concerns, trust concerns were exacerbated by trust explanations. Participants' trust, privacy, and security perceptions also distinguished between first party online functionality from the voice assistant vendor and third party online functionality from other developers, and trust in vendors appeared to operate independently from device explanations. Our findings point to the use of analogies to guide users, targeting trust and privacy concerns, key improvements required from manufacturers, and implications for competition in the sector.

研究の動機と目的

• 異なる方法で説明されたオンライン機能のレベルが、ユーザーがボイスアシスタントに対して抱く信頼、プライバシー、セキュリティの認識に与える影響を検討すること。
• 信頼、プライバシー、セキュリティに関する説明が、ユーザーのボイスアシスタントに対する認識に与える影響を評価すること。
• ユーザーの既存のデバイス選択が、説明や機能よりも信頼認識に与える影響の程度を調査すること。
• ユーザーがボイスアシスタントをどのように心象的にモデル化しているか、および理解のギャップが生じる場所を特定すること。
• 核心的な懸念に対処できる、より効果的でユーザー中心のボイスアシスタントの説明の設計を支援すること。

提案手法

• 1,314名のボイスアシスタントユーザーを対象にしたアンケート調査を実施し、異なるオンライン機能の構成を示したヴィニエットを提示した。
• 参加者は、オフライン、第一者オンライン、第三者オンライン機能を含む、信頼、プライバシー、セキュリティに関する説明を、さまざまな組み合わせで提示された。
• 説明は内容と複雑さを変化させ、信頼中心、プライバシー中心、および統合的説明（3E/TPS）の条件を含んだ。
• 参加者は各ヴィニエットを読んだ後、標準化された尺度に基づいて信頼、プライバシー、セキュリティの認識を評価した。
• その後、参加者はボイスアシスタントがどのように機能するかを再説明するよう求められ、彼らの心象的モデルの正確性を評価した。
• データ分析では、条件間での認識の変化を比較し、再説明との相関関係を分析することで、誤解や知識のギャップを同定した。

実験結果

リサーチクエスチョン

• RQ1 ボイスアシスタントに第一者および第三者のエンティティが関与している場合、ユーザーの信頼、プライバシー、セキュリティの認識にどのような影響を与えるか？
• RQ2 信頼、プライバシー、セキュリティに関する情報が説明に含まれることで、ユーザーの信頼、プライバシー、セキュリティの認識にどのような影響を与えるか？
• RQ3 説明や機能と比較して、ユーザーの既存のデバイス選択が信頼認識に与える影響の程度はどの程度か？
• RQ4 ユーザーがボイスアシスタントの機能を再説明する際の行動は、彼らの心象的モデルと知識のギャップをどのように反映しているか？

主な発見

• プライバシーに関する説明は、参加者のプライバシー懸念を顕著に軽減した。これは、データ取り扱いに関する明確な情報が不安を和らげられることを示している。
• 信頼に関する説明、特に熟練度を強調するものでは、信頼懸念が増大した。これは、信頼に関する説明が潜在的なリスクを強調することで逆効果をもたらす可能性があることを示唆している。
• 参加者は、第三者のオンライン機能を備えたアシスタントを、第一者またはオフライン機能のみのものよりもより懸念の多いものと認識した。これは、リスク認識における明確な差異を示している。
• 信頼に関する説明よりも、ボイスアシスタントベンダーへの信頼が信頼の予測要因として強く、ブランド評判が機能の明確さを上回ることが判明した。
• 参加者の再説明から、特にデータフローと第三者の役割に関する理解のギャップが顕著に見られ、弱い心象的モデルが確認された。
• より長い説明による認知的過負荷の証拠は得られなかった。これは、詳細な情報が必ずしも理解度や記憶力の低下を引き起こすわけではないことを示している。