[論文レビュー] Examining the Effect of Explanations of AI Privacy Redaction in AI-mediated Interactions

Roshni Kaushik, Maarten Sap+1 more|arXiv (Cornell University)|Mar 25, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

この論文は、AIを介したコミュニケーションにおけるAIのプライバシー抑留の説明が、ユーザーの信頼と好みにどう影響するかを調べ、説明が知覚的なプライバシーと信頼を向上させることを示し、文脈や個人差が効果を調整する。

ABSTRACT

AI-mediated communication is increasingly being utilized to help facilitate interactions; however, in privacy sensitive domains, an AI mediator has the additional challenge of considering how to preserve privacy. In these contexts, a mediator may redact or withhold information, raising questions about how users perceive these interventions and whether explanations of system behavior can improve trust. In this work, we investigate how explanations of redaction operations can affect user trust in AI-mediated communication. We devise a scenario where a validated system removes sensitive content from messages and generates explanations of varying detail to communicate its decisions to recipients. We then conduct a user study with $180$ participants that studies how user trust and preferences vary for cases with different amounts of redacted content and different levels of explanation detail. Our results show that participants believed our system was more effective at preserving privacy when explanations were provided ($p<0.05$, Cohen's $d \approx 0.3$). We also found that contextual factors had an impact; participants relied more on explanations and found them more helpful when the system performed extensive redactions ($p<0.05$, Cohen's $f \approx 0.2$). We also found that explanation preferences depended on individual differences as well, and factors such as age and baseline familiarity with AI affected user trust in our system. These findings highlight the importance and challenge of balancing transparency and privacy in AI-mediated communications and suggest that adaptive, context-aware explanations are essential for designing privacy-aware, trustworthy AI systems.

研究の動機と目的

• 高リスクなコミュニケーションにおけるプライバシー保護型AI仲介の動機付け。
• 抑留量がユーザーの信頼と説明の好みに与える影響を探求。
• 説明が情報の非対称性を緩和するかを評価。
• 利用者の属性とAIへの馴染み具合が信頼と好みに与える影響を検討。

提案手法

• 研究者メッセージから同僚へ送信する前に私的情報を抑抑するAI仲介者を設計。
• 一般的な説明と徹底的な説明の2つの説明スタイルと説明なし条件を実装。
• 信頼と理解への文脈的影響を test するために抑留レベルを高・中・低と varied。
• Prolificを介して180名を募集し、被験者間設計と被験者内設計のユーザ研究を実施。
• 質問・抑留・説明を作成する際にLLMベースの生成と評価を使用し、プライバシー維持を検証するLLM判定者を配置。

実験結果

リサーチクエスチョン

• RQ1 collaborators に説明を提供することで彼らのシステムに対する信頼と理解が向上するか。
• RQ2 抑留された機微情報の量（抑留レベル）が collaborators の説明の好みに影響するか。
• RQ3 個人差（人口統計、AI馴染み度）は信頼と説明の好みに影響するか。

主な発見

• 説明は知覚的なプライバシー保護を高める効果を持つ（p<0.05、Cohen's d ≈ 0.3）。
• システムが広範な抑留を行った場合、説明への依存度が高くなり、説明をより有用だと感じる傾向（p<0.05、Cohen's f ≈ 0.2）。
• システムへの信頼はAI/LLMsの事前の馴染み度といった個人特性に影響される。
• 説明はエンゲージメントを高め、オープンエンドのフィードバックをよりポジティブにする傾向と相関。
• 研究は説明の詳細度とプライバシー漏洩リスクのトレードオフを確認しており、徹底的な説明はテキストでの漏洩リスクを高める可能性がある一方、抑留手続きは説明においてそれを緩和する。