[論文レビュー] What Are You Hiding? Algorithmic Transparency and User Perceptions

Aaron Springer, Steve Whittaker|arXiv (Cornell University)|Dec 7, 2018

Ethics and Social Impacts of AI参考文献 9被引用数 7

ひとこと要約

本研究は、アルゴリズムの透明性が感情予測システムに対するユーザーの認識にどのように影響するかを調査し、期待が満たされない場合に透明性が正確さの認識を低下させる一方で、予測がユーザーの期待と矛盾する場合には否定的な反応を緩和することを発見した。著者らは、制御されたユーザー実験を用いて、テキストベースの感情予測システムを対象とし、透明性研究における矛盾する結果を統合する統一モデルを提唱する。

ABSTRACT

Extensive recent media focus has been directed towards the dark side of intelligent systems, how algorithms can influence society negatively. Often, transparency is proposed as a solution or step in the right direction. Unfortunately, research is mixed on the impact of transparency on the user experience. We examine transparency in the context an interactive system that predicts positive/negative emotion from a users' written text. We unify seemingly this contradictory research under a single model. We show that transparency can negatively affect accuracy perceptions for users whose expectations were not violated by the system's prediction; however, transparency also limits the damage done when users' expectations are violated by system predictions.

研究の動機と目的

• アルゴリズムの透明性が感情予測システムにおけるユーザーの正確さ認識と信頼に与える影響を検証すること。
• 透明性に関する先行研究における矛盾する結果を解消し、ユーザー体験を向上または損なう条件を特定すること。
• ユーザーがシステムの予測について持つ期待と透明性の相互作用が、システムパフォーマンスの認識にどのように影響するかを調査すること。
• 人間-AIインタラクションにおける透明性の混合効果を説明する統一モデルの構築

提案手法

• テキストベースの感情予測システムを用いた制御されたユーザー実験を実施し、メッセージを肯定的または否定的と分類した。
• アルゴリズムの予測根拠と信頼度を表示するか非表示にする操作を用いて透明性を操作した。
• 予測公開前後におけるユーザーの正確さ認識、信頼、感情反応を測定した。
• ユーザーの期待を収集し、実際のシステム予測と比較することで期待違反の有無を評価した。
• 統計的分析を用いて、透明性が期待条件に応じて認識結果に与える影響を評価した。
• 透明性が、期待が満たされている場合には正確さの認識を低下させるが、期待が違反された場合には損害を軽減するという二重の役割を説明する統一モデルを提唱した。

実験結果

リサーチクエスチョン

• RQ1 アルゴリズムの透明性は、感情予測システムにおけるユーザーの正確さ認識にどのように影響するか？
• RQ2 透明性がユーザーの信頼を向上または損なう条件は何か？
• RQ3 ユーザーがシステム予測について持つ期待が、透明性の認識への影響に与える調節効果は何か？
• RQ4 なぜ先行研究では透明性の効果について矛盾した報告がなされているのか？
• RQ5 人間-AIインタラクションにおける透明性の影響に関する矛盾する報告を説明する統一モデルは構築可能か？

主な発見

• ユーザーの期待がシステムの予測によって違反されない場合、透明性は正確さの認識を低下させた。
• ユーザーの期待が違反された場合、透明性は否定的な感情反応を顕著に軽減し、公平性の認識を向上させた。
• 透明な説明を受けたユーザーは、予測が期待と異なる場合、より高い信頼をシステムに持つようになった。
• 本研究では、透明性が二重の効果を持つことが判明した。期待が満たされていない低衝突状況では正確さの認識を損なうが、高衝突状況ではユーザーの認識を保護する。
• 提示された統一モデルは、期待違反と非違反の状況を区別することで、先行研究における矛盾する報告をうまく統合できた。
• 透明な説明を受けた参加者は、期待が違反された状況において、誤った予測をより合理的なものと受け入れる傾向が高かった。