[論文レビュー] Why Don't You Do Something About It? Outlining Connections between AI Explanations and User Actions

Gennie Mansi, Mark Riedl|arXiv (Cornell University)|May 10, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本論文は、説明可能AI（XAI）の説明を実行可能なユーザー行動に結びつけるフレームワークを提案し、説明に含まれる10の情報カテゴリーとそれらに関連するユーザー行動を同定している。情報タイプを具体的な行動にマッピングすることで、本研究はXAIの評価を、社会的・技術的システムにおけるユーザー行動とのつながりを考慮した現実世界のユーザー主導性へと再定義している。この分野における説明内容と実際のユーザー行動との間のギャップを埋めることを目的としている。

ABSTRACT

A core assumption of explainable AI systems is that explanations change what users know, thereby enabling them to act within their complex socio-technical environments. Despite the centrality of action, explanations are often organized and evaluated based on technical aspects. Prior work varies widely in the connections it traces between information provided in explanations and resulting user actions. An important first step in centering action in evaluations is understanding what the XAI community collectively recognizes as the range of information that explanations can present and what actions are associated with them. In this paper, we present our framework, which maps prior work on information presented in explanations and user action, and we discuss the gaps we uncovered about the information presented to users.

研究の動機と目的

• XAIの説明に含めるべき情報の内容についての合意が不足していること、およびそれがユーザー行動とどのように関連するかを解決すること。
• 技術的指標にとどまらず、ユーザー行動を中心としたXAIシステムの評価を再定義すること。
• ユーザーが意味のある行動を取れるようにするための説明における情報タイプを同定・分類すること。
• 説明内容と実行可能な結果との間を結ぶ、体系的で根拠に基づいたフレームワークを提供すること。
• ユーザー主導性と社会的・技術的文脈を踏まえた説明内容と一致させるように、XAIシステムのヒューマンセンタードデザインを支援すること。

提案手法

• 著者らは、XAIに関する30篇のサーベイ論文を系統的レビューし、説明内容とユーザー行動に焦点を当てた11篇を選定した。
• 既存研究から情報タイプを統合し、特にICOおよびトゥーリング研究所の分類法を基盤とし、10のテーマ的カテゴリーに段階的に洗練させた。
• 各情報カテゴリーについて、説明から論理的に導かれるユーザー行動を明確に同定し、リスト化した。
• 反復的な分類と再定義を通じて、フレームワークをテーマ的に整合性を持たせ、ユーザー行動の目的と整合させるように開発した。
• 最終的なフレームワークは、説明情報の3つのクラスタに分類されている：モデルの露呈（モデルが意思決定をどう行っているか）、モデルの責任性（誰が作成したか、なぜ作成されたか）、モデルの文脈（ユーザーの文脈および外部システムにどう適合しているか）。
• フレームワークは、デザイナーや評価者に、説明内容を実行可能な結果に一致させるための視覚的マッピングツールとして提示されている。

実験結果

リサーチクエスチョン

• RQ1 XAIの説明は一般的にどのような情報タイプを提示しており、それらはユーザー行動とどのように関連しているか？
• RQ2 説明内容とユーザー主導性の間の接続に関する、現在の文献における主なギャップは何か？
• RQ3 現実世界の社会的・技術的システムにおける実行可能なユーザー反応を支援するために、説明内容を体系的に分類する方法は何か？
• RQ4 説明が支援すべき最も顕著なユーザー行動は何か、そしてそれらは特定の情報タイプとどのように結びつけるか？
• RQ5 XAIの評価を技術的指標から、実行可能性をコアなヒューリスティックとするようにどのように転換できるか？

主な発見

• 本研究では、3つのクラスタに分類された10の明確に区別される情報カテゴリーが同定された：モデルの露呈、モデルの責任性、モデルの文脈。
• 各情報カテゴリーについて、ユーザーが論理的に取れる実行可能な反応（例：入力データの是正、代替意思決定の求める、モデルの出力に疑問を呈する）を明確にリスト化した。
• 分析から、文献における顕著なギャップが明らかになった。多くの論文が説明タイプを記述している一方で、それらをユーザー行動や実行可能性に明示的に結びつけるものは少ない。
• フレームワークは、説明が技術的正確性や解釈可能性に基づいて評価されがちな一方で、ユーザーが意味のある干渉を可能にする能力に基づいて評価されていないことを示している。
• 本研究は、説明内容をユーザー行動と一致させることで、人間とAIの対話における信頼性、透明性、および自己決定感の向上が図れることを示している。
• 本フレームワークは、ユーザー主導の意思決定やシステムレベルの干渉を支援する能力に基づいてXAIシステムを評価するための体系的かつ再利用可能な基盤を提供している。