[論文レビュー] EUCA: A Practical Prototyping Framework towards End-User-Centered Explainable Artificial Intelligence.

Weina Jin, Jianyu Fan+3 more|arXiv (Cornell University)|Feb 4, 2021

Explainable Artificial Intelligence (XAI)参考文献 76被引用数 10

ひとこと要約

本論文は、32名の一般利用者と共同で設計された12種類の使いやすい説明形式（特徴ベース、例ベース、ルールベースなど）を基盤とし、エンドユーザー中心の説明可能AI（XAI）の実用的プロトタイピングフレームワーク「EUCA」を提案する。このフレームワークは、HCIおよびAIの実務家が重要意思決定文脈において直感的で技術的知識を要しない説明を構築するためのツールキットを提供する。

ABSTRACT

The ability to explain decisions to its end-users is a necessity to deploy AI as critical decision support. Yet making AI explainable to end-users is a relatively ignored and challenging problem. To bridge the gap, we first identified twelve end-user-friendly explanatory forms that do not require technical knowledge to comprehend, including feature-, example-, and rule-based explanations. We then instantiated the explanatory forms as prototyping cards in four AI-assisted critical decision-making tasks, and conducted a user study to co-design low-fidelity prototypes with 32 layperson participants. The results verified the relevance of using the explanatory forms as building blocks of explanations, and identified their proprieties (pros, cons, applicable explainability needs, and design implications). The explanatory forms, their proprieties, and prototyping support constitute the End-User-Centered explainable AI framework EUCA. It serves as a practical prototyping toolkit for HCI/AI practitioners and researchers to build end-user-centered explainable AI. The EUCA framework is available at this http URL

研究の動機と目的

• 技術的背景を持たないエンドユーザーが理解可能なAIの説明を、重要な意思決定文脈で設計するというギャップを埋める。
• 技術的専門知識が不要な理解を要する説明形式を同定および検証する。
• 一般利用者と共同で低精細度のプロトタイプを設計することで、現実世界での関連性と使いやすさを確保する。
• HCIおよびAIの実務家がエンドユーザー中心のAI説明を構築するのを支援する構造的フレームワーク（EUCA）を開発する。

提案手法

• 認知的および使いやすさの原則に基づき、12種類のエンドユーザーに優しい説明形式（特徴ベース、例ベース、ルールベースなど）を同定した。
• 4つのAI支援意思決定タスクにおいて使用可能な、各説明形式を表すプロトタイピングカードを設計した。
• 32名の一般利用者を対象に共同設計スタディを実施し、説明形式の評価および改善を図った。
• ユーザーのフィードバックを分析し、各形式の長所・短所、適用可能な説得的ニーズ、および設計上のインプリケーションを抽出した。
• 発見を統合し、説明形式、その特性、およびプロトタイピング支援を統合した包括的なフレームワーク（EUCA）を構築した。
• EUCAフレームワークをHCIおよびAIの研究者・実務家が利用可能な実用的ツールキットとして公開した。

実験結果

リサーチクエスチョン

• RQ1 AI分野に技術的背景を持たないエンドユーザーにとって、どの種類の説明が最も理解可能で有用であるか？
• RQ2 異なる説明形式は、エンドユーザーの視点から見ると、現実世界の重要な意思決定タスクにおいてどのように機能するか？
• RQ3 実際の現場で、各説明形式の強み・弱みおよび設計上のインプリケーションは何か？
• RQ4 エンドユーザーをどのように効果的に共同設計に参加させることで、使いやすさと関連性を確保できるか？

主な発見

• 32名の一般利用者参加者が共同設計セッションにおいて、同定された12種類の説明形式を関連性があり使いやすいと評価した。
• 特徴ベース、例ベース、ルールベースの説明は、技術的知識がなくてもユーザーの理解を高める点で特に効果的であった。
• 各説明形式には明確な長所・短所（例：明確さ対複雑さ）があり、それらが適切な使用ケースの特定に役立った。
• ユーザーのフィードバックから、説明の提示において文脈の明示と視覚的シンプルさの必要性といった具体的な設計インプリケーションが明らかになった。
• 共同設計プロセスにより、説明形式が実用的XAIプロトタイピングの構築ブロックとして有効に検証された。
• EUCAフレームワークは、現実世界のAI応用においてエンドユーザー中心の説明を開発するための実用的で実行可能なツールキットとして確立された。