[論文レビュー] Designer-User Communication for XAI: An epistemological approach to discuss XAI design

Juliana Jansen Ferreira, Mateus de Souza Monteiro|arXiv (Cornell University)|May 17, 2021

Big Data and Business Intelligence被引用数 4

ひとこと要約

本論文は、XAI（説明可能なAI）設計におけるAIデザイナー、開発者、エンドユーザー間の初期段階のコミュニケーションを実務化するため、象徴的メッセージ（Signifying Message）概念を用いた認識論的枠組みを提案する。このツールをヘルスケア分野のAI事例に適用することで、説明に関する共有理解が共同で構築され、ステークホルダー間の整合性が向上し、初期段階からより人間中心のXAI開発が可能になることが示された。

ABSTRACT

Artificial Intelligence is becoming part of any technology we use nowadays. If the AI informs people's decisions, the explanation about AI's outcomes, results, and behavior becomes a necessary capability. However, the discussion of XAI features with various stakeholders is not a trivial task. Most of the available frameworks and methods for XAI focus on data scientists and ML developers as users. Our research is about XAI for end-users of AI systems. We argue that we need to discuss XAI early in the AI-system design process and with all stakeholders. In this work, we aimed at investigating how to operationalize the discussion about XAI scenarios and opportunities among designers and developers of AI and its end-users. We took the Signifying Message as our conceptual tool to structure and discuss XAI scenarios. We experiment with its use for the discussion of a healthcare AI-System.

研究の動機と目的

• データサイエンティストを超えたエンドユーザーを含むステークホルダーによるXAI設計のギャップを埋める。
• 初期AIシステム開発段階において、デザイナー、開発者、エンドユーザー間でXAIシナリオに関する議論を実務化する。
• XAI説明設計における認識論的整合性を支援する概念的枠組みを提示する。
• ヘルスケア分野のAIシステム文脈において、フレームワークを実践的応用を通じて検証する。

提案手法

• 象徴的メッセージフレームワークを、多様なステークホルダー間でのAI説明に関するコミュニケーションを構造化する概念的ツールとして用いる。
• この手法は、デザイナー、開発者、エンドユーザーが共同でAI出力の意味を解釈し、明確化する共同設計セッションを含む。
• フレームワークは、AI動作に関する知識がいかに構築され、共有されるかという認識論的側面に重点を置く。
• 象徴的メッセージの応用を実証するため、ヘルスケアAIシステムを事例として用いる。
• 反復的で対話的な設計プロセスを支援するため、ヒューマンコンピュータインタラクション（HCI）とAI説明可能性の知見を統合する。
• ステークホルダーが文脈的・分野特異的ニーズに基づいて、「満足できる」説明とは何かを交渉可能にするプロセスを提供する。

実験結果

リサーチクエスチョン

• RQ1 デザイナーとエンドユーザーは、初期開発段階でどのように共同してAI説明の形式と内容を議論・形成できるか？
• RQ2 多様なステークホルダー間で認識論的整合性を図るための概念的ツールとして何が有効か？
• RQ3 象徴的メッセージフレームワークは、ヘルスケア文脈におけるAI説明に関するコミュニケーションをどのように促進するか？
• RQ4 エンドユーザーを早期に参加させることで、XAI機能の関連性と使いやすさがどのように向上するか？
• RQ5 象徴的メッセージを用いて説明ニーズを共同で定義するプロセスにおける実務的課題と機会は何か？

主な発見

• 象徴的メッセージフレームワークは、ヘルスケアAI文脈において、デザイナー、開発者、エンドユーザー間の構造的で認識論的根拠を持つ対話を成功裏に実現した。
• ステークホルダーは、特定の臨床文脈におけるAI出力の象徴的意味に焦点を当てることで、意味のある説明とは何かを共同で定義できた。
• この手法により、エンドユーザーが説明を理解する際の理解度が、分野固有の知識と意思決定ニーズに深く関連していることが明らかになった。
• デザイナーや開発者は、技術的XAIアプローチでは以前に無視されていた実務的・倫理的側面について、新たな知見を得た。
• フレームワークは、技術的分析だけでは明らかにならなかった文脈特異的な説明要件の特定を支援した。
• 本研究は、説明に関する早期で包括的なコミュニケーションが、より使いやすく信頼性の高いAIシステムの構築に繋がることを示した。