[论文解读] EUCA: A Practical Prototyping Framework towards End-User-Centered Explainable Artificial Intelligence.

Weina Jin, Jianyu Fan+3 more|arXiv (Cornell University)|Feb 4, 2021

Explainable Artificial Intelligence (XAI)参考文献 76被引用 10

一句话总结

本文提出EUCA，一种面向以终端用户为中心的可解释人工智能（XAI）的实用原型设计框架，基于十二种用户友好的解释形式（如基于特征、示例和规则的解释）构建，并通过与32名普通用户的共同设计验证。该框架为HCI与AI从业者提供了一个工具包，用于在关键决策场景中构建直观、非技术性的解释。

ABSTRACT

The ability to explain decisions to its end-users is a necessity to deploy AI as critical decision support. Yet making AI explainable to end-users is a relatively ignored and challenging problem. To bridge the gap, we first identified twelve end-user-friendly explanatory forms that do not require technical knowledge to comprehend, including feature-, example-, and rule-based explanations. We then instantiated the explanatory forms as prototyping cards in four AI-assisted critical decision-making tasks, and conducted a user study to co-design low-fidelity prototypes with 32 layperson participants. The results verified the relevance of using the explanatory forms as building blocks of explanations, and identified their proprieties (pros, cons, applicable explainability needs, and design implications). The explanatory forms, their proprieties, and prototyping support constitute the End-User-Centered explainable AI framework EUCA. It serves as a practical prototyping toolkit for HCI/AI practitioners and researchers to build end-user-centered explainable AI. The EUCA framework is available at this http URL

研究动机与目标

• 填补在关键决策场景中，针对非技术背景终端用户设计可理解AI解释的空白。
• 识别并验证无需技术背景即可理解的解释形式。
• 与普通用户共同设计低保真原型，以确保实际应用的相关性与可用性。
• 开发一个结构化框架（EUCA），指导从业者构建以用户为中心的AI解释。

提出的方法

• 基于认知与可用性原则，识别出十二种终端用户友好的解释形式——包括基于特征、示例、规则及其他形式。
• 设计用于四种AI辅助决策任务的原型卡片，以表示每种解释形式。
• 通过32名普通用户参与的共同设计研究，评估并优化解释形式及其可用性。
• 分析用户反馈，提取每种形式的优点、缺点、适用可解释性需求及设计启示。
• 将研究发现整合为一个连贯的框架（EUCA），整合解释形式、其属性及原型支持功能。
• 将EUCA框架作为实用工具包发布，供HCI与AI研究人员及从业者使用。

实验结果

研究问题

• RQ1 在无AI技术背景的终端用户中，哪些类型的解释最易理解且最有用？
• RQ2 从终端用户视角来看，不同解释形式在现实世界关键决策任务中的表现如何？
• RQ3 在实际应用中，每种解释形式的优势、局限性及设计启示是什么？
• RQ4 如何有效让终端用户参与可解释AI原型的共同设计，以确保其可用性与相关性？

主要发现

• 在共同设计会话中，32名普通用户认为所识别的十二种解释形式具有相关性且易于使用。
• 基于特征、示例和规则的解释在无需技术知识的前提下，显著提升了用户理解能力。
• 每种解释形式均表现出独特的优缺点，例如清晰性与复杂性之间的权衡，从而明确了其适用场景。
• 用户反馈揭示了具体的设计启示，如解释呈现需具备上下文关联性与视觉简洁性。
• 共同设计过程成功验证了这些解释形式作为实用XAI原型设计基础组件的有效性。
• EUCA框架被确立为一种实用且可操作的工具包，适用于在现实世界AI应用中开发以终端用户为中心的解释。