[论文解读] Towards a Praxis for Intercultural Ethics in Explainable AI

Chinasa T. Okolo|arXiv (Cornell University)|Apr 24, 2023

Explainable Artificial Intelligence (XAI)被引用 6

一句话总结

本文提出了一种用于可解释人工智能（XAI）的跨文化伦理框架，以增强AI解释在包容性和文化相关性方面的表现，尤其针对全球南方用户。通过整合文化价值观、本土知识和参与式设计，该方法提升了用户的理解力与信任感，推动XAI从单纯技术导向转向基于伦理、情境敏感的解释，从而更公平地服务多样化人群。

ABSTRACT

Explainable AI (XAI) is often promoted with the idea of helping users understand how machine learning models function and produce predictions. Still, most of these benefits are reserved for those with specialized domain knowledge, such as machine learning developers. Recent research has argued that making AI explainable can be a viable way of making AI more useful in real-world contexts, especially within low-resource domains in the Global South. While AI has transcended borders, a limited amount of work focuses on democratizing the concept of explainable AI to the "majority world", leaving much room to explore and develop new approaches within this space that cater to the distinct needs of users within culturally and socially-diverse regions. This article introduces the concept of an intercultural ethics approach to AI explainability. It examines how cultural nuances impact the adoption and use of technology, the factors that impede how technical concepts such as AI are explained, and how integrating an intercultural ethics approach in the development of XAI can improve user understanding and facilitate efficient usage of these methods.

研究动机与目标

• 解决现有XAI系统中缺乏文化包容性的问题，这些系统主要服务于西方、技术素养较高的用户。
• 强调文化偏见和缺乏情境理解如何阻碍在低资源和全球南方环境中实现有效的AI解释。
• 提出一种基于跨文化伦理的XAI方法，将本地价值观、世界观和认识论传统置于可解释性方法的设计与评估的核心位置。
• 弥合技术XAI开发与多样社会文化情境下实际可用性之间的差距。
• 推动XAI中的伦理化、参与式和去殖民化实践，以确保公平获取并实现有意义的用户自主权。

提出的方法

• 将跨文化伦理理论与XAI开发相结合，指导文化响应型解释的设计。
• 通过与来自不同文化与地区背景的利益相关者开展参与式设计和共同创造，为解释框架提供依据。
• 通过文化相关的类比、隐喻和可视化方式，对XAI技术（如事后解释和事前解释）进行本土化调整。
• 运用去殖民化和批判技术研究的视角，审视AI解释设计中固有的权力失衡问题。
• 制定评估标准，不仅衡量模型的可解释性，还评估其在不同语境下的文化适宜性与用户信任度。
• 借助计算科学、人类学、社会学与数字人文学科的跨学科合作，使XAI建立在真实的文化经验基础之上。

实验结果

研究问题

• RQ1 文化差异如何影响人们对AI解释的感知、解读及其可信度？
• RQ2 当前XAI方法在低资源、非西方及文化多样性环境中为何难以有效或普及？
• RQ3 如何在XAI系统的设计与评估中实现跨文化伦理，以提升可用性与包容性？
• RQ4 历史与殖民权力动态在塑造当前XAI实践方面发挥何种作用，又该如何被打破？
• RQ5 如何在不同文化和区域背景下对跨文化XAI进行有意义的评估？

主要发现

• 现有XAI方法因依赖西方认识论框架和技术术语，对全球南方的非技术用户而言普遍难以访问。
• 文化细微差别显著影响解释的接受程度，不同背景的用户会基于各自的价值体系和世界观来解读AI决策。
• 采用跨文化伦理的XAI方法可通过将解释与本地文化规范、隐喻和决策实践相契合，提升用户信任与理解力。
• 迫切需要超越技术可解释性，转向尊重多元认识论与权力结构的文化根基型可解释性。
• 通过在AI设计中聚焦边缘化社区的声音与价值观，跨文化XAI可减少文化伤害并增强用户自主权。
• XAI的评估必须超越模型性能，纳入文化相关性、伦理一致性以及真实情境下的用户中心成果。