[论文解读] FATE in AI: Towards Algorithmic Inclusivity and Accessibility

Isa Inuwa-Dutse|arXiv (Cornell University)|Jan 3, 2023

Ethics and Social Impacts of AI参考文献 67被引用 5

一句话总结

本文提出一种由社区主导的策略，通过从边缘化社区（尤其是全球南方）收集并整理代表性数据，以增强人工智能的算法包容性和可及性。通过在尼日利亚开展的用户研究（n=43）和参与式工作坊（n=30），研究发现人工智能系统往往隐含偏见且缺乏特定情境的透明度，因此建议建立公共数据库，收录社区关切与价值观，以指导伦理人工智能的发展。

ABSTRACT

Artificial Intelligence (AI) is at the forefront of modern technology, and its effects are felt in many areas of society. To prevent algorithmic disparities, fairness, accountability, transparency, and ethics (FATE) in AI are being implemented. However, the current discourse on these issues is largely dominated by more economically developed countries (MEDC), leaving out local knowledge, cultural pluralism, and global fairness. This study aims to address this gap by examining FATE-related desiderata, particularly transparency and ethics, in areas of the global South that are underserved by AI. A user study (n=43) and a participatory session (n=30) were conducted to achieve this goal. The results showed that AI models can encode bias and amplify stereotypes. To promote inclusivity, a community-led strategy is proposed to collect and curate representative data for responsible AI design. This will enable the affected community or individuals to monitor the increasing use of AI-powered systems. Additionally, recommendations based on public input are provided to ensure that AI adheres to social values and context-specific FATE needs.

研究动机与目标

• 解决人工智能话语中西方中心视角主导FATE（公平性、问责制、透明度、伦理）问题。
• 探索全球南方边缘化社区如何感知并参与人工智能相关的FATE议题。
• 开发并实施一种以社区为核心的、用于负责任人工智能设计的数据收集与整理方法。
• 通过融入本地价值观、文化多元性及社会人口多样性，提升算法透明度与包容性。

提出的方法

• 在尼日利亚对在线用户开展用户研究（n=43）和参与式工作坊（n=30），收集关于人工智能中FATE问题的见解。
• 开发并部署两个公开、开放获取的数据库：一份‘关切文档’和一份‘价值观文档’，用于收集社区反馈。
• 收集关于人工智能解释风格的定性反馈，重点关注清晰度、语境相关性及语言适宜性。
• 分析用户对人工智能透明度与公平性的感知，特别是针对广告推荐和决策解释的看法。
• 提出一种由社区主导的数据整理模型，以应对算法偏见并确保伦理人工智能的发展。
• 运用参与式设计原则，让受影响社区参与塑造人工智能治理与透明度机制。

实验结果

研究问题

• RQ1 全球南方的边缘化社区如何感知人工智能系统中的透明度与伦理？
• RQ2 在非西方、资源匮乏的语境下，用户表达了哪些关键的FATE相关关切与价值观？
• RQ3 如何通过社区主导的数据收集与整理提升人工智能的算法公平性与包容性？
• RQ4 在本地文化与语言语境下，哪种类型的人工智能解释最为有效且易于获取？
• RQ5 社区关切与价值观的公共数据库如何有助于监督与引导人工智能的发展？

主要发现

• 参与者表示，人工智能解释（尤其是在线广告的解释）通常模糊、信息不足且过于复杂，有参与者指出Instagram上的解释过于冗长，本可更简化。
• 对情境相关、以价值观为导向且语言适宜的解释存在强烈需求，以提升算法可及性与用户理解力。
• 研究发现，人工智能模型常编码并放大社会偏见，尤其是与种族和性别相关的偏见，尤其在训练数据缺乏代表性时更为明显。
• 由社区主导的数据整理被确认为应对算法偏见的关键机制，有助于确保人工智能系统反映本地规范与价值观。
• 参与式方法揭示，通过开放数据库收集社区关切与价值观，可赋予社区权力，使其能够主动监控并影响人工智能的部署。
• 数字素养与语言是透明度的主要障碍，用户强调需要使用本地语言进行解释，并以符合其社会人口与文化背景的形式呈现。