[论文解读] Challenges and Solutions in AI for All

Rifat Ara Shams, Didar Zowghi+1 more|arXiv (Cornell University)|Jul 20, 2023

Ethics and Social Impacts of AI被引用 7

一句话总结

简要：一项系统性文献综述，识别出 55 条 AI 中的多样性与包容性（D&I）挑战、33 条解决方案，以及 24 条 AI 挑战中的 D&I 与 23 条用于 D&I 的 AI 解决方案，覆盖 48 篇论文（2017–2022）。

ABSTRACT

Artificial Intelligence (AI)'s pervasive presence and variety necessitate diversity and inclusivity (D&I) principles in its design for fairness, trust, and transparency. Yet, these considerations are often overlooked, leading to issues of bias, discrimination, and perceived untrustworthiness. In response, we conducted a Systematic Review to unearth challenges and solutions relating to D&I in AI. Our rigorous search yielded 48 research articles published between 2017 and 2022. Open coding of these papers revealed 55 unique challenges and 33 solutions for D&I in AI, as well as 24 unique challenges and 23 solutions for enhancing such practices using AI. This study, by offering a deeper understanding of these issues, will enlighten researchers and practitioners seeking to integrate these principles into future AI systems.

研究动机与目标

• 定义并区分 AI 中的 D&I 与用于 D&I 的 AI（AI for D&I）。
• 在文献（2017–2022）中识别并分类挑战与解决方案。
• 分析 D&I 研究在 AI 中涉及的人口统计、领域和 AI 技术。
• 评估差距并为未来在 D&I 与 AI 方面的工作提供方向。
• 提供将 D&I 原则纳入 AI 设计与部署的指南。

提出的方法

• 按照 Kitchenham 指南开展系统综述（Systematic Literature Review）。
• 使用广泛的关键词策略对 D&I in AI 与 AI for D&I 进行五个数据库检索。
• 筛选符合纳入标准的 48 篇论文（2017–2022），涵盖初步/二次检索。
• 进行开放编码以提取挑战并映射相应的解决方案。
• 使用含 5 个问题的评分量表评估研究质量，并报告经验性与非经验性研究。

Figure 1: An overview of the research method

实验结果

研究问题

• RQ1 RQ1：文献中关于 AI 中的多样性与包容性（D&I in AI）存在哪些挑战与解决方案？
• RQ2 RQ2：关于用于多样性与包容性实践的 AI（AI for D&I）有哪些挑战与解决方案？

主要发现

• 识别出 55 条关于 AI 中的 D&I 的独特挑战和 33 条独特解决方案。
• 识别出 24 条关于 AI 用于 D&I 的挑战与 23 条解决方案。
• 大多数研究（18 篇）发表于 2022 年，11 篇在 2021 年，且作者机构以 美国 为主。
• 性别是研究最多的多样性属性，其次是种族，其他属性研究不足。
• 在人脸分析与自然语言处理（NLP）等 AI 领域，在 D&I 语境下讨论最多。
• 治理相关的挑战与解决方案在 AI 中的 D&I 与 AI for D&I 研究中均较少被讨论。

Figure 2: SLR paper selection summary