[论文解读] Diversity and Inclusion in Artificial Intelligence

Didar Zowghi, Francesca da Rimini|arXiv (Cornell University)|May 22, 2023

Ethics and Social Impacts of AI被引用 5

一句话总结

本文提出了一套实用的、面向生态系统的框架，用于在人工智能中嵌入多样性和包容性（D&I），为人工智能从业者提供可操作的指导。该框架全面定义了人工智能生命周期中D&I的内涵，并提出一种结构化方法，以减轻偏见并提升人工智能系统及其开发环境的公平性。

ABSTRACT

To date, there has been little concrete practical advice about how to ensure that diversity and inclusion considerations should be embedded within both specific Artificial Intelligence (AI) systems and the larger global AI ecosystem. In this chapter, we present a clear definition of diversity and inclusion in AI, one which positions this concept within an evolving and holistic ecosystem. We use this definition and conceptual framing to present a set of practical guidelines primarily aimed at AI technologists, data scientists and project leaders.

研究动机与目标

• 解决人工智能开发中缺乏具体、可操作的多样性与包容性（D&I）整合指导的问题。
• 提出一个全面的、面向生态系统的AI中D&I定义，超越单一系统范畴。
• 为人工智能技术人员、数据科学家和项目负责人提供实用且可实施的指导。
• 将D&I定位为持续的、系统性的努力，而非人工智能设计与部署中的一次性合规任务。
• 通过人工智能生命周期中贯穿始终的包容性实践，支持可信赖人工智能系统的构建。

提出的方法

• 提出一个整合个人、团队、组织和社会维度的AI中D&I整体概念框架。
• 将AI中的多样性与包容性定义为动态的、情境敏感的构建，贯穿人工智能开发生命周期。
• 提出一套面向人工智能从业者的实用、可操作的指导，重点关注团队构成、数据整理、系统设计和评估。
• 强调在人工智能开发每个阶段通过迭代和反馈驱动的流程，识别并减轻偏见。
• 将D&I视为一个不断演进的跨领域关切，需要在技术和组织层面持续评估与适应。
• 将框架建立在真实的人工智能项目情境中，确保对软件工程师和数据科学家具有实际相关性。

实验结果

研究问题

• RQ1 如何在人工智能开发全生命周期中对多样性和包容性进行有意义的定义与实施？
• RQ2 人工智能团队可采用哪些实用且可实施的策略，以在系统设计和数据实践中嵌入D&I？
• RQ3 组织如何超越个体举措，将D&I制度化，以确保长期影响？
• RQ4 团队构成和组织文化在塑造包容性人工智能成果方面发挥什么作用？
• RQ5 如何在人工智能系统开发和部署的整个过程中系统性地评估和监控D&I？

主要发现

• 本文建立了一个全面的、面向生态系统的AI中D&I定义，超越表征层面，涵盖流程、权力结构和系统性公平。
• 开发并组织了一套实用指导，围绕关键阶段展开：团队组建、数据收集、模型开发、评估和部署。
• 该框架强调，D&I并非检查清单，而是一个需要持续反思与适应的迭代过程。
• 当团队从一开始就纳入多样化视角，特别是代表性不足群体的视角时，包容性人工智能开发最为有效。
• 本文指出，组织文化与领导层承诺是实现人工智能项目中D&I持续整合的关键推动因素。
• 所提出的指导方针专为人工智能从业者直接应用而设计，重点关注技术工作流中的实际可行性与实际影响。