[论文解读] Reconfiguring Diversity and Inclusion for AI Ethics

Nicole Chi, Emma Lurie+1 more|arXiv (Cornell University)|May 6, 2021

Ethics and Social Impacts of AI参考文献 46被引用 5

一句话总结

本文分析谷歌、微软和 Salesforce 如何通过将多样性与包容性嵌入工程工作流程，重新配置企业人工智能伦理文件中的相关概念，将原本基于民权的正当性理由转变为技术性公平。尽管这使工程师更易于采取行动，但责任被下游转移至客户，使企业定位为伦理责任的分配者而非拥有者，从而可能削弱人工智能系统中的结构性公平。

ABSTRACT

Activists, journalists, and scholars have long raised critical questions about the relationship between diversity, representation, and structural exclusions in data-intensive tools and services. We build on work mapping the emergent landscape of corporate AI ethics to center one outcome of these conversations: the incorporation of diversity and inclusion in corporate AI ethics activities. Using interpretive document analysis and analytic tools from the values in design field, we examine how diversity and inclusion work is articulated in public-facing AI ethics documentation produced by three companies that create application and services layer AI infrastructure: Google, Microsoft, and Salesforce. We find that as these documents make diversity and inclusion more tractable to engineers and technical clients, they reveal a drift away from civil rights justifications that resonates with the managerialization of diversity by corporations in the mid-1980s. The focus on technical artifacts, such as diverse and inclusive datasets, and the replacement of equity with fairness make ethical work more actionable for everyday practitioners. Yet, they appear divorced from broader DEI initiatives and other subject matter experts that could provide needed context to nuanced decisions around how to operationalize these values. Finally, diversity and inclusion, as configured by engineering logic, positions firms not as ethics owners but as ethics allocators; while these companies claim expertise on AI ethics, the responsibility of defining who diversity and inclusion are meant to protect and where it is relevant is pushed downstream to their customers.

研究动机与目标

• 调查主要人工智能基础设施提供商的公开人工智能伦理文件中，多样性与包容性是如何被表述的。
• 分析企业人工智能伦理中，多样性与包容性从基于民权的正当性理由，向技术性、工程驱动的表述方式的转变。
• 探讨通过文件内容，企业将伦理人工智能部署的责任重新分配给客户的方式。
• 评估这种重新配置对人工智能系统中公平性、结构性包容性以及人权的影响。
• 考察价值观设计与制度法律框架在理解企业伦理文件如何塑造伦理实践中的作用。

提出的方法

• 对谷歌、微软和 Salesforce 的公开人工智能伦理文件进行解释性文档分析。
• 应用价值观设计的理论框架，分析多样性与包容性在技术工作流程中如何被具体化。
• 运用制度与组织理论，考察企业伦理文件中责任与问责制的转变。
• 追踪民权正当性如何被技术性概念（如公平性、数据多样性）所取代。
• 绘制文件的语言与结构特征，以识别责任扩散与技术工具化的模式。
• 评估这些配置对人工智能开发中更广泛的 DEI 计划与人权合规性的影响。

实验结果

研究问题

• RQ1 谷歌、微软和 Salesforce 如何在其公开的人工智能伦理文件中阐述多样性与包容性？
• RQ2 这些文件在多大程度上保留了基于民权的多样性与包容性正当性理由？这些理由经历了怎样的重构？
• RQ3 将多样性与包容性表述为技术性问题，如何影响伦理人工智能部署责任的分配？
• RQ4 工程逻辑与技术成果（如数据集、公平性度量）在重塑人工智能伦理中多样性与包容性的意义方面发挥何种作用？
• RQ5 这些文件中对多样性与包容性的重构，与更广泛的人权与劳动公平规范是保持一致还是背道而驰？

主要发现

• 这些公司将多样性与包容性重新表述为以数据与公平性为核心的技术挑战，远离了基于民权的正当性理由。
• 多样性与包容性日益被视为工程任务（如构建多样化数据集），而非系统性的社会或组织改革。
• 公平性概念取代了“公平”在技术工作流程中的角色，虽然简化了伦理问题，但也使其去政治化。
• 伦理部署的责任被系统性地推卸至下游客户，企业则将自身定位为伦理责任的分配者而非拥有者。
• 文件显示出明显的管理主义倾向，即多样性工作被工具化以契合产品开发周期与技术工作流程。
• 这种重构可能使伦理人工智能实践脱离结构性不平等的宏观背景，包括员工多样性与历史边缘化问题。