[论文解读] Seeing Like a Toolkit: How Toolkits Envision the Work of AI Ethics

Richmond Y. Wong, Michael Madaio+1 more|arXiv (Cornell University)|Feb 17, 2022

Ethics and Social Impacts of AI被引用 6

一句话总结

本文批判性分析了27份人工智能伦理工具包，揭示其如何构想伦理工作——尽管倡导更广泛的利益相关者参与，却仍将伦理工作视为个体化、技术性的任务。研究发现，这些工具包在支持劳动、组织和权力动态方面存在关键缺口，并建议重新设计工具包，以聚焦集体行动和系统性变革。

ABSTRACT

Numerous toolkits have been developed to support ethical AI development. However, toolkits, like all tools, encode assumptions in their design about what work should be done and how. In this paper, we conduct a qualitative analysis of 27 AI ethics toolkits to critically examine how the work of ethics is imagined and how it is supported by these toolkits. Specifically, we examine the discourses toolkits rely on when talking about ethical issues, who they imagine should do the work of ethics, and how they envision the work practices involved in addressing ethics. Among the toolkits, we identify a mismatch between the imagined work of ethics and the support the toolkits provide for doing that work. In particular, we identify a lack of guidance around how to navigate labor, organizational, and institutional power dynamics as they relate to performing ethical work. We use these omissions to chart future work for researchers and designers of AI ethics toolkits.

研究动机与目标

• 调查人工智能伦理工具包如何构架伦理工作，包括其使用的论述、所设想的责任主体以及所设想的实践。
• 识别工具包所倡导的伦理社会技术愿景与其为此类工作提供的实际支持之间的错配。
• 揭示工具包在指导如何应对人工智能开发中的劳动、组织和制度性权力动态方面存在的缺失。
• 为工具包设计者提供可操作的建议，以更好地支持伦理人工智能工作的社会性、集体性和政治维度。
• 挑战伦理工具包中占主导地位的个体主义和技术化框架，倡导反映现实组织复杂性的干预形式。

提出的方法

• 对通过学术、产业和公共来源的定向搜索查询所选定的27份人工智能伦理工具包，开展了定性内容分析。
• 运用批判性话语分析，考察工具包用于为其伦理方法提供正当性的语言和叙事。
• 识别并编码工具包所设想的用户、其推广的伦理工作类型，以及所假设的组织角色或实践。
• 绘制利益相关者包容的既定目标与实际提供的利益相关者参与支持之间的对齐（或错配）情况。
• 分析工具包在多大程度上涉及人工智能伦理工作中的权力动态、劳动结构和制度约束。
• 使用比较分析方法识别工具包之间的模式，突出共性与显著例外（如“Data Ethically”工具包）。

实验结果

研究问题

• RQ1 人工智能伦理工具包依赖哪些伦理论述来为其使用提供正当性？
• RQ2 工具包设想谁是负责解决人工智能伦理问题的主体？
• RQ3 工具包设想并支持哪些具体的工作实践以推动伦理人工智能开发？
• RQ4 工具包中设想的角色与实践如何与人工智能开发的真实组织和权力动态相契合？
• RQ5 工具包设计选择对伦理人工智能干预的可扩展性和有效性有何影响？

主要发现

• 人工智能伦理工具包主要将伦理工作构架为技术性与个体化的工作，尽管倡导更广泛的利益相关者参与，却仍将责任主要归于开发人员和工程师。
• 尽管呼吁多样化的利益相关者参与，但大多数工具包在如何有意义地让非技术或边缘化利益相关者参与伦理决策方面提供极少指导。
• 在应对组织权力结构方面存在显著支持缺失，例如如何挑战层级化决策机制或制度性阻力。
• 少数工具包涉及劳动动态，如如何组织集体行动、支持工人倡导，或利用工会或劳工运动推动伦理人工智能工作。
• “Data Ethically”工具包是一个显著例外，提供了支持集体行动和具备劳工意识的伦理实践的资源。
• 工具包所倡导的社会技术愿景与所提供的技术性、个体化支持之间存在错配，削弱了其在复杂组织环境中的实际有效性。