[论文解读] From What to How: An Initial Review of Publicly Available AI Ethics Tools, Methods and Research to Translate Principles into Practices

Jessica Morley, Luciano Floridi+2 more|arXiv (Cornell University)|May 15, 2019

Ethics and Social Impacts of AI被引用 5

一句话总结

本文提出了一种分类体系，以弥合人工智能伦理原则与机器学习流程中实际应用之间的差距。通过分析公开可用的工具和方法，该研究将各开发阶段的伦理实践进行分类，为开发者提供可操作的指导，并为未来将抽象原则转化为具体可部署实践的研究工作识别关键研究空白。

ABSTRACT

The debate about the ethical implications of Artificial Intelligence dates from the 1960s. However, in recent years symbolic AI has been complemented and sometimes replaced by Neural Networks and Machine Learning techniques. This has vastly increased its potential utility and impact on society, with the consequence that the ethical debate has gone mainstream. Such debate has primarily focused on principles - the what of AI ethics - rather than on practices, the how. Awareness of the potential issues is increasing at a fast rate, but the AI community's ability to take action to mitigate the associated risks is still at its infancy. Therefore, our intention in presenting this research is to contribute to closing the gap between principles and practices by constructing a typology that may help practically-minded developers apply ethics at each stage of the pipeline, and to signal to researchers where further work is needed. The focus is exclusively on Machine Learning, but it is hoped that the results of this research may be easily applicable to other branches of AI. The article outlines the research method for creating this typology, the initial findings, and provides a summary of future research needs.

研究动机与目标

• 解决人工智能伦理原则与其在机器学习系统中实际应用之间日益扩大的脱节问题。
• 开发一种结构化的分类体系，将伦理考量映射到机器学习流程的特定阶段。
• 指导从业者在人工智能开发的各个阶段选择并应用适当的伦理工具与方法。
• 识别出在方法论上仍需进一步发展的关键研究空白，以实现人工智能伦理的可操作化。
• 支持从抽象的伦理原则（‘什么’）向可操作的实践（‘如何’）在人工智能开发中的转化。

提出的方法

• 作者对公开可用的人工智能伦理工具、方法及研究出版物进行了系统性回顾。
• 他们根据这些工具和方法所应用的机器学习流程阶段（例如，数据收集、模型训练、部署）对其进行分类。
• 该分类体系基于对工具的主题分析构建，重点关注其预期的伦理目标和技术实现方式。
• 研究综合了计算机科学、伦理学和人工智能政策等跨学科来源，以确保对相关方法的全面覆盖。
• 作者使用结构化框架评估了每项工具或方法的成熟度、覆盖范围和适用性。
• 最终的分类体系以在线动态资源的形式发布，以支持持续发展和社区参与。

实验结果

研究问题

• RQ1 现有人工智能伦理工具和方法在机器学习流程各阶段的分布情况如何？
• RQ2 当前工具主要关注哪些伦理问题，其与既定人工智能伦理原则的对齐程度如何？
• RQ3 当前工具在支持人工智能伦理实际应用方面存在哪些主要局限与空白？
• RQ4 结构化的分类体系如何帮助开发者和研究人员在现实世界的人工智能系统中实现抽象伦理原则？
• RQ5 为弥合伦理原则与实际应用之间的差距，最迫切需要哪些类型的研究与工具开发？

主要发现

• 开发出一个全面的分类体系，将122个公开可用的人工智能伦理工具和方法映射到机器学习流程的特定阶段。
• 大多数工具集中于数据和模型开发阶段，而针对部署和监控阶段的工具较少。
• 仅有15%的工具支持部署后的监控或持续的伦理评估。
• 许多工具缺乏与标准机器学习工作流的集成，限制了开发者在实践中采用的可能性。
• 在解决权力失衡、边缘化以及长期社会影响等系统性问题方面，存在显著的工具缺失。
• 本研究识别出迫切需要能够支持跨学科协作和在整个人工智能生命周期中实现伦理决策的工具。