[论文解读] From What to How. An Overview of AI Ethics Tools, Methods and Research to Translate Principles into Practices.

Jessica Morley, Luciano Floridi+2 more|arXiv (Cornell University)|May 15, 2019

Ethics and Social Impacts of AI被引用 41

一句话总结

本文提出了一种实用的分类法，以弥合人工智能伦理原则与机器学习流程中其实现之间的差距，为每个阶段提供开发者可操作的方法。它识别出关键工具和研究需求，以实现伦理原则，重点在于将“什么”（原则）转化为“如何”（实践）。

ABSTRACT

The debate about the ethical implications of Artificial Intelligence dates from the 1960s. However, in recent years symbolic AI has been complemented and sometimes replaced by Neural Networks and Machine Learning techniques. This has vastly increased its potential utility and impact on society, with the consequence that the ethical debate has gone mainstream. Such debate has primarily focused on principles - the what of AI ethics - rather than on practices, the how. Awareness of the potential issues is increasing at a fast rate, but the AI community's ability to take action to mitigate the associated risks is still at its infancy. Therefore, our intention in presenting this research is to contribute to closing the gap between principles and practices by constructing a typology that may help practically-minded developers apply ethics at each stage of the pipeline, and to signal to researchers where further work is needed. The focus is exclusively on Machine Learning, but it is hoped that the results of this research may be easily applicable to other branches of AI. The article outlines the research method for creating this typology, the initial findings, and provides a summary of future research needs.

研究动机与目标

• 解决人工智能伦理原则与机器学习系统中实际实施之间日益扩大的脱节问题。
• 开发一种结构化分类法，指导开发者在机器学习流程的所有阶段应用伦理原则。
• 突出可操作的工具和方法，以在现实世界的人工智能开发中实现伦理原则。
• 指出关键的研究空白，推动应用人工智能伦理领域超越理论原则的发展。
• 提供一个可扩展至机器学习以外的其他人工智能分支的坚实基础，聚焦于实际实施。

提出的方法

• 系统分析现有的人工智能伦理工具、方法和研究，识别模式并按开发阶段进行分类。
• 构建一个分类法，将伦理考量映射到机器学习流程的具体阶段（例如，数据收集、模型训练、部署）。
• 根据其功能（如偏差检测、公平性评估或可解释性技术）对工具进行分类，涵盖每个流程阶段。
• 通过主题和功能分析，按其目的和在机器学习生命周期中的集成点对方法进行分组。
• 评估每种工具或方法在现实开发环境中的成熟度和适用性。
• 识别重复出现的局限性和发展不足的领域，以指导未来的研究优先事项。

实验结果

研究问题

• RQ1 人工智能伦理原则如何系统性地转化为机器学习开发流程中的可操作实践？
• RQ2 目前有哪些类型的工具和方法可用于支持机器学习生命周期不同阶段的伦理实施？
• RQ3 机器学习流程的哪些阶段在现有伦理工具和方法方面最为不足？
• RQ4 哪些研究和工具方面的关键空白阻碍了人工智能伦理原则的有效实施？
• RQ5 所提出的分类法如何扩展或适应更广泛的人工智能领域，而不仅限于机器学习？

主要发现

• 开发出一个全面的分类法，将伦理工具和方法映射到机器学习流程的具体阶段，从而实现伦理的结构化应用。
• 许多现有工具侧重于事后评估，而非在模型开发过程中集成，表明主动伦理支持方面存在空白。
• 最成熟的工具集中在模型可解释性和公平性评估方面，而以数据为中心的伦理工具仍发展不足。
• 缺乏标准化、可扩展且集成化的工具，以支持整个机器学习生命周期中的伦理决策。
• 研究指出了在工具互操作性、实时监控以及开发者友好的伦理实践界面方面的关键研究需求。
• 该分类法为从业者和研究人员提供了一个基础，以将伦理原则与人工智能系统中的实际实施对齐。