[论文解读] AI Ethics in Industry: A Research Framework

Ville Vakkuri, Kai‐Kristian Kemell+1 more|arXiv (Cornell University)|Oct 28, 2019

Ethics and Social Impacts of AI参考文献 19被引用 18

一句话总结

本文提出了一套在工业场景中实施人工智能伦理的研究框架，基于实证案例研究，将伦理考量贯穿于人工智能开发的全过程。该框架为研究人员和从业者提供了一个实用且持续演进的模型，用于研究和实现现实世界人工智能系统中的伦理实践，初步验证来自工业应用。

ABSTRACT

Artificial Intelligence (AI) systems exert a growing influence on our society. As they become more ubiquitous, their potential negative impacts also become evident through various real-world incidents. Following such early incidents, academic and public discussion on AI ethics has highlighted the need for implementing ethics in AI system development. However, little currently exists in the way of frameworks for understanding the practical implementation of AI ethics. In this paper, we discuss a research framework for implementing AI ethics in industrial settings. The framework presents a starting point for empirical studies into AI ethics but is still being developed further based on its practical utilization.

研究动机与目标

• 为应对在工业场景中实施人工智能伦理的日益增长的实际需求。
• 通过真实世界的案例研究，识别并结构化人工智能系统开发中的关键伦理挑战。
• 支持关于组织如何在人工智能开发流程中实现伦理的实证研究。
• 为基于工业实践的伦理实施方法的持续优化提供基础。
• 弥合理论人工智能伦理与工业中可操作的、情境特定的实施之间的差距。

提出的方法

• 通过聚焦人工智能系统开发的工业场景中的多案例研究方法构建。
• 识别人工智能伦理的关键维度，包括公平性、透明度、问责制和人工监督。
• 围绕人工智能开发的生命周期阶段（从设计到部署）构建框架。
• 整合利益相关者视角（工程师、管理者、伦理学家），以反映现实世界的复杂性。
• 通过工业应用的迭代反馈来优化和验证框架。
• 采用对访谈和文档的定性分析，以提取伦理实施的模式。

实验结果

研究问题

• RQ1 工业组织目前如何在人工智能系统开发中实施伦理？
• RQ2 在人工智能开发流程中嵌入伦理考量的关键挑战和促进因素是什么？
• RQ3 如何构建研究框架以支持对工业中人工智能伦理的实证研究？
• RQ4 不同利益相关者在组织内部塑造伦理人工智能实践方面发挥什么作用？
• RQ5 该框架如何通过在多样化工业场景中的实际应用而不断演进？

主要发现

• 该框架识别出人工智能开发过程中必须系统性处理伦理考量的关键阶段。
• 利益相关者协作——尤其是技术团队与伦理学家之间的协作——对有效实施至关重要。
• 由于缺乏明确指导，组织在将抽象的伦理原则付诸实践时面临重大挑战。
• 透明度和问责机制在工业人工智能项目中应用不一致。
• 该框架通过工业案例研究的迭代反馈展现出良好的适应性。
• 初步验证表明，该框架支持在人工智能开发中进行结构化、情境敏感的伦理决策。