[论文解读] AI Ethics Issues in Real World: Evidence from AI Incident Database

Mengyi Wei, Zhixuan Zhou|arXiv (Cornell University)|Jun 15, 2022

Ethics and Social Impacts of AI被引用 28

一句话总结

本论文利用 AI 事件数据库构建了首个现实世界 AI 伦理问题的分类法，识别出 13 个应用领域和 8 个伦理问题类别，分析了 2010–2021 年的 150 起事件。

ABSTRACT

With the powerful performance of Artificial Intelligence (AI) also comes prevalent ethical issues. Though governments and corporations have curated multiple AI ethics guidelines to curb unethical behavior of AI, the effect has been limited, probably due to the vagueness of the guidelines. In this paper, we take a closer look at how AI ethics issues take place in real world, in order to have a more in-depth and nuanced understanding of different ethical issues as well as their social impact. With a content analysis of AI Incident Database, which is an effort to prevent repeated real world AI failures by cataloging incidents, we identified 13 application areas which often see unethical use of AI, with intelligent service robots, language/vision models and autonomous driving taking the lead. Ethical issues appear in 8 different forms, from inappropriate use and racial discrimination, to physical safety and unfair algorithm. With this taxonomy of AI ethics issues, we aim to provide AI practitioners with a practical guideline when trying to deploy AI applications ethically.

研究动机与目标

• 激发对比高层指南更实际的 AI 伦理洞见的需求。
• 构建现实世界事件中观察到的 AI 伦理问题的分类法。
• 识别伦理问题最为普遍的应用领域。
• 基于实证证据，为从业者提供更具伦理性的 AI 部署指南。

提出的方法

• 从 AI 事件数据库收集 150 起 AI 伦理事件。
• 进行常规内容分析以推导类别和应用领域。
• 由两位研究人员独立编码数据，并进行 Krippendorff’s α 可靠性检验。
• 呈现应用领域（13）和伦理问题（8）的分类法。
• 将事件发现与现有 AI 伦理指南联系起来并讨论其含义。

实验结果

研究问题

• RQ1 在不同应用领域中出现了哪些现实世界的 AI 伦理问题？
• RQ2 AI 伦理问题在时间和地理上的分布如何？
• RQ3 观测到的伦理问题如何映射到现有的 AI 伦理指南？
• RQ4 可为 AI 系统的伦理设计与部署提供哪些实际指导？

主要发现

• 事件覆盖 2010–2021 年，2016 年达峰，2020 年再度达到峰值。
• 大多数事件发生在美国、中国、英国（合计 89 起，占 150 起中的比重）。
• 识别出十三个应用领域，智能服务机器人、语言/视觉模型和自动驾驶居于领先。
• 识别出八类伦理问题，其中滥用/性能不佳、种族歧视、物理安全和算法不公平是突出问题。
• 在每个应用领域中，具体的伦理问题呈现出不同的模式，例如物理安全在自动驾驶中占主导，语言/视觉模型中种族歧视较为突出。
• 观察到的现实世界问题与 AI 伦理指南中占主导的原则（透明度、正义/公平、不伤害原则）之间存在一致性，尽管指南仍然抽象。