[论文解读] The Different Faces of AI Ethics Across the World: A Principle-Implementation Gap Analysis

Lionel Nganyewou Tidjon, Foutse Khomh|arXiv (Cornell University)|May 12, 2022

Artificial Intelligence in Healthcare and Education被引用 8

一句话总结

本文分析了全球人工智能伦理原则及其在29个国家和14个地区的实际实施差距，识别出透明度是最常被引用的原则，并揭示了缺乏工具和培训等关键差距。本文提出 EthicsOps——通过持续监控、多元化团队和标准化实践，将伦理整合到人工智能生命周期中——以弥合原则与实施之间的鸿沟。

ABSTRACT

Artificial Intelligence (AI) is transforming our daily life with several applications in healthcare, space exploration, banking and finance. These rapid progresses in AI have brought increasing attention to the potential impacts of AI technologies on society, with ethically questionable consequences. In recent years, several ethical principles have been released by governments, national and international organisations. These principles outline high-level precepts to guide the ethical development, deployment, and governance of AI. However, the abstract nature, diversity, and context-dependency of these principles make them difficult to implement and operationalize, resulting in gaps between principles and their execution. Most recent work analysed and summarized existing AI principles and guidelines but they did not provide findings on principle-implementation gaps and how to mitigate them. These findings are particularly important to ensure that AI implementations are aligned with ethical principles and values. In this paper, we provide a contextual and global evaluation of current ethical AI principles for all continents, with the aim to identify potential principle characteristics tailored to specific countries or applicable across countries. Next, we analyze the current level of AI readiness and current implementations of ethical AI principles in different countries, to identify gaps in the implementation of AI principles and their causes. Finally, we propose recommendations to mitigate the principle-implementation gaps.

研究动机与目标

• 识别并评估全球所有大洲范围内的国家特定及全球人工智能伦理原则。
• 评估14个国家当前的人工智能准备程度及伦理原则的实施情况。
• 诊断人工智能伦理原则与实际实施之间存在差距的根本原因。
• 提出可操作的、情境感知的建议，以弥合人工智能伦理中的原则-实施差距。
• 倡导采用 EthicsOps 作为系统性框架，将伦理嵌入人工智能开发生命周期中。

提出的方法

• 系统性收集并分析来自六大洲29个国家的100份人工智能伦理文件。
• 评估来自14个国家的121项实际实施案例（如法律、标准、检查清单、培训工具）。
• 通过频率分析和跨大陆出现频率分析，识别反复出现的原则及其全球覆盖范围。
• 通过对比陈述原则与实际实施情况，开展差距分析，重点关注工具、标准和治理。
• 使用对实施报告的定性和定量评估，对实施差距的根本原因进行分析。
• 提出 EthicsOps 作为持续的、生命周期集成的框架，结合 DevSecOps 和 AIOps 原理，实现伦理人工智能交付。

实验结果

研究问题

• RQ1 在不同国家和大洲中，哪些人工智能伦理原则最为普遍？
• RQ2 国家和国际人工智能伦理原则在多大程度上与实际落地的实施相一致？
• RQ3 人工智能伦理中原则-实施差距的主要根本原因是什么？
• RQ4 如何实现 EthicsOps，以弥合伦理原则与其实 world 执行之间的差距？
• RQ5 多样性、教育以及公私合作伙伴关系在加强伦理人工智能实施中发挥什么作用？

主要发现

• 透明度是在分析的来自29个国家的100份文件中被引用最多的AI伦理原则。
• 全球最普遍的11项原则——隐私、透明度、公平性、安全性、可靠性、责任、问责制、可解释性、福祉、人权和包容性——在最多数量的国家和国际框架中出现。
• GPAI、OECD 和 G20 原则缺少“责任”原则，而该原则在国家框架中被广泛采纳。
• 美国、英国和加拿大在2016至2021年间发布了最多的人工智能伦理原则。
• 识别出五项关键的原则-实施差距：缺乏有效的实施工具、标准薄弱、企业治理整合不足、培训不足，以及伦理绩效指标有限。
• 差距的根本原因包括人为偏见、缺乏指标，以及人工智能开发团队中多样性与包容性不足。