[论文解读] Ethics of AI: A Systematic Literature Review of Principles and Challenges

Arif Ali Khan, Sher Badshah+5 more|arXiv (Cornell University)|Sep 12, 2021

Ethics and Social Impacts of AI被引用 7

一句话总结

本篇系统性文献回顾识别出22项核心人工智能伦理原则以及15项伦理AI采纳的关键挑战，其中透明度、隐私、问责制和公平性被确定为最关键的四项原则。本研究为拟议的人工智能伦理成熟度模型提供了基础输入，以评估并提升人工智能系统的伦理能力。

ABSTRACT

Ethics in AI becomes a global topic of interest for both policymakers and academic researchers. In the last few years, various research organizations, lawyers, think tankers and regulatory bodies get involved in developing AI ethics guidelines and principles. However, there is still debate about the implications of these principles. We conducted a systematic literature review (SLR) study to investigate the agreement on the significance of AI principles and identify the challenging factors that could negatively impact the adoption of AI ethics principles. The results reveal that the global convergence set consists of 22 ethical principles and 15 challenges. Transparency, privacy, accountability and fairness are identified as the most common AI ethics principles. Similarly, lack of ethical knowledge and vague principles are reported as the significant challenges for considering ethics in AI. The findings of this study are the preliminary inputs for proposing a maturity model that assess the ethical capabilities of AI systems and provide best practices for further improvements.

研究动机与目标

• 通过识别广泛认可的伦理原则及采纳障碍，回应全球对人工智能伦理日益增长的关注。
• 探究理论性人工智能伦理准则与实际实施挑战之间的差距。
• 为开发用于评估和增强人工智能系统伦理能力的成熟度模型提供实证输入。
• 突出强调伦理知识缺乏和原则表述模糊是伦理AI部署的主要障碍。
• 为政策制定者和从业者提供基于证据的见解，以促进产业与研究中人工智能伦理的整合。

提出的方法

• 遵循Kitchenham和Charters的指南开展系统性文献回顾（SLR），以确保方法论严谨性。
• 通过试点搜索和反向雪球法优化后的搜索字符串，检索学术数据库。
• 通过迭代共识会议，依据预设的纳入与排除标准，筛选出27篇核心研究。
• 采用主题分析与分类法，提取并综合人工智能伦理原则与挑战。
• 基于CMMI原则并经工业案例研究验证，将研究发现映射至拟议的能力成熟度模型（CMM）框架。
• 通过试点搜索、反向雪球法和结构化回顾协议，应对有效性威胁。

实验结果

研究问题

• RQ1 文献中识别出的人工智能伦理核心原则有哪些？
• RQ2 实践中阻碍人工智能伦理原则采纳的主要挑战是什么？
• RQ3 所识别出的原则与挑战如何指导人工智能伦理成熟度模型的开发？
• RQ4 在不同情境下，伦理AI实施中最常报告的障碍是什么？
• RQ5 文化、技术与组织因素如何影响人工智能伦理原则的解读与应用？

主要发现

• 识别出全球范围内22项核心人工智能伦理原则的趋同共识，其中透明度、隐私、问责制和公平性被最频繁提及。
• 采纳人工智能伦理原则的最大挑战在于从业者缺乏伦理知识，以及伦理准则表述模糊。
• 人权、福祉、数据自主权以及对滥用的意识等原则在各类指南中均被持续强调。
• 冲突的伦理解读、缺乏监督机构以及法律框架的缺失等挑战在多项研究中频繁被报告。
• 研究明确指出，亟需标准化、可操作且情境特定的伦理指导，以弥合原则与实践之间的鸿沟。
• 研究发现为拟议的人工智能伦理成熟度模型提供了基础性输入，以评估并提升人工智能开发组织的伦理能力。