[论文解读] Building Ethics into Artificial Intelligence

Han Yu, Zhiqi Shen+4 more|arXiv (Cornell University)|Dec 7, 2018

Ethics and Social Impacts of AI参考文献 34被引用 8

一句话总结

本文提出了一套全面的技术方法分类体系，用于将伦理嵌入人工智能，将近期进展划分为四个领域：伦理困境探索、个体伦理决策、集体伦理决策框架以及人机交互中的伦理。该研究综合了顶级人工智能会议的成果，为研究人员开发可信且伦理对齐的AI系统提供指导。

ABSTRACT

As artificial intelligence (AI) systems become increasingly ubiquitous, the topic of AI governance for ethical decision-making by AI has captured public imagination. Within the AI research community, this topic remains less familiar to many researchers. In this paper, we complement existing surveys, which largely focused on the psychological, social and legal discussions of the topic, with an analysis of recent advances in technical solutions for AI governance. By reviewing publications in leading AI conferences including AAAI, AAMAS, ECAI and IJCAI, we propose a taxonomy which divides the field into four areas: 1) exploring ethical dilemmas; 2) individual ethical decision frameworks; 3) collective ethical decision frameworks; and 4) ethics in human-AI interactions. We highlight the intuitions and key techniques used in each approach, and discuss promising future research directions towards successful integration of ethical AI systems into human societies.

研究动机与目标

• 通过聚焦计算解决方案而非心理学或法律讨论，弥合技术文献中关于人工智能伦理的空白。
• 系统性地对顶级人工智能会议（AAAI、AAMAS、ECAI、IJCAI）中伦理AI的最新进展进行分类。
• 提供一个结构化分类体系，以指导研究人员理解并实现AI系统中的伦理决策。
• 突出伦理AI在社会中集成所面临的重大技术挑战及未来研究方向。
• 通过实证与技术分析，弥合理论伦理与AI系统实际实现之间的鸿沟。

提出的方法

• 提出四部分分类体系：（1）探索伦理困境，（2）个体伦理决策框架，（3）集体伦理决策框架，以及（4）人机交互中的伦理。
• 回顾并分析来自领先人工智能会议和期刊的出版物，以识别各领域中的核心技术与直觉。
• 使用众包和专家评审工具（如GenEth、Moral Machine）来建模人类的伦理偏好与困境。
• 应用基于论证的可解释AI方法，以支持在功利主义伦理框架下对伦理决策的透明性与合理性说明。
• 整合对抗性博弈论，以预测并应对可能破坏伦理AI目标的战略性人类行为。
• 利用迁移学习来建模不同人群之间伦理规范在文化与语境上的差异。

实验结果

研究问题

• RQ1 如何系统性地对人工智能伦理的技术方法进行分类，并在不同研究领域中进行映射？
• RQ2 哪些核心机制使单个AI智能体能够基于伦理原则做出合乎伦理的决策？
• RQ3 在复杂多智能体环境中，多个AI智能体如何协同达成合乎伦理的决策？
• RQ4 在与人类行为相互作用并产生影响的AI系统中，伦理考量应以何种方式被嵌入？
• RQ5 在确保伦理AI决策的透明性、可问责性与鲁棒性方面，仍存在哪些技术与方法论挑战？

主要发现

• 本文指出，现有综述存在关键空白：它们集中于人工智能伦理的心理学、社会学和法律层面，却在很大程度上忽略了技术实现。
• 近期在伦理AI方面的技术进展集中于四个领域：伦理困境探索、个体与集体伦理决策，以及人机交互伦理。
• 众包偏好数据（如Moral Machine项目）虽具参考价值，但受限于自我报告选择与实际行为选择之间的差异。
• 基于论证的可解释AI是合理化伦理决策的有前景方法，尤其适用于功利主义框架，但如何在细节与可用性之间取得平衡仍是挑战。
• 未来AI系统必须考虑人类利用伦理约束的对抗性行为，因此需将对抗性博弈论整合进伦理设计中。
• 伦理规范在文化与语境上的多样性表明，迁移学习与跨文化建模可能是实现可扩展、全球适用的伦理AI所必需的。