[论文解读] Macro Ethics Principles for Responsible AI Systems: Taxonomy and Future Directions

Jessica Woodgate, Nirav Ajmeri|arXiv (Cornell University)|Aug 12, 2022

Ethics and Social Impacts of AI被引用 5

一句话总结

本文提出了一套源自哲学的23项规范性伦理原则的分类体系，将其转化为负责任AI系统的可操作形式。该研究概述了将这些原则整合进AI推理的方法，识别了多原则实施与伦理困境解决中的空白，并倡导在社会技术系统中采用文化多元、情境敏感的伦理框架，以提升AI决策的公平性与透明度。

ABSTRACT

Responsible AI must be able to make or support decisions that consider human values and can be justified by human morals. Accommodating values and morals in responsible decision making is supported by adopting a perspective of macro ethics, which views ethics through a holistic lens incorporating social context. Normative ethical principles inferred from philosophy can be used to methodically reason about ethics and make ethical judgements in specific contexts. Operationalising normative ethical principles thus promotes responsible reasoning under the perspective of macro ethics. We survey AI and computer science literature and develop a taxonomy of 21 normative ethical principles which can be operationalised in AI. We describe how each principle has previously been operationalised, highlighting key themes that AI practitioners seeking to implement ethical principles should be aware of. We envision that this taxonomy will facilitate the development of methodologies to incorporate normative ethical principles in reasoning capacities of responsible AI systems.

研究动机与目标

• 开发一套源自德性论与功利主义等哲学理论的23项规范性伦理原则的综合分类体系，用于AI系统。
• 识别并分析这些原则在计算机科学与AI文献中先前的可操作化实现方式。
• 填补文献空白，特别是社会技术系统（STS）中多原则整合与伦理困境解决的不足。
• 通过将伦理原则的应用扩展至主流西方框架之外，促进AI中的公平性、可解释性与文化包容性。
• 指导未来在社会技术系统中实现伦理原则，以及通过多元主义与特殊主义方法解决原则间冲突的研究。

提出的方法

• 系统性地调研计算机科学与AI文献，识别源自哲学理论的23项规范性伦理原则。
• 将原则分类为义务论（规则导向）与目的论（后果导向）类别，与功利主义、平等主义等伦理框架相匹配。
• 将每项原则映射至先前的技术实现，突出架构、规范与规则或后果导向推理中的关键设计选择。
• 提出一种在AI推理中可操作化多个伦理原则的框架，强调情境意识与利益相关者价值对齐。
• 建议使用多元主义方法（平衡多项原则）与特殊主义推理（情境敏感的道德相关性评估）来解决伦理困境。
• 倡导通过将价值观、规范与伦理推理整合进以人为本的设计流程，将伦理原则嵌入社会技术系统（STS）中。

实验结果

研究问题

• RQ1 如何系统性地识别并可操作化哲学中的规范性伦理原则？
• RQ2 在AI推理中实现单个伦理原则时，其主要挑战与局限性是什么，特别是当原则冲突或导致不公平结果时？
• RQ3 如何以支持公平性、可解释性与情境敏感性的方式整合多个伦理原则？
• RQ4 文化与情境因素在AI中伦理原则的选择与应用中起什么作用？如何整合多元伦理传统？
• RQ5 在社会技术系统中，如何以原则化且透明的方式解决由原则冲突引发的伦理困境？

主要发现

• 本研究识别并分类了23项源自德性论与功利主义等哲学理论的规范性伦理原则，为AI伦理提供了结构化的分类体系。
• 现有AI中伦理原则的实现多集中于单一原则（如公平性或透明性），对多原则推理或冲突解决的关注有限。
• 伦理原则的可操作化在技术方法上差异显著，包括规则系统、后果评估与美德导向推理，但缺乏标准化框架。
• 在社会技术系统（STS）中应用伦理原则存在显著空白，其中价值观与规范具有情境嵌入性，表明亟需更集成的STS意识方法。
• 当原则冲突或导致不公平结果时，伦理困境频繁出现，凸显需要采用多元主义与情境敏感（特殊主义）方法来解决。
• 未来研究应扩展伦理原则分类体系，纳入被忽视的原则与非西方伦理传统，以提升AI系统的公平性与可及性。