[论文解读] Towards a Theory of Justice for Artificial Intelligence

Iason Gabriel|arXiv (Cornell University)|Oct 27, 2021

Ethics and Social Impacts of AI被引用 8

一句话总结

本文提出了一种基于约翰·罗尔斯分配正义原则的AI正义理论，主张AI系统必须具有公开正当性，保护公民权利，并促进实质性公平结果——尤其惠及社会中最弱势群体。该理论将社会技术系统视为社会的基本结构，要求AI通过包容性设计与影响评估满足平等主义正义标准。

ABSTRACT

This paper explores the relationship between artificial intelligence and principles of distributive justice. Drawing upon the political philosophy of John Rawls, it holds that the basic structure of society should be understood as a composite of socio-technical systems, and that the operation of these systems is increasingly shaped and influenced by AI. As a consequence, egalitarian norms of justice apply to the technology when it is deployed in these contexts. These norms entail that the relevant AI systems must meet a certain standard of public justification, support citizens rights, and promote substantively fair outcomes -- something that requires specific attention be paid to the impact they have on the worst-off members of society.

研究动机与目标

• 建立一个与分配正义原则相一致的AI规范框架。
• 解决AI系统作为社会基本结构一部分时，必须遵守平等主义正义标准的问题。
• 确保AI系统具有公开正当性，且不会加剧不平等。
• 强调AI必须支持公平结果，尤其是对边缘化或最弱势群体的公平性。
• 通过将罗尔斯理想应用于社会技术系统，将政治哲学整合到AI治理中。

提出的方法

• 将约翰·罗尔斯的正义公平理论适配至人工智能语境。
• 将社会的基本结构重新概念化为包含AI的社会技术系统的复合体。
• 将公开正当性原则应用于AI的设计与部署，要求透明性与合理性。
• 通过罗尔斯差异原则派生的公平性标准，评估AI系统对最弱势群体的影响。
• 将公民权利整合至AI系统需求中，以确保免受不公正结果的影响。
• 以规范性政治哲学为基础，评估AI在社会制度中的伦理正当性。

实验结果

研究问题

• RQ1 如何将罗尔斯的正义原则应用于人工智能系统的设计与部署？
• RQ2 AI系统以何种方式成为社会基本结构的一部分，这又意味着何种伦理责任？
• RQ3 AI系统必须满足何种标准，才能在正义理论下被视为具有公开正当性？
• RQ4 如何构建AI系统以促进实质性公平结果，尤其是对社会中最弱势群体的公平性？
• RQ5 公民权利在社会技术系统中确保公正AI系统方面发挥何种作用？

主要发现

• AI系统必须具有公开正当性，即其设计与运行必须对所有合理公民透明且可接受。
• 社会技术系统的运作——日益由AI塑造——必须维护平等主义的正义规范。
• AI的部署必须积极支持公民权利，尤其在权力失衡可能导致不公平结果的情境中。
• 实质性公平要求AI系统依据其对最弱势群体的影响进行评估，而不仅仅是基于形式平等或效率。
• 将罗尔斯原则整合至AI治理中，可确保技术成为正义的工具而非不平等的工具。
• 包含AI的社会技术系统必须进行重构，以优先考虑公平与包容性，尤其针对边缘化群体。