[论文解读] A Human Rights-Based Approach to Responsible AI

Vinodkumar Prabhakaran, Margaret Mitchell+2 more|arXiv (Cornell University)|Oct 6, 2022

Ethics and Social Impacts of AI被引用 31

一句话总结

本文主张以普遍的人权框架来为负责任的人工智能奠定基础，以在跨文化层面统一价值观、澄清责任，并促进公民社会参与。它倡导以 UDHR 权利来引导 FATE 研究转向人类福祉与权利保护.

ABSTRACT

Research on fairness, accountability, transparency and ethics of AI-based interventions in society has gained much-needed momentum in recent years. However it lacks an explicit alignment with a set of normative values and principles that guide this research and interventions. Rather, an implicit consensus is often assumed to hold for the values we impart into our models - something that is at odds with the pluralistic world we live in. In this paper, we put forth the doctrine of universal human rights as a set of globally salient and cross-culturally recognized set of values that can serve as a grounding framework for explicit value alignment in responsible AI - and discuss its efficacy as a framework for civil society partnership and participation. We argue that a human rights framework orients the research in this space away from the machines and the risks of their biases, and towards humans and the risks to their rights, essentially helping to center the conversation around who is harmed, what harms they face, and how those harms may be mitigated.

研究动机与目标

• 在人工智能研究中使用普遍、跨文化框架来促进明确的价值对齐。
• 凸显人权在 AI 中的三大核心功能：道义主张、法律制度和文化实践。
• 展示人权如何解决 FATE 研究中的对齐、责任和参与缺口。
• 通过以权利为基础的词汇和参与性过程，缩小机器学习研究者与公民社会之间的差距。

提出的方法

• 阐述人权的三重视角：道义主张、法律制度与文化实践。
• 讨论 UDHR 权利及其与 AI 伤害和治理相关性。
• 说明三项具体权利（不得歧视、健康、共享科学进步）如何转化为 AI 的设计、部署与治理考虑。

实验结果

研究问题

• RQ1 在跨越多元文化背景的 AI 系统中，如何利用普遍的人权框架来指引价值对齐？
• RQ2 当 AI 造成伤害时，谁应承担责任，以及以权利为基础的框架如何在国家、组织和个人之间分配义务？
• RQ3 人权如何促进公民社会参与 AI 技术的设计、部署和治理？
• RQ4 UDHR 权利在 AI 应用中的公平、健康结果与获取科学利益方面有哪些具体影响？

主要发现

• 人权为 AI 的价值对齐提供跨文化基础，解决西方价值强加的风险。
• 以权利为基础的视角澄清了在 AI 开发与部署中国家、组织与个人的责任。
• 当权利所有者被作为参与者而非仅仅是利益相关者或消费者置于前景时，公民社会的参与就会增强。
• 如不得歧视、健康与获得科学进步等权利对公平、医疗保健 AI 以及包容性创新具有具体影响。