[논문 리뷰] A Human Rights-Based Approach to Responsible AI

Vinodkumar Prabhakaran, Margaret Mitchell외 2명|arXiv (Cornell University)|2022. 10. 06.

Ethics and Social Impacts of AI인용 수 31

한 줄 요약

본 논문은 책임 있는 AI를 보편적인 인권 프레임워크에 기초시키고 문화 간 가치 정렬, 책임 명확화, 시민사회 참여를 가능하게 하려 한다고 주장한다. UDHR 권리를 사용하여 FATE 연구를 인간 복지와 권리 보호 방향으로 재조정할 것을 제안한다.

ABSTRACT

Research on fairness, accountability, transparency and ethics of AI-based interventions in society has gained much-needed momentum in recent years. However it lacks an explicit alignment with a set of normative values and principles that guide this research and interventions. Rather, an implicit consensus is often assumed to hold for the values we impart into our models - something that is at odds with the pluralistic world we live in. In this paper, we put forth the doctrine of universal human rights as a set of globally salient and cross-culturally recognized set of values that can serve as a grounding framework for explicit value alignment in responsible AI - and discuss its efficacy as a framework for civil society partnership and participation. We argue that a human rights framework orients the research in this space away from the machines and the risks of their biases, and towards humans and the risks to their rights, essentially helping to center the conversation around who is harmed, what harms they face, and how those harms may be mitigated.

연구 동기 및 목표

• 보편적이고 문화 간 프레임워크를 사용하여 AI 연구에서 명시적 가치 정렬을 촉진한다.
• AI를 위한 인권의 세 가지 핵심 기능: 도덕적 청구, 법적 제도, 문화적 관습을 강조한다.
• AI 위한 FATE 연구에서 정렬, 책임, 참여의 격차를 인권이 어떻게 해소할 수 있는지 보여준다.
• 권리 기반 어휘와 참여적 프로세스를 통해 기계학습 연구자와 시민사회 간의 간극을 좁힌다.

제안 방법

• 도덕적 청구, 법적 제도, 문화적 관습의 세 가지 관점으로 인권을 명확히 한다.
• UDHR 권리와 AI의 피해 및 거버넌스와의 관련성을 논의한다.
• 세 가지 특정 권리(비차별, 건강, 과학 진보에의 참여)가 AI의 설계, 배포, 거버넌스 고려사항으로 어떻게 전환되는지 설명한다.

실험 결과

연구 질문

• RQ1 다양한 문화 맥락에서 AI 시스템의 가치 정렬을 보편적 인권 프레임워크가 어떻게 가이드할 수 있는가?
• RQ2 AI 피해가 발생했을 때 누가 책임을 지며, 권리 기반 프레임워크가 주체들(국가, 조직, 개인) 간의 의무를 어떻게 배분할 수 있는가?
• RQ3 인권이 AI 기술의 설계, 배포, 거버넌스에 시민사회 참여를 어떻게 촉진할 수 있는가?
• RQ4 UDHR 권리가 AI 응용에서 공정성, 건강 결과, 과학적 혜택에의 접근에 대해 갖는 구체적 시사점은 무엇인가?

주요 결과

• 인권은 AI의 가치 정렬에 있어 문화 간 기반을 제공하며, 서구 가치를 강요하는 위험을 다룬다.
• 권리 기반 시각은 AI 개발 및 배치에서 국가, 조직, 개인 간의 책임을 명확하게 한다.
• 권리 보유자를 이해관계자나 소비자에 국한하지 않고 참여자로 전면에 두면 시민사회 참여가 강화된다.
• 비차별, 건강, 과학 발전에의 접근과 같은 권리는 공정성, 의료 AI, 포용적 혁신에 구체적인 시사점을 제공한다.