[논문 리뷰] Towards a Theory of Justice for Artificial Intelligence

Iason Gabriel|arXiv (Cornell University)|2021. 10. 27.

Ethics and Social Impacts of AI인용 수 8

한 줄 요약

이 논문은 약물분배 정책의 공정성 원칙을 기반으로 한 인공지능에 대한 정의 이론을 제안하며, 존 로울스의 분배 정의 원칙에 뿌리를 두고 있다. 이는 AI 시스템이 공공적으로 정당화되어야 하며, 시민의 권리 보호와 특히 사회의 가장 열악한 계층을 위한 실질적인 공정한 결과를 추구해야 한다고 주장한다. 이 논문은 사회기술 시스템을 사회의 기본 구조로 프레임워크화하여, 포괄적 설계와 영향 평가를 통해 평등한 정의 기준을 충족하는 AI가 되어야 한다고 제시한다.

ABSTRACT

This paper explores the relationship between artificial intelligence and principles of distributive justice. Drawing upon the political philosophy of John Rawls, it holds that the basic structure of society should be understood as a composite of socio-technical systems, and that the operation of these systems is increasingly shaped and influenced by AI. As a consequence, egalitarian norms of justice apply to the technology when it is deployed in these contexts. These norms entail that the relevant AI systems must meet a certain standard of public justification, support citizens rights, and promote substantively fair outcomes -- something that requires specific attention be paid to the impact they have on the worst-off members of society.

연구 동기 및 목표

• 분배 정의 원칙과 일치하는 AI에 대한 규범적 프레임워크를 수립하기 위해.
• AI 시스템이 사회의 기본 구조의 일부로서 평등한 정의 기준을 유지해야 한다는 점을 다루기 위해.
• AI 시스템이 공공적으로 정당화되어야 하며, 불평등을 악화시키지 않아야 한다는 점을 확보하기 위해.
• 특히 소외되거나 가장 열악한 계층을 위한 공정한 결과를 지원해야 한다는 필요성을 강조하기 위해.
• 로울스의 이상을 사회기술 시스템에 적용함으로써 정치철학을 AI 거버넌스에 통합하기 위해.

제안 방법

• 인간지능에 대한 정의 이론을 인공지능의 맥락에 적응시키기 위해.
• 사회 기초 구조를 AI를 포함한 사회기술 시스템의 복합체로 재구성하기 위해.
• 공공적 정당성 원칙을 AI 설계 및 구현에 적용하여 투명성과 합리성을 요구하기 위해.
• 로울스의 차별 원칙에서 유도된 공정성 기준을 사용하여 AI 시스템의 가장 열악한 계층에 대한 영향을 평가하기 위해.
• 불공정한 결과로부터의 보호를 보장하기 위해 시민의 권리 요구사항을 AI 시스템 요구사항에 통합하기 위해.
• 규범적 정치철학을 기반으로 하여 사회 기관 내 AI의 윤리적 정당성을 평가하기 위해.

실험 결과

연구 질문

• RQ1 로울스의 정의 원칙은 어떻게 인공지능 시스템의 설계 및 구현에 적용될 수 있는가?
• RQ2 AI 시스템은 어떻게 사회의 기본 구조의 일부가 되며, 이를 통해 어떤 윤리적 의무를 지니는가?
• RQ3 정의 이론에 따라 AI 시스템이 공공적으로 정당화될 수 있도록 해야 하는 기준은 무엇인가?
• RQ4 어떻게 하면 AI가 특히 사회의 가장 열악한 계층을 위해 실질적인 공정한 결과를 추구하도록 구성할 수 있는가?
• RQ5 시민의 권리가 사회기술 시스템 내에서 정의로운 AI 시스템을 확보하는 데 어떤 역할을 하는가?

주요 결과

• AI 시스템은 공공적으로 정당화되어야 하며, 이는 설계 및 운영이 모든 합리적인 시민에게 수용 가능해야 한다는 것을 의미한다.
• AI에 의해 점점 더 영향을 받는 사회기술 시스템의 운영은 평등한 정의 기준을 유지해야 한다.
• AI의 구현은 특히 권력 불균형이 불공정한 결과를 초래할 수 있는 맥락에서 시민의 권리 보호를 적극적으로 지원해야 한다.
• 실질적 공정성은 형식적 평등성이나 효율성만을 고려하는 것이 아니라, 가장 열악한 계층에 대한 영향을 기준으로 AI 시스템을 평가해야 한다는 것을 의미한다.
• 로울스의 원칙을 AI 거버넌스에 통합함으로써 기술이 불평등을 위한 도구가 아니라 정의를 위한 도구가 될 수 있음을 보장한다.
• AI를 포함한 사회기술 시스템은 특히 소외된 집단을 위해 공정성과 포용성을 우선시하도록 재구조화되어야 한다.