[논문 리뷰] Artificial intelligence, human rights, democracy, and the rule of law: a primer

David Leslie, Christopher Burr외 4명|arXiv (Cornell University)|2021. 03. 26.

Legal and Policy IssuesSocial Sciences인용 수 17

한 줄 요약

이 개요는 인권, 민주주의, 법치를 바탕으로 한 인공지능에 대한 법적 프레임워크를 구축하기 위한 유럽위원회의 타당성 조사에 대해 서술한다. 이는 기존의 국제 인권법을 바탕으로 유 binding 및 비binding 규범을 마련하여 AI의 위험과 기회를 다루며, 다자적 이해관계자 참여를 통해 포괄적인 정책 개발을 이끌어내는 것을 목표로 한다.

ABSTRACT

In September 2019, the Council of Europe's Committee of Ministers adopted the terms of reference for the Ad Hoc Committee on Artificial Intelligence (CAHAI). The CAHAI is charged with examining the feasibility and potential elements of a legal framework for the design, development, and deployment of AI systems that accord with Council of Europe standards across the interrelated areas of human rights, democracy, and the rule of law. As a first and necessary step in carrying out this responsibility, the CAHAI's Feasibility Study, adopted by its plenary in December 2020, has explored options for an international legal response that fills existing gaps in legislation and tailors the use of binding and non-binding legal instruments to the specific risks and opportunities presented by AI systems. The Study examines how the fundamental rights and freedoms that are already codified in international human rights law can be used as the basis for such a legal framework. The purpose of this primer is to introduce the main concepts and principles presented in the CAHAI's Feasibility Study for a general, non-technical audience. It also aims to provide some background information on the areas of AI innovation, human rights law, technology policy, and compliance mechanisms covered therein. In keeping with the Council of Europe's commitment to broad multi-stakeholder consultations, outreach, and engagement, this primer has been designed to help facilitate the meaningful and informed participation of an inclusive group of stakeholders as the CAHAI seeks feedback and guidance regarding the essential issues raised by the Feasibility Study.

연구 동기 및 목표

• 광범위한 청중을 대상으로 유럽위원회의 인공지능 거버넌스 타당성 조사에 대한 비기술적 개요를 제공하기 위해.
• 기존의 국제 인권법이 어떻게 인공지능 시스템을 규제하는 데 기초가 될 수 있는지 명확히 하기 위해.
• 인공지능, 인권, 법치의 핵심 개념을 설명하여 포괄적인 이해관계자 참여를 지원하기 위해.
• 현재의 법률에 존재하는 격차를 식별하고, 인공지능 개발 및 구현을 위한 맞춤형 법적 규범—binding 및 비binding—을 제안하기 위해.
• 타당성 조사에서 제기된 핵심 문제들에 대해 다양한 이해관계자로부터 피드백과 지침을 유도하기 위해.

제안 방법

• 유럽위원회의 권한과 국제 인권법을 바탕으로, 기존 법적 규범들로부터 도출된 원칙들을 통합한다.
• 기존의 인간 권리 기준, 예를 들어 차별 금지, 사생활 보호, 정당 절차 원칙 등과 함께 인공지능 시스템의 위험과 기회를 매핑한다.
• 이 접근법은 인공지능 거버넌스에서 인권, 민주주의, 법치가 상호 의존적이라는 점을 강조한다.
• 감시, 투명성, 책임성 등의 메커니즘을 포함하여 준수를 위한 방법론을 제시한다.
• 넓은 이해관계자 참여와 이해를 보장하기 위해 이해하기 쉬운 언어와 체계적인 설명을 사용한다.
• 포괄성과 정당성을 확보하기 위해 다자적 이해관계자 회의의 의견을 통합한다.

실험 결과

연구 질문

• RQ1 기존의 국제 인권법은 어떻게 인공지능 시스템을 규제하는 데 적용될 수 있는가?
• RQ2 인간의 권리, 민주주의, 법치와 관련하여 인공지능이 초래하는 주요 위험과 기회들은 무엇인가?
• RQ3 AI 관련 과제를 해결하기 위해 가장 적절한 법적 규범의 유형—binding 또는 비binding—은 무엇인가?
• RQ4 포괄적인 다자적 이해관계자 과정은 어떻게 인공지능 거버넌스 프레임워크의 정당성과 효과성을 높이는가?
• RQ5 투명성, 책임성, 차별 금지와 같은 원칙들이 공정한 인공지능 생태계를 형성하는 데 어떤 역할을 하는가?

주요 결과

• 타당성 조사에서는 인공지능을 규율하는 현재의 법률에 심각한 격차가 존재하며, 특히 국경을 초월하는 위험과 체계적 위험 규제 측면에서 그렇다.
• 기존의 국제 인권법은 기본 권리 보호 측면에서 인공지능을 위한 법적 프레임워크를 개발하는 데 강력한 기초를 제공한다.
• 연구는 인간의 권리, 민주주의, 법치가 인공지능 거버넌스에서 상호 강화되는 원칙임을 확인한다.
• 유럽위원회의 접근법은 위험 평가에 기반하여 필요에 따라 유 binding 법적 규범을 우선시하고, 적절한 경우 비binding 지침을 활용한다.
• 정당성, 투명성, 효과성 확보를 위해 이해관계자 참여가 필수적이다.
• 이 개요는 비기술적 청중이 복잡한 법적 및 윤리적 쟁점을 이해하고 정책 개발에 더 넓은 참여를 이끌어내는 데 성공했다.