[논문 리뷰] Responsible AI and Its Stakeholders

Gabriel Lima, Meeyoung Cha|arXiv (Cornell University)|2020. 04. 23.

Ethics and Social Impacts of AI참고 문헌 15인용 수 7

한 줄 요약

이 논문은 책임 있는 AI가 인간 이해관계자들만 책임지게 하는 데서 그치지 않고, 비난 가능성, 책임성, 배상책임을 통해 자율 AI 시스템 자체가 책임질 수 있고Should be responsible하다고 제안함으로써 책임 있는 AI의 범위를 넓힌다. AI가 도덕적 능력을 지니지 못하더라도, 사회적 복수주의와 법적 혁신(예: 전자적 법적 인격)을 통해 AI가 책임을 지게 할 수 있으며, 이는 자율 시스템에서 발생하는 핵심적인 법적 및 도덕적 갭을 메울 수 있다고 주장한다.

ABSTRACT

Responsible Artificial Intelligence (AI) proposes a framework that holds all stakeholders involved in the development of AI to be responsible for their systems. It, however, fails to accommodate the possibility of holding AI responsible per se, which could close some legal and moral gaps concerning the deployment of autonomous and self-learning systems. We discuss three notions of responsibility (i.e., blameworthiness, accountability, and liability) for all stakeholders, including AI, and suggest the roles of jurisdiction and the general public in this matter.

연구 동기 및 목표

• 자율적이고 자기학습형 AI 시스템이 인간 이해관계자들에게 책임을 회피하게 하는 법적 및 도덕적 갭을 해결하기 위해.
• 개발자, 사용자, 제조업체 이외의 대상으로 AI가 책임의 정당한 주체가 될 수 있는지 조사하기 위해.
• 도덕적 능력이 부족함에도 불구하고 비난 가능성, 책임성, 배상책임을 AI에 부여하는 것이 가능한지 검토하기 위해.
• 전통적인 도덕적 책임 기준을 충족하지 못함에도 불구하고, 공중과 사법 기관이 AI에게 책임을 지우는 데에 얼마나 열린지를 탐구하기 위해.
• AI를 인간 행위자의 도구가 아니라 직접적인 책임 주체로 포함하는 방식으로 책임 있는 AI 프레임워크를 재고하기 위해.

제안 방법

• van de Poel 등(2012)을 이론적 기초로 삼아, 뒤로 돌아보는 책임 개념 세 가지—비난 가능성, 책임성, 배상책임—을 분석한다.
• 비난 가능성의 다섯 조건(도덕적 능력, 인과성, 지식, 자유, 잘못된 행위)을 검토하고 이를 AI 및 인간 이해관계자에 적용한다.
• AI가 잘못된 행동에 기여한 인과적 역할을 평가하여 책임성과 배상책임의 기초로 삼는다.
• 실제 사례인 우버의 보행자 사망 사고에서의 배상책임을 분석하여 현재의 법적 관행과 그 한계를 설명한다.
• AI에게 전자적 법적 인격을 부여함으로써 책임을 부여할 수 있는 법적 및 사회적 영향을 탐구한다.
• 공중 인식 데이터와 철학적 추론을 활용하여, 비록 비자율적이라도 사회적 복수주의가 공중이 AI에게 비난을 돌리는 데 영향을 줄 수 있음을 주장한다.

실험 결과

연구 질문

• RQ1 AI가 도덕적 능력이 없더라도 그 행동에 대해 의미 있게 비난 가능할 수 있는가?
• RQ2 AI가 행동 능력과 결과에 대한 인과적 관여를 지닌 바탕으로, 그 행동에 대해 어느 정도 책임질 수 있는가?
• RQ3 전자적 법적 인격 같은 메커니즘을 통해 AI에게 법적·윤리적으로 배상책임을 부여하는 것이 가능한가?
• RQ4 공중의 복수주의가 의도성이 없음에도 불구하고 AI를 비난의 대상으로 보는 인식에 어떤 영향을 미치는가?
• RQ5 자율 시스템의 법적 및 윤리적 책임에서 AI를 배제할 경우의 영향은 무엇인가?

주요 결과

• AI는 현재 도덕적 능력의 주체로 인정되지 않으며, 도덕적 능력과 이해 등의 전통적 비난 가능성 조건을 충족할 수 없다.
• 도덕적 능력이 없음에도 불구하고, 공중의 복수주의가 AI의 해로운 결과에 대한 인과적 역할을 고려해 비난을 돌릴 수 있다.
• AI와 잘못된 행동 사이의 인과적 연결은 강하고 종종 명확하므로, 책임성과 배상책임의 핵심 조건을 충족한다.
• 우버나 볼보와 같은 기업이 현재 AI 행동에 대한 책임을 지고 있지만, 이는 혁신을 저해할 수 있으며 체계적 책임 갭을 해결하지 못한다.
• 법적 프레임워크를 개선하여 AI에게 전자적 법적 인격을 부여함으로써 자산 보유나 보험을 통해 손해 배상이 가능하게 할 수 있다.
• AI가 처벌될 수 없다는 것을 알고도 공중이 AI에게 책임을 지우는 데에 의향을 보이고 있어, 사회적으로 AI를 책임의 대상으로 보는 경향의 변화가 나타난다.