[논문 리뷰] The Punishment Gap: The Infeasible Public Attribution of Punishment to AI and Robots

Gabriel Lima, Meeyoung Cha외 2명|arXiv (Cornell University)|2020. 03. 13.

Ethics and Social Impacts of AI참고 문헌 70인용 수 5

한 줄 요약

이 논문은 인공지능과 로봇에 대한 처벌에 대한 대중의 인식을 조사하여, 정서 상태나 신체적 자율성 또는 자산을 부정함에도 불구하고 자동화된 에이전트에게 책임과 처벌을 부여하는 '처벌 격차(punishment gap)'를 드러냈다. 이는 처벌의 보복적 및 경각심 유도 기능을 약화시킨다. 연구는 3,315명의 참가자와 인구통계학적으로 대표적인 미국 표본 244명을 대상으로 설문조사를 실시하여, 일반 대중이 AI에 대해 처벌을 일관되게 부여하지 않는다는 점을 입증하며, 자율 시스템에 대한 법적 및 사회적 논리에서의 심각한 괴리가 드러났다.

ABSTRACT

This paper revisits the debate around the legal personhood of AI and robots, which has been highly sensitive yet important in the face of broad adoption of autonomous and self-learning systems. We conducted a survey ($N$=3,315) to understand lay people's perceptions of this topic and analyzed how they would assign responsibility, awareness, and punishment to AI, robots, humans, and various entities that could be held liable under existing doctrines. Even though people did not recognize any mental state for automated agents, they still attributed punishment and responsibility to these entities. While the participants mostly agreed AI systems could be reformed given punishment, they did not believe such punishment would achieve its retributive and deterrence functions. Moreover, participants were also unwilling to grant automated agents essential punishment preconditions, namely physical independence or assets. We term this contradiction the punishment gap. We also observe the same punishment gap on a demographically representative sample of U.S. residents ($N$=244). We discuss implications of these findings for how legal and social decisions could influence how the public attributes responsibility and punishment to automated agents.

연구 동기 및 목표

• AI 및 로봇에 대해 처벌과 책임을 부여하는 데 대한 대중의 인식을 분석하는 것.
• 일반 대중이 AI에 대한 처벌이 보복적 또는 경각심 유도적 기능을 수행할 수 있는지 조사하는 것.
• 대중이 처벌의 핵심 전제 조건(예: 신체적 자율성 또는 자산 소유)을 자동화된 에이전트에게 부여하는지 평가하는 것.
• 이러한 인식이 AI 책임에 대한 법적 체계와 사회적 수용에 미치는 영향을 탐구하는 것.

제안 방법

• AI, 로봇, 인간에 대해 책임감, 인지 능력, 처벌에 대한 인식을 평가하기 위해 N = 3,315명의 참가자 대상 대규모 설문조사를 실시하였다.
• 처벌의 정당성과 기능적 효율성에 중점을 두고, 다양한 실체 간의 비교적 속성 패턴을 분석하였다.
• 일반화 가능성 검증을 위해 인구통계학적으로 대표적인 미국 표본 N = 244명을 대상으로 연구 결과를 재현하였다.
• 시나리오 기반 질문을 통해 참가자들이 AI에 대한 처벌이 경각심 유도나 보복 기능을 달성할 수 있다고 보는지 평가하였다.
• AI 및 로봇에 대해 처벌의 전제 조건(신체적 자율성, 자산 소유 등)을 어떻게 부여하는지 분석하였다.
• 통계적 분석을 통해 인간, AI, 로봇 에이전트 간 응답을 비교하여 도덕적 및 법적 논리에서의 일관성 없는 점을 규명하였다.

실험 결과

연구 질문

• RQ1 일반 대중이 AI 및 로봇에 대해 정서 상태를 인정하지 않음에도 불구하고 처벌과 책임을 부여하는가?
• RQ2 AI에 대한 처벌이 대중의 인식상 보복적 또는 경각심 유도적 기능을 달성할 수 있는가?
• RQ3 대중은 AI 시스템이 처벌을 받기 위해 필요한 물리적 자율성 또는 자산을 지닌다고 보는가?
• RQ4 다양한 인구통계학적 집단 간에 자동화된 에이전트에 대한 처벌 전제 조건의 부여가 일관되게 이루어지는가?
• RQ5 공중의 AI 처벌 인식은 기존의 책임에 관한 법적 체계와 어떻게 비교되는가?

주요 결과

• 참가자들은 이들 실체에 정서 상태가 없다고 보는 바에도 불구하고 AI 및 로봇에 대해 처벌과 책임을 부여했다.
• 처벌을 부여함에도 불구하고 참가자들은 그것이 보복적 또는 경각심 유도적 기능을 달성할 것이라고 믿지 않았다.
• 대중은 AI 시스템에 처벌의 핵심 전제 조건인 신체적 자율성 또는 자산을 부여하는 것에 대해 망설였다.
• 인구통계학적으로 대표적인 미국 표본 244명에서도 동일한 '처벌 격차'가 관찰되어 연구 결과의 강건성을 확인하였다.
• 참가자들은 AI 시스템이 처벌을 통해 개선될 수 있다고 믿었지만, 이는 처벌의 기능적 요구 조건과 일치하지 않았다.
• 처벌을 부여하면서도 처벌의 기본 조건을 부정하는 이러한 모순은 AI 책임에 대한 공중의 논리에서 발생하는 체계적 불일치를 정의한다.