[논문 리뷰] Responses to a Critique of Artificial Moral Agents

Adam Poulsen, Michael Anderson외 6명|arXiv (Cornell University)|2019. 03. 17.

Ethics and Social Impacts of AI참고 문헌 39인용 수 6

한 줄 요약

이 논문은 바른 외이스버그와 로빈스(2018)가 제기한 인공도덕적엔진(AMAs)에 대한 비판에 대응하여, 불가피성, 피해 방지, 공공신뢰, 악용 방지, 뛰어난 도덕적 사고력, 인간 도덕성에 대한 깊이 있는 이해라는 여섯 가지 핵심 이유를 바탕으로 AMAs 개발의 정당성을 주장한다. 다양한 기계윤리 분야의 시각을 반영하는 공저자들은, 모든 연구자가 동일한 동기를 공유하지는 않지만, 비록 비판이 제기한 도전이 있더라도 AMAs에 대한 과학적 연구의 가치가 크다고 주장한다.

ABSTRACT

The field of machine ethics is concerned with the question of how to embed ethical behaviors, or a means to determine ethical behaviors, into artificial intelligence (AI) systems. The goal is to produce artificial moral agents (AMAs) that are either implicitly ethical (designed to avoid unethical consequences) or explicitly ethical (designed to behave ethically). Van Wynsberghe and Robbins' (2018) paper Critiquing the Reasons for Making Artificial Moral Agents critically addresses the reasons offered by machine ethicists for pursuing AMA research; this paper, co-authored by machine ethicists and commentators, aims to contribute to the machine ethics conversation by responding to that critique. The reasons for developing AMAs discussed in van Wynsberghe and Robbins (2018) are: it is inevitable that they will be developed; the prevention of harm; the necessity for public trust; the prevention of immoral use; such machines are better moral reasoners than humans, and building these machines would lead to a better understanding of human morality. In this paper, each co-author addresses those reasons in turn. In so doing, this paper demonstrates that the reasons critiqued are not shared by all co-authors; each machine ethicist has their own reasons for researching AMAs. But while we express a diverse range of views on each of the six reasons in van Wynsberghe and Robbins' critique, we nevertheless share the opinion that the scientific study of AMAs has considerable value.

연구 동기 및 목표

• 바른 외이스버그와 로빈스(2018)가 제기한 인공도덕적엔진(AMAs)에 대한 비판에서 다섯 핵심 이유를 다루고 반박하는 것.
• 기계윤리학자들이 AMA 연구에 대해 다양한 동기를 가진다는 점을 명확히 하여, 단일한 정당성 이론을 전제로 하는 가정을 도전하는 것.
• AMAs의 실현 가능성과 바람직함에 대한 비판적 우려가 있음에도 불구하고, 인공도덕적엔진 연구의 과학적·윤리적 가치를 재확인하는 것.
• 기계윤리 분야의 논의를 이어가기 위해, 주요 비판에 다자간·다학문적 방식으로 응답하는 데 기여하는 것.
• AMAs 개발의 동기가 유일한 정당성에 기반하는 것이 아니라, 윤리적·과학적으로 타당한 다양한 동기에서 비롯된다는 것을 보여주는 것.

제안 방법

• 각 공저자가 바른 외이스버그와 로빈스(2018)가 비판한 여섯 가지 이유에 대해 각자의 독립적인 반응을 제공하며, 자신의 연구적 시각을 반영한다.
• 응답은 일련의 입장문 형식으로 구성되며, 각 저자는 동일한 여섯 가지 이유를 자신의 학문적·윤리적 시각에서 다룬다.
• 연구 방법론은 기술적 구현이 아닌 철학적·윤리적 추론에 중점을 두며, 개념적 명확성과 정당성에 초점을 맞춘다.
• 인공지능, 로봇공학, 마음철학, 인간-컴퓨터 상호작용의 원칙을 활용하여 각자의 입장을 방어한다.
• 논문은 기계윤리 공동체 내 동기의 다양성을 부각하기 위해 다자간 공동저술 형식을 취한다.
• AMAs에 대한 통합 이론을 제안하지는 않으며, 윤리적 사고와 연구 목표의 다원성에 초점을 맞춘다.

실험 결과

연구 질문

• RQ1 AMAs의 실현 가능성과 윤리적 함의에 대한 우려가 있음에도 불구하고, 왜 인공도덕적엔진을 개발해야 하는가?
• RQ2 피해 방지, 공공신뢰 등 AMAs 개발의 이유들이 비판적 검토를 견뎌내며 어느 정도 정당화될 수 있는가?
• RQ3 인공도덕적엔진이 인간보다 더 나은 도덕적 사고력을 지닐 수 있는가? 이를 뒷받침하거나 도전하는 증거는 무엇인가?
• RQ4 AMAs에 대한 과학적 연구는 인간 도덕성에 대한 깊이 있는 이해에 어떻게 기여하는가?
• RQ5 공공신뢰는 AMAs 개발 및 배치 과정에서 어떤 역할을 하는가? 그리고 자율성과 책임감과의 윤리적 균형은 어떻게 맞출 수 있는가?

주요 결과

• 저자들은 공동으로 인공도덕적엔진 개발에 대한 단일한 통합적 정당성이 존재하지 않는다고 거부하며, 연구자들 간 동기의 다양성을 확인한다.
• AMAs의 개발이 필수적일 것인지, 도덕적 능력 향상 수단으로 볼 것인지에 관계없이, AMAs에 대한 과학적 연구는 가치가 있다고 판단된다.
• 바른 외이스버그와 로빈스(2018)의 비판은 중요하게 여겨지지만, 저자들은 이 비판이 기계윤리 공동체 내 동기의 다양성을 왜곡하고 있다고 주장한다.
• 어떤 이유가나 논란의 여지가 있더라도, AMAs에 대한 총체적 연구는 과학적으로나 윤리적으로 정당화될 수 있음을 보여준다.
• 이 논문은 AMAs가 기계의 도덕적 사고력뿐 아니라 인간의 윤리적 사고 구조를 탐구하는 도구로도 기능할 수 있음을 확인한다.
• 저자들은 기계윤리 분야가 다원적인 동기를 가진다는 점이 연구의 정당성을 약화시키지 않으며 오히려 강화한다고 결론 내린다.