[논문 리뷰] One Formalization of Virtue Ethics via Learning

Naveen Sundar Govindarajulu, Selmer Bringjsord외 1명|arXiv (Cornell University)|2018. 05. 20.

Logic, Reasoning, and Knowledge참고 문헌 8인용 수 3

한 줄 요약

이 논문은 학습, 감정(특히 존경심), 그리고 유틸리티 기반 추론을 통합하는 인지 미분법을 사용하여 예시 중심의 덕목 윤리학을 공식화한다. 에이전트들이 예시를 관찰하고 내면화하여 덕목적 성격을 습득하는 방식을 모델링하며, 시간과 의도적 변화를 다루는 양적 모달 논리 프레임워크를 통해 기계에서 윤리적 추론을 자동화한다. 이는 도덕적 의무론이나 결과론에 기반한 기계 윤리학이 아닌 덕목 이론에 기반한 기계 윤리학으로 향하는 기초적인 단계를 마련한다.

ABSTRACT

Given that there exist many different formal and precise treatments of deontologi- cal and consequentialist ethics, we turn to virtue ethics and consider what could be a formalization of virtue ethics that makes it amenable to automation. We present an embroyonic formalization in a cognitive calculus (which subsumes a quantified first-order logic) that has been previously used to model robust ethical principles, in both the deontological and consequentialist traditions.

연구 동기 및 목표

• 도덕의무론과 결과론에 비해 덕목 윤리학에 대한 공식적이고 계산 가능한 다루움이 부족한 데 대응하기 위해.
• 특정 버전인 예시 중심의 덕목 이론을 인지 미분법을 사용해 공식화함으로써 인공지능 및 로봇에서 덕목 윤리학의 자동화를 가능하게 하기 위해.
• 특히 존경심을 포함한 감정이 도덕적 이해와 성격 습득의 기초가 되는 방식을 모델링하기 위해.
• 단순한 행동이 아닌 내면화된 성격 소질로 이르는 덕목적 성격 습득 과정을 공식화하기 위해.
• 비형식적인 덕목 윤리학과 기계에서 계산 가능한 윤리적 추론 사이의 격차를 메우기 위해.

제안 방법

• 시간적 및 의도적 변화를 다루는 일阶 양적 모달 논리인 도덕적 인지 사건 미분법(DCEC)을 사용하여 윤리적 추론을 공식화한다.
• 시간과 에이전트를 모두 고려한 총 유틸리티를 계산하는 유틸리티 함수 μ(f,t)를 도입하며, 이는 에이전트별 유틸리티 함수 ν(a,f,t)에서 유도된다.
• OCC(오튼시, 코헨, 콜린스) 모델을 사용해 감정을 모델링하며, 이는 사건의 결과와 관련된 에이전트를 기반으로 기쁨, 슬픔, 동정 등의 감정을 양적 모달 논리로 표현한다.
• 예시에 대한 존경심을 핵심 감정 반응으로 정의하여, 관찰과 학습을 통해 덕목적 성격을 습득하는 과정을 유도한다.
• 지속적인 예시 평가와 그 결과에 기반해 신념과 성격을 시간에 따라 업데이트하는 공식적 메커니즘을 도입한다.
• 증명 기반 의미론에 기반한 반사 조건문 프레임워크를 사용해 윤리적 추론에서 '만약 그렇다면' 상황을 평가한다.

실험 결과

연구 질문

• RQ1 예시 중심의 덕목 윤리학은 어떻게 공식화될 수 있으며, 이를 통해 인공 에이전트에서 자동화가 가능하게 할 수 있는가?
• RQ2 감정, 특히 존경심은 덕목적 성격 습득에 어떤 역할을 하는가? 그리고 이를 어떻게 계산적으로 모델링할 수 있는가?
• RQ3 복잡한 성격 소질의 학습은 어떻게 공식화될 수 있으며, 단순한 행동이 아닌가?
• RQ4 도덕의무론과 결과론 추론을 지원하는 인지 미분법이 학습을 통해 덕목 윤리학까지도 지원할 수 있는가?
• RQ5 시간이 지남에 따라 변화하는 예시와 그 도덕적 지위를 표현하기 위해 어떤 공식적 메커니즘이 필요한가?

주요 결과

• 논문은 인지 미분법 내에서 예시 중심의 덕목 윤리학(Vz)을 Vzf로 공식화하여 기계가 덕목적 행동에 대해 추론할 수 있도록 했다.
• 감정, 특히 존경심은 변화량으로서의 감정으로 모델링되며, 이는 OCC 모델에 기반한 공식적 정의를 통해 이루어진다.
• 총 유틸리티가 시간과 에이전트를 통해 계산되는 유틸리티 기반 프레임워크를 구축하여, 덕목 윤리의 맥락에서 결과론적 평가가 가능하게 하였다.
• 신념과 성격 습득의 동적 업데이트를 지원하는 공식화는 예시와 도덕적 이해의 변화하는 성격을 반영한다.
• 이 접근은 도덕의무론과 결과론 추론을 이미 지원하는 논리가 덕목 윤리학까지도 공식화하고 자동화할 수 있음을 보여준다.
• 이 연구는 덕목 윤리학을 도덕적 인공지능에 통합하기 위한 기초를 제공하며, 학습과 감정에 기반한 덕목 윤리학이 계산적으로 실현 가능하다는 것을 보여준다.