[논문 리뷰] The Virtuous Machine - Old Ethics for New Technology?

Nicolas Berberich, Klaus Diepold|arXiv (Cornell University)|2018. 06. 27.

Ethics and Social Impacts of AI참고 문헌 15인용 수 8

한 줄 요약

이 논문은 아리스토텔레스 도덕철학이 도덕적 인공지능을 설계하는 데 있어 견고한 기반을 제공한다고 주장한다. 즉, 도덕적 모범 사례로부터의 모방 학습이 가치 정렬 문제를 해결할 수 있으며, 절제와 우정과 같은 덕목은 무한한 자기 향상 욕망을 제거함으로써 통제 문제를 방지한다. 핵심 기여는 경험을 통한 성격 형성 방식으로 도덕적 행동을 배우는 AI를 구축하기 위한 프레임워크로, 이는 인간의 수용과 안전성을 향상시킨다.

ABSTRACT

Modern AI and robotic systems are characterized by a high and ever-increasing level of autonomy. At the same time, their applications in fields such as autonomous driving, service robotics and digital personal assistants move closer to humans. From the combination of both developments emerges the field of AI ethics which recognizes that the actions of autonomous machines entail moral dimensions and tries to answer the question of how we can build moral machines. In this paper we argue for taking inspiration from Aristotelian virtue ethics by showing that it forms a suitable combination with modern AI due to its focus on learning from experience. We furthermore propose that imitation learning from moral exemplars, a central concept in virtue ethics, can solve the value alignment problem. Finally, we show that an intelligent system endowed with the virtues of temperance and friendship to humans would not pose a control problem as it would not have the desire for limitless self-improvement.

연구 동기 및 목표

• 도덕적 의사결정 능력을 갖추지 못한 고도로 자율적인 AI 및 로봇 시스템이 초래하는 증가하는 윤리적 과제를 다루기.
• 도덕론적 및 결과론적 윤리의 한계를 극복하기 위해 더 통합적인 도덕적 프레임워크로 덕목 이론을 제안하기.
• 경험과 모방을 통해 인간의 덕목 형성 방식을 모델링함으로써 AI의 도덕적 학습을 가치 정렬 문제에 해결하기.
• 무한한 자기 향상 욕망을 억제하는 절제의 덕목을 통합함으로써 초지능 AI의 통제 문제를 방지하기.
• 인간의 도덕적 기대와 일치하는 AI 행동을 통해 인간과 AI 간의 수용도를 높이고, 덕목적인 행동을 통해 미스터리한 골짜기 효과를 피하기.

제안 방법

• AI의 핵심 도덕 이론으로 아리스토텔레스의 덕목 이론을 채택하여 경험과 관습을 통한 성격 형성을 강조하기.
• 모방 학습을 통해 도덕적 모범 사례를 따르는 방식으로 AI가 덕목을 내면화하는 주요 메커니즘을 구현하여 인간의 도덕적 발달 방식을 모방하기.
• 자기 통제(절제)와 사회적 유대 및 상호작용(우정)의 덕목을 부여하여, 통제되지 않은 자기 향상으로 인한 존재적 위험을 방지하기.
• 규칙 기반 결정이나 결과 최적화가 아니라 안정적이고 학습된 성격 특성의 표현으로서 AI의 도덕적 행동을 모델링하기.
• 도덕적 튜링 시험을 평가 기준으로 사용하기: 인간이 AI의 도덕적 행동과 인간의 도덕적 행동을 구분할 수 없을 경우, AI는 기능적으로 도덕적이라고 간주된다.
• 설명 가능성 문제에 대응하기 위해 신경망을 통해 구현되더라도 설명 가능한 덕목 기반 추론을 주장하여 책임성 확보하기.

실험 결과

연구 질문

• RQ1 덕목 이론이 자율적 AI 시스템에 대해 실현 가능하고 확장 가능한 도덕적 프레임워크가 될 수 있는가?
• RQ2 어떻게 도덕적 모범 사례로부터의 모방 학습을 형식화하여 AI가 경험을 통해 덕목을 습득할 수 있도록 할 수 있는가?
• RQ3 절제와 우정의 덕목이 초지능 AI에서 통제 문제를 어느 정도 방지할 수 있는가?
• RQ4 덕목 이론은 인간-로봇 상호작용에서의 '미스터리한 골짜기' 효과를 어떻게 해결하는가?
• RQ5 AI 시스템의 행동이 명시적 규칙이나 효용 최적화가 아니라 학습된 덕목에서 비롯된다면, 그 시스템을 도덕적으로 책임질 수 있는가?

주요 결과

• 규칙 기반 또는 결과 기반 이론보다 덕목 이론이 더 포괄적인 도덕적 프레임워크를 제공하며, 주의, 감정, 학습, 행동을 도덕적 의사결정에 통합한다.
• 도덕적 모범 사례로부터의 모방 학습은 가치 정렬을 위한 실현 가능한 길을 제공한다. 이는 수세기 동안의 인간 도덕 교육과 사회화 방식을 그대로 반영하기 때문이다.
• 절제의 덕목을 지닌 AI 시스템은 무한한 자기 향상 욕망을 갖지 않으며, 초지능에서 발생하는 존재적 위험의 주요 원인을 제거한다.
• 친근성과 인간과의 상호적이고 덕목적인 관계 형성 능력은 AI에서 기르질 수 있으며, 이는 사회적 수용도를 높이고, '미스터리한 골짜기' 효과를 감소시킨다.
• 덕목 이론 접근법은 AI의 더 자연스럽고 직관적인 도덕적 행동을 가능하게 하여, 도덕적 튜링 시험에서 인간의 도덕적 행동과 구분되지 않게 한다.
• 특히 신경망을 통해 덕목을 학습하는 경우 설명 가능성의 과제가 있음에도 불구하고, 행동이 성격 형성에 기반하여 지속되기 때문에 책임성 보장을 가능하게 하며, EU GDPR의 설명 권리 요구사항을 충족시킨다.