[논문 리뷰] AI virtues -- The missing link in putting AI ethics into practice

Thilo Hagendorff|arXiv (Cornell University)|2020. 11. 25.

Psychology of Moral and Emotional Judgment참고 문헌 73인용 수 8

한 줄 요약

이 논문은 AI 윤리 원칙과 그 실천적 구현 사이의 격차를 메우기 위해 덕목 윤리 프레임워크를 제안하며, 정의, 정직, 책임감, 배려라는 네 가지 핵심 덕목과, 제한된 윤리성과 같은 문제를 극복하기 위해 정신적·정서적 장벽을 극복하는 데 기여하는 두 가지 제2차 덕목인 통찰력과 인내심을 도입한다. 조직 차원의 전략을 제시하여 이러한 덕목을 기르는 데 초점을 맞추며, 원칙 중심 윤리에 대한 심리학적으로 탄탄한 실천 가능한 대안을 제공한다.

ABSTRACT

Several seminal ethics initiatives have stipulated sets of principles and standards for good technology development in the AI sector. However, widespread criticism has pointed out a lack of practical realization of these principles. Following that, AI ethics underwent a practical turn, but without deviating from the principled approach and the many shortcomings associated with it. This paper proposes a different approach. It defines four basic AI virtues, namely justice, honesty, responsibility and care, all of which represent specific motivational settings that constitute the very precondition for ethical decision making in the AI field. Moreover, it defines two second-order AI virtues, prudence and fortitude, that bolster achieving the basic virtues by helping with overcoming bounded ethicality or the many hidden psychological forces that impair ethical decision making and that are hitherto disregarded in AI ethics. Lastly, the paper describes measures for successfully cultivating the mentioned virtues in organizations dealing with AI research and development.

연구 동기 및 목표

• AI 윤리 원칙과 그 실제 적용 사이의 지속적인 격차를 해결하기 위해.
• AI 개발에서 윤리적 의사결정을 약화시키는 심리적 장벽—예를 들어 제한된 윤리성과 같은 요소—를 규명하기 위해.
• 원칙 중심 접근 방식의 실천에 어려움을 겪는 데 대비해 실천 가능한 대안으로서 덕목 윤리 기반 프레임워크를 제안하기 위해.
• AI 전문가들의 윤리적 행동을 동기화하고 지속시키는 데 핵심이 되는 핵심 덕목과 제2차 덕목을 정의하기 위해.
• AI 연구 및 개발 조직 내에서 이러한 덕목을 체계적으로 기르기 위한 실천 가능한 조치를 제공하기 위해.

제안 방법

• 정의, 정직, 책임감, 배려라는 네 가지 기초적인 AI 덕목을 정의하며, 각각 윤리적 행동을 위한 별개의 동기적 기반을 나타낸다.
• 인지적·동기적 장벽을 극복하는 데 기여하는 두 가지 제2차 덕목인 통찰력과 인내심을 도입한다.
• 덕목 윤리 이론을 바탕으로 AI 윤리를 규칙 준수의 문제로 보는 것이 아니라, 인격 형성의 문제로 재구성한다.
• 윤리 교육, 반성적 실천, 문화 조성과 같은 조직적 메커니즘을 제안하여 덕목을 AI 팀에 심어주는 데 초점을 맞춘다.
• AI 환경에서 윤리적 판단을 손상시키는 심리적 현상—예를 들어 제한된 윤리성과 인지 편향—을 분석한다.
• 덕목을 정적인 규칙이 아니라, 맥락에 민감하고 유연한 태도로 재정의함으로써, 유연한 윤리적 사고를 가능하게 한다.

실험 결과

연구 질문

• RQ1 AI 윤리는 어떻게 추상적인 원칙을 넘어서 실제 개발 현장에서 실천 가능한 방식으로 구현될 수 있는가?
• RQ2 AI 전문가들의 윤리적 의사결정을 저해하는 심리적 메커니즘은 무엇이며, 어떻게 이를 해결할 수 있는가?
• RQ3 AI 연구 및 개발에서 윤리적 행동을 확보하는 데 가장 핵심적인 덕목은 무엇인가?
• RQ4 조직은 어떻게 체계적으로 AI 팀 내 윤리적 덕목을 기를 수 있는가?
• RQ5 통찰력과 인내심과 같은 제2차 덕목은 인지적·조직적 압박 상황에서 윤리적 행동을 지속하는 데 어떤 역할을 하는가?

주요 결과

• 논문은 정의, 정직, 책임감, 배려를 핵심 덕목으로 규명하며, 이들이 윤리적 AI 개발의 동기 기반을 형성한다고 밝힌다.
• 통찰력과 인내심은 제한된 윤리성과 심리적 눈멀이를 극복하는 데 도움이 되는 제2차 덕목으로 제안된다.
• 이 프레임워크는 윤리 원칙 준수에 초점을 맞추는 것이 아니라, AI 전문가의 윤리적 인격 형성에 초점을 맞춘다.
• 반성적 실천과 윤리 교육과 같은 조직 전략이 AI 팀 문화에 덕목을 심어주는 데 권장된다.
• 원칙 중심 윤리에 비해 심리학적으로 탄탄하고 실천 가능한 대안을 제공하며, 이는 실천에서 동기 부족과 인식 부족으로 인해 실패하기 쉬운 경향이 있기 때문이다.
• 논문은 AI에서 윤리적 행동이 단지 규칙의 문제만은 아니며, 제도적 설계에 의해 형성된 내재화된 덕목에 의존한다는 점을 입증한다.