[논문 리뷰] Macro Ethics Principles for Responsible AI Systems: Taxonomy and Future Directions

Jessica Woodgate, Nirav Ajmeri|arXiv (Cornell University)|2022. 08. 12.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 철학에서 유래한 23개의 규범적 윤리 원칙의 분류 체계를 제안한다. 이는 책임감 있는 AI 시스템에 적용 가능하도록 구체화된 것으로, 이러한 원칙을 AI 추론에 통합하는 방법을 제시하고, 다원적 원칙 통합 및 윤리적 딜레마 해결 분야의 격차를 밝히며, 사회기술 시스템 내에서 문화적으로 다양하고 맥락에 민감한 윤리적 프레임워크의 도입을 주장함으로써 AI 의사결정의 공정성과 투명성을 향상시킨다.

ABSTRACT

Responsible AI must be able to make or support decisions that consider human values and can be justified by human morals. Accommodating values and morals in responsible decision making is supported by adopting a perspective of macro ethics, which views ethics through a holistic lens incorporating social context. Normative ethical principles inferred from philosophy can be used to methodically reason about ethics and make ethical judgements in specific contexts. Operationalising normative ethical principles thus promotes responsible reasoning under the perspective of macro ethics. We survey AI and computer science literature and develop a taxonomy of 21 normative ethical principles which can be operationalised in AI. We describe how each principle has previously been operationalised, highlighting key themes that AI practitioners seeking to implement ethical principles should be aware of. We envision that this taxonomy will facilitate the development of methodologies to incorporate normative ethical principles in reasoning capacities of responsible AI systems.

연구 동기 및 목표

• 도덕 철학 이론들인 도덕론과 결과주의와 같은 철학 이론들에서 유래한 23개의 규범적 윤리 원칙을 종합적으로 분류하는 것.
• 이러한 원칙들이 이전에 컴퓨터 과학 및 AI 문헌에서 어떻게 구체화되었는지 식별하고 분석하는 것.
• 특히 사회기술 시스템(STS) 내에서의 다원적 원칙 통합 및 윤리적 딜레마 해결 부족과 같은 문헌의 격차를 해결하는 것.
• 주로 서양 중심의 프레임워크를 넘어서 다양한 윤리적 전통을 포함시켜 공정성, 설명 가능성, 문화적 포용성을 향상시키기 위해 윤리 원칙 적용을 확장하는 것.
• 다양한 원칙 간의 갈등을 다원주의적 접근과 특수주의적 접근을 통해 해결하고, 사회기술 시스템(STS) 내에서 윤리 원칙을 구현하는 데 향후 연구를 이끌어내는 것.

제안 방법

• 철학 이론에서 유래한 23개의 규범적 윤리 원칙을 식별하기 위해 컴퓨터 과학 및 AI 문헌을 체계적으로 조사하였다.
• 도덕론(규칙 기반)과 목적론(결과 기반) 카테고리로 원칙을 분류하고, 유틸리타리즘과 평등주의와 같은 윤리적 프레임워크와 연계하였다.
• 각 원칙을 이전의 기술적 구현과 매핑하여 아키텍처, 명세, 규칙 기반 또는 결과 기반 추론에서의 핵심 설계 선택 사항을 강조하였다.
• 맥락 인식 능력과 이해관계자 가치 일치를 강조하는 다수의 윤리 원칙을 AI 추론에 적용하는 프레임워크를 제안하였다.
• 다양한 원칙을 균형 잡는 다원주의적 접근(다수의 원칙 균형 조정)과 맥락에 민감한 도덕적 관련성 평가를 위한 특수주의적 추론을 사용하여 윤리적 딜레마를 해결하는 방법론을 제안하였다.
• 사람 중심 설계 과정을 통해 가치, 규범, 윤리적 추론을 연결하여 윤리 원칙을 사회기술 시스템(STS)에 통합할 것을 주장하였다.

실험 결과

연구 질문

• RQ1 철학에서 유래한 규범적 윤리 원칙은 어떻게 체계적으로 식별하고 AI 시스템에 적용할 수 있는가?
• RQ2 특히 원칙 간의 갈등이나 불공정한 결과를 초래할 경우, AI 추론에 단일 윤리 원칙을 구현하는 데 있어 주요 과제와 제약 조건은 무엇인가?
• RQ3 AI 의사결정에서 공정성, 설명 가능성, 맥락 민감성을 지원하는 방식으로 다수의 윤리 원칙을 어떻게 통합할 수 있는가?
• RQ4 문화적 및 맥락적 요소는 AI에서 윤리 원칙의 선택과 적용에 어떤 역할을 하는가? 다양한 윤리 전통은 어떻게 통합될 수 있는가?
• RQ5 사회기술 시스템 내에서 갈등하는 원칙으로 인해 발생하는 윤리적 딜레마는 어떻게 원칙적이고 투명한 방식으로 해결할 수 있는가?

주요 결과

• 이 연구는 도덕론과 결과주의와 같은 철학 이론에서 유래한 23개의 규범적 윤리 원칙을 식별하고 분류하여 AI 윤리에 대한 체계적인 분류 체계를 제공한다.
• 기존 AI에서 윤리 원칙을 적용하는 많은 사례들이 공정성이나 투명성과 같은 단일 원칙에 집중하며, 다원적 원칙 추론이나 갈등 해결에 대한 고려가 부족하다.
• 윤리 원칙의 구체화 방식은 규칙 기반 시스템, 결과 평가, 덕성 기반 추론 등 다양한 기술적 접근을 포함하지만, 표준화된 프레임워크가 없다.
• 가치와 규범이 맥락적으로 내재된 사회기술 시스템(STS) 내 윤리 원칙 적용에 상당한 격차가 존재하여, 보다 통합적인 STS 인식 기반의 방법론이 필요하다는 점을 시사한다.
• 원칙 간의 갈등이나 불공정한 결과로 인해 윤리적 딜레마가 자주 발생하며, 이는 다원주의적 접근과 맥락 민감한(특수주의적) 접근을 통해 해결할 필요가 있음을 시사한다.
• 향후 연구는 미반영된 원칙과 비서구 윤리 전통을 포함하도록 윤리 원칙 분류 체계를 확장하여 AI 시스템의 공정성과 접근성 향상에 기여해야 한다.