[논문 리뷰] From Algorithmic Black Boxes to Adaptive White Boxes: Declarative Decision-Theoretic Ethical Programs as Codes of Ethics

Martijn van Otterlo|arXiv (Cornell University)|2017. 11. 16.

Ethics and Social Impacts of AI참고 문헌 19인용 수 6

한 줄 요약

이 논문은 인간의 가치와 일치하는 AI 결정을 가능하게 하기 위해 투명하고 형식화된 윤리규범으로서의 선언적 의사결정 이론적 윤리 프로그램(DDTEP)을 제안한다. 전문 윤리규범을 논리 기반 모델로 변환함으로써, 아카이브 및 자율 시스템과 같은 분야에서 해석 가능하고 책임감 있는, 학습 가능한 윤리적 추론이 가능해지며, 시범 응용 사례를 통해 장난감 딜레마와 게이트키핑 시나리오에서의 타당성이 입증되었다.

ABSTRACT

Ethics of algorithms is an emerging topic in various disciplines such as social science, law, and philosophy, but also artificial intelligence (AI). The value alignment problem expresses the challenge of (machine) learning values that are, in some way, aligned with human requirements or values. In this paper I argue for looking at how humans have formalized and communicated values, in professional codes of ethics, and for exploring declarative decision-theoretic ethical programs (DDTEP) to formalize codes of ethics. This renders machine ethical reasoning and decision-making, as well as learning, more transparent and hopefully more accountable. The paper includes proof-of-concept examples of known toy dilemmas and gatekeeping domains such as archives and libraries.

연구 동기 및 목표

• 전문 윤리규범에서 인간이 합의한 윤리적 원칙을 형식화하여 AI의 가치 일치 문제를 해결한다.
• 알고리즘적 '블랙박스'의 투명성 부족 문제를 논리적 모델링을 통해 해소하여 해석 가능한 ' While Box'로 전환한다.
• 기본 윤리 원칙을 유지하면서도 기계학습을 통해 윤리적 결정을 개선할 수 있도록 한다.
• 윤리규범을 AI 시스템 내의 도덕적 계약으로 간주함으로써 인간과 기계의 윤리를 통합한다.
• 도서관 및 자율 주행 차량과 같은 실제 도메인에서 투명하고 책임감 있으며 검증 가능한 윤리적 AI 결정 과정을 위한 프레임워크를 개발한다.

제안 방법

• 논리 프로그래밍을 사용하여 전문 윤리규범을 선언적 의사결정 이론적 윤리 프로그램(DDTEP)으로 형식화한다.
• 의사결정 이론 논리를 사용하여 윤리적 원칙을 표현함으로써 규칙, 결과 및 확률적 추론 간의 균형을 확보한다.
• DDTEP를 구현하기 위한 핵심 시스템으로 DT-Problog를 적용하여 확률적 추론과 데이터 기반 학습을 가능하게 한다.
• 도메인 특화 지식과 변화하는 규범에 맞게 DDTEP를 적응시키기 위해 피니튜닝을 활용하며, 윤리적 핵심 원칙을 유지한다.
• 자연어로 작성된 윤리규범을 형식적 논리 모델로 변환하여 법적 및 윤리적 프레임워크(예: GDPR)를 통합한다.
• 윤리 프로그램의 형식적 검증을 통해 보장된 윤리 기준 또는 일관성과 같은 성질을 증명할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 전문 윤리규범은 어떻게 기계가 처리할 수 있고 해석 가능한 모델로 형식화할 수 있는가?
• RQ2 DDTEP는 실제 도메인에서 윤리적 결정 과정의 투명성, 책임성 및 학습 가능성에 얼마나 기여할 수 있는가?
• RQ3 기계학습 과정에서 윤리적 가치는 어떻게 유지하면서도 새로운 데이터와 규범에 적응할 수 있는가?
• RQ4 형식적 검증은 윤리적 AI 프로그램의 정확성과 일관성을 보장하는 데 어떤 역할을 할 수 있는가?
• RQ5 어떻게 인간의 윤리적 규범과 기계학습을 도덕적 계약 프레임워크를 통해 AI 시스템 내에서 통합할 수 있는가?

주요 결과

• DDTEP는 고전적인 윤리적 딜레마와 게이트키핑 시나리오를 성공적으로 모델링하여 투명한 윤리적 추론의 타당성을 입증했다.
• 윤리규범을 논리로 형식화함으로써 윤리적 편향을 명시적이고 책임감 있게 드러내어 AI 시스템의 투명성을 향상시켰다.
• 피니튜닝을 통해 DDTEP는 핵심 윤리 원칙을 훼손하지 않으면서도 도메인 특화 지식과 변화하는 규범에 적응할 수 있었다.
• 인간의 윤리규범을 도덕적 계약으로 간주함으로써 인간-기계 윤리 일치를 위한 통합된 프레임워크를 제공했다.
• DDTEP의 형식적 검증을 통해 결정 과정에서 보장된 최소 윤리 점수와 같은 원하는 윤리적 성질을 증명할 수 있었다.
• 이 방법은 다단계 윤리적 추론을 지원하며, 확률적 및 관계 기반 의사결정 모델을 사용해 복잡한 도메인으로 확장 가능하다.