[논문 리뷰] Designing Normative Theories of Ethical Reasoning: Formal Framework, Methodology, and Tool Support.

Christoph Benzmüller, Xavier Parent외 1명|arXiv (Cornell University)|2019. 03. 25.

Logic, Reasoning, and Knowledge참고 문헌 53인용 수 3

한 줄 요약

이 논문은 고차 논리 임bed딩을 사용하여 지능형 자율 시스템에서 윤리적 추론기와 규범 이론을 설계하기 위한 형식적 프레임워크이자 방법론인 LogiKEy를 소개한다. 표준 도구인 정리 증명기와 모델 탐색기들을 활용함으로써 LogiKEy는 디오니틱 논리, 그 조합, 윤리-법적 도메인 이론에 대한 민첩하고 효율적인 실험을 가능하게 하며, 고차 논리의 결정 불가능성에도 불구하고 실용적 성능에 장애가 되지 않음을 보여준다.

ABSTRACT

A framework and methodology---termed LogiKEy---for the design and engineering of ethical reasoners, normative theories and deontic logics is presented. The overall motivation is the development of suitable means for the control and governance of intelligent autonomous systems. LogiKEy's unifying formal framework is based on semantical embeddings of deontic logics, logic combinations and ethico-legal domain theories in expressive classic higher-order logic. This meta-logical approach enables the provision of powerful tool support in LogiKEy with small effort: off-the-shelf theorem provers and model finders for higher-order logic are assisting the LogiKEy designer of ethical intelligent agents to flexibly experiment with underlying logics and their combinations, with ethico-legal domain theories, and with concrete examples---all at the same time. Continuous improvements of these off-the-shelf provers, without further ado, leverage the reasoning performance in LogiKEy. Case studies, in which the LogiKEy framework and methodology has been applied and tested, give early evidence that HOL's undecidability often does not hinder efficient experimentation.

연구 동기 및 목표

• 지능형 자율 시스템에서 윤리적 추론기를 공학하기 위한 형식적 프레임워크를 개발하는 것.
• 통합적이고 확장 가능한 방식으로 복잡한 규범 및 디오니틱 논리를 통합하고 추론하는 데 도전하는 것.
• 기존 정리 증명기와 모델 탐색기를 활용하여 고차 논리의 구현 노력 최소화를 위한 도구 지원을 제공하는 것.
• 단일 형식 환경 내에서 디오니틱 논리의 조합과 윤리-법적 도메인 이론에 대한 민감하고도 영리한 실험을 가능하게 하는 것.
• 고차 논리의 결정 불가능성이 윤리적 AI 설계에서 효율적 추론에 장애가 되지 않는다는 것을 입증하는 것.

제안 방법

• 표현력 있는 고차 논리(HOL) 내에서 디오니틱 논리, 논리 조합, 윤리-법적 도메인 이론을 의미론적 임베딩을 통해 표현하는 것.
• LogiKEy의 핵심 추론 엔진으로서 표준 고차 정리 증명기와 모델 탐색기를 활용하는 것.
• 저수준 논리 세부 사항을 추상화하는 메타논리적 프레임워크를 설계하여 윤리적 추론 시스템의 고수준 명세를 가능하게 하는 것.
• 동시에 기초 논리, 도메인 이론, 사례 시나리오를 단일 환경에서 실험할 수 있도록 지원하는 것.
• 기존 HOL 도구의 지속적인 개선을 활용하여 추가 개발 없이도 LogiKEy 내 추론 성능을 향상시키는 것.
• 사례 연구를 통해 실세계 윤리적 추론 시나리오에서의 실용성과 확장성 검증을 위한 프레임워크 적용

실험 결과

연구 질문

• RQ1 지능형 자율 시스템을 위한 윤리적 추론기 설계를 지원하는 통합된 형식적 프레임워크는 어떻게 설계할 수 있는가?
• RQ2 표준 고차 논리 도구는 얼마나 효과적으로 디오니틱 논리와 규범 이론의 설계 및 실험을 지원할 수 있는가?
• RQ3 고차 논리 내 의미론적 임베딩을 통해 다수의 디오니틱 논리와 도메인 이론을 민감하고 확장 가능한 방식으로 통합할 수 있는가?
• RQ4 고차 논리의 결정 불가능성이 윤리적 AI 시스템에서 실용적 추론 성능에 심각한 영향을 미치는가?
• RQ5 윤리적 추론 시스템 개발에서 복잡성은 최소화하면서도 융통성과 표현력을 극대화하는 도구 지원은 어떻게 달성할 수 있는가?

주요 결과

• LogiKEy 프레임워크는 고차 논리 내 의미론적 임베딩을 통해 윤리적 추론기의 설계 및 실험을 성공적으로 가능하게 하였다.
• 표준 고차 논리 정리 증명기와 모델 탐색기는 최소한의 구현 오버헤드로 효과적이고 확장 가능한 도구 지원을 제공한다.
• 메타논리적 접근은 디오니틱 논리, 논리 조합, 윤리-법적 도메인 이론 간의 원활한 통합과 동시에 실험을 가능하게 한다.
• 사례 연구 결과, 고차 논리의 결정 불가능성이 윤리적 추론에서의 효율적이고 실용적인 실험을 방해하지 않는 것으로 나타났다.
• 기초가 되는 HOL 도구의 지속적인 발전이 추가 공학 없이도 LogiKEy 내 추론 성능 향상에 직접 기여한다.
• 이 프레임워크는 지능형 자율 시스템의 거버넌스 및 제어 분야에서 실세계 적용 가능성이 높은 것으로 입증되었다.