[논문 리뷰] Practical Challenges in Explicit Ethical Machine Reasoning

Louise A. Dennis, Michael Fisher|Research Explorer (The University of Manchester)|2018. 01. 04.

Ethics and Social Impacts of AI참고 문헌 10인용 수 5

한 줄 요약

이 논문은 윤리적 기계 추론을 위한 모듈러하고 선언적인 아키텍처를 제안하며, 윤리적 추론을 윤리적 중재자와 특정 윤리적 특성에 전문화된 증거 기반 추론자로 분리한다. 심사, 실시간 처리, 검증을 분리함으로써 다목적성, 이질적인 증거, 검증 가능성 등의 실용적 과제를 해결하며, 구현 가능한 윤리적 AI 시스템을 위한 확장 가능한 프레임워크를 제공한다.

ABSTRACT

We examine implemented systems for ethical machine reasoning with a view to identifying the practical challenges (as opposed to philosophical challenges) posed by the area. We identify a need for complex ethical machine reasoning not only to be multi-objective, proactive, and scrutable but that it must draw on heterogeneous evidential reasoning. We also argue that, in many cases, it needs to operate in real time and be verifiable. We propose a general architecture involving a declarative ethical arbiter which draws upon multiple evidential reasoners each responsible for a particular ethical feature of the system's environment. We claim that this architecture enables some separation of concerns among the practical challenges that ethical machine reasoning poses.

연구 동기 및 목표

• 윤리적 기계 추론을 구현하는 데 있어 철학적 논의에 기반한 도덕성에 대한 논의를 초월한 실용적 과제를 특정하고 분석하는 것.
• 이론적 윤리 프레임워크와 자율 시스템에서의 실제 구현 간 격차를 해소하는 것.
• 윤리적 추론 구성 요소 간 책임을 분리하는 확장 가능한 모듈러 소프트웨어 아키텍처를 제안하는 것.
• 복잡하고 이질적인 환경에서 실시간, 검증 가능하며 심사 중심의 윤리적 의사결정을 지원하는 것.
• 기본 증거 기반 추론 모듈과 독립적인 윤리적 추론 논리의 형식적 검증을 가능하게 하는 것.

제안 방법

• 전문 증거 기반 추론자로부터 온 증거의 논리적 표현을 다루는 선언적 윤리적 중재자를 포함한 일반화된 아키텍처를 설계한다.
• 심사 가능성과 검증 가능성을 향상시키기 위해 선언적 프로그래밍(예: 논리 프로그램, BDI 에이전트, 제약 기반 추론기)을 사용하여 윤리적 중재자를 구현한다.
• 각 증거 기반 추론자를 특정 윤리적 특성(예: 피해, 공정성, 예절)에 할당하여 모듈러하고 도메인 전문화된 추론을 가능하게 한다.
• 실시간 상황 평가(증거 기반 추론자에서 처리)와 고수준 윤리적 추론(중재자에서 관리)을 분리한다.
• 확장 가능한 추론을 위해 확률, 심각도, 영향 범위와 같은 속성을 포함하는 논리적 또는 방정식 형태로 증거를 구조화한다.
• 윤리적 복잡성과 표현력의 수준에 따라 희박한 논리와 풍부한 논리를 모두 지원하는 중재자 설계

실험 결과

연구 질문

• RQ1 철학적 논의에 기반한 도덕성에 대한 의견 차이와는 무관하게 윤리적 기계 추론의 구현을 저해하는 실용적 과제는 무엇인가?
• RQ2 실시간 처리, 다목적성, 검증 가능성과 같은 요소를 분리하기 위해 윤리적 추론을 어떻게 모듈러화할 수 있는가?
• RQ3 선언적 윤리적 중재자가 심사 가능성 향상과 윤리적 결정의 형식적 검증을 어떻게 지원할 수 있는가?
• RQ4 불확실성, 심각도, 영향 범위 등 이질적인 증거는 윤리적 시스템에서 어떻게 효과적으로 표현되고 추론될 수 있는가?
• RQ5 일반화된 아키텍처가 자율 시스템에서 윤리적 추론뿐 아니라 사회적 규범과 같은 더 넓은 범위의 규범적 추론을 지원할 수 있는가?

주요 결과

• 윤리적 기계 추론은 도덕성에 대한 철학적 논의를 초월해 실시간 처리, 다목적성, 이질적 증거 처리 등의 실용적 과제를 안고 있다.
• 제안된 아키텍처는 증거 기반 추론자(도메인 전문화된 증거 처리)와 선언적 중재자(윤리적 논리 처리)에 각각 다른 역할을 부여함으로써 책임 분리를 가능하게 한다.
• 중재자에서 선언적 프로그래밍을 사용함으로써 설계 시점의 심사 가능성 향상과 윤리적 추론 논리의 형식적 검증을 지원한다.
• 윤리적 추론 구성 요소를 증거 기반 추론자로부터 독립적으로 검증할 수 있어 시스템의 신뢰성이 향상된다.
• 윤리적 지배자와 GenEth의 사례 연구는 모듈러 윤리적 추론의 실현 가능성을 보여주지만, 구현 복잡성은 여전히 높다.
• 관련 특성에 대한 새로운 증거 기반 추론자를 추가함으로써 이 아키텍처는 사회적 규범과 같은 더 넓은 규범적 추론으로도 확장 가능하다.