[논문 리뷰] Towards Explainable AI Planning as a Service

Michael Cashmore, Anna Collins외 4명|Strathprints: The University of Strathclyde institutional repository (University of Strathclyde)|2019. 08. 14.

AI-based Problem Solving and Planning참고 문헌 21인용 수 16

한 줄 요약

이 논문은 사용자가 신뢰하는 계획기와 도메인 모델을 래핑하여 'A가 아니라 B인가요?'와 같은 사용자 질문에 대해 대조적 설명을 생성하는 모듈러한 프레임워크인 설명 가능한 AI 계획 서비스(XAIPaaS)를 제안한다. 가설적 계획 문제를 제약 조건을 통해 수식화함으로써 시스템은 재계획을 통해 대안적 행동을 비교하며, 사용자가 계획 품질을 검증하고 안전 핵심 응용 분야에서 신뢰를 구축할 수 있도록 한다. 이는 사용자가 자체로 검증한 계획기와 모델을 사용한다.

ABSTRACT

Explainable AI is an important area of research within which Explainable Planning is an emerging topic. In this paper, we argue that Explainable Planning can be designed as a service -- that is, as a wrapper around an existing planning system that utilises the existing planner to assist in answering contrastive questions. We introduce a prototype framework to facilitate this, along with some examples of how a planner can be used to address certain types of contrastive questions. We discuss the main advantages and limitations of such an approach and we identify open questions for Explainable Planning as a service that identify several possible research directions.

연구 동기 및 목표

• 사용자가 사용하는 계획기와 모델에 대해 신뢰를 형성해야 하는 안전 핵심 계획 응용 분야에서 증명 가능한 AI의 증가하는 필요성을 해결하기 위해.
• 사용자가 'A가 아니라 B인가요?'와 같은 대조적 질문에 답하기 위해 동일한 신뢰할 수 있는 계획기와 도메인 모델을 사용하여 대안 계획을 생성하고 비교함으로써 대조적 설명을 가능하게 하기 위해.
• 모든 PDDL 2.1 호환 계획기와 도메인과 호환되며, 호환성과 사용자 신뢰를 보장하는 모듈러하고 독립적인 프레임워크를 설계하기 위해.
• 반복적인 사용자 질문을 지원하기 위해 동적 제약 조건 컴파일 및 재계획을 가능하게 하여 더 깊이 있는 설명 정밀도를 확보하기 위해.
• 설명 효과성, 자동화, 인간-컴퓨터 상호작용 및 인지 과학과의 통합 분야에서의 열린 연구 과제를 규명하기 위해.

제안 방법

• 프레임워크는 기존 계획 시스템을 감싸는 방식으로 작동하며, 원본 계획 문제, 도메인 모델, 사용자 질문을 수용한다.
• 사용자 질문은 원본 도메인 모델을 수정하여 가설적 계획 문제를 생성하는 형식적 제약 조건으로 번역된다.
• 시스템은 제약 조건이 적용된 문제에 대해 원본 계획기를 호출하여 비교를 위한 대안 계획을 생성한다.
• 제약 조건은 도메인 모델에 편입되어 정확성을 유지하며, 대안 계획이 원래 모델 하에서 실행 가능하게 보장된다.
• 프레임워크는 동적으로 제약 조건을 수정하고 계획기를 재실행함으로써 반복적인 질문을 지원한다.
• GUI를 구현하여 원본 계획과 대안 계획 간의 차이를 시각화하며, 추가된 동작는 빨간색, 제거된 동작는 파란색으로 강조한다.

실험 결과

연구 질문

• RQ1 사용자가 신뢰하는 계획기와 도메인 모델을 사용하여 별도로 불신뢰할 수 있는 시스템이 아닌, 대조적 설명을 어떻게 생성할 수 있는가?
• RQ2 안전 핵심 계획 도메인에서 사용자에게 가장 관련성 있고 유용한 대조적 질문의 유형은 무엇인가?
• RQ3 제약 기반 모델 수정을 통해 사용자 질문에서 효과적으로 가설적 계획 문제를 어떻게 구성할 수 있는가?
• RQ4 모듈러하고 확장 가능한 XAIP-as-a-service 프레임워크를 구축할 때의 핵심 기술적 및 사용성 과제는 무엇인가?
• RQ5 사용자 신뢰와 이해도 측면에서 실질적으로 대조적 설명의 효과성을 어떻게 평가할 수 있는가?

주요 결과

• XAIPaaS 프레임워크는 사용자가 지정한 제약 조건 하에서 재계획을 수행함으로써 대조적 설명을 성공적으로 생성하며, 원본 계획과 대안 계획 간의 비교를 가능하게 한다.
• 이 방법은 모든 설명이 사용자가 신뢰하는 계획기와 도메인 모델에 기반하여 이루어지므로, 모델의 정확성과 사용자 신뢰를 유지한다.
• PDDL 2.1 기반 프로토타입은 기존 계획기와 호환되며, 반복적인 설명 정밀도 향상을 위한 동적 제약 조건 주입을 지원한다.
• 인과 그래프와 GUI 강조 표시와 같은 시각화 수단은 계획 간 차이를 효과적으로 전달하며, 추가된 동작는 빨간색, 제거된 동작는 파란색으로 표시된다.
• ROSPlan에 통합되고 있어, 로봇 공학 및 실제 AI 계획 시스템에서의 실용적 적용 가능성을 보여준다.
• 논문은 자동 질문 분해, 사용자 연구 검증, 시각화 및 인지 과학과의 융합 등 주요 연구 방향을 규명한다.