[논문 리뷰] Explainable Planning

Maria Fox, Derek Long외 1명|arXiv (Cornell University)|2017. 09. 29.

AI-based Problem Solving and Planning참고 문헌 26인용 수 66

한 줄 요약

이 논문은 Explainable Planning (XAIP)을 소개하며, 사용자에게 계획을 설명 가능하게 만드는 이유, 설명을 위한 계획의 독특한 장점, 초기 결과와 예시 도메인을 포함한 로드맵을 제시합니다.

ABSTRACT

As AI is increasingly being adopted into application solutions, the challenge of supporting interaction with humans is becoming more apparent. Partly this is to support integrated working styles, in which humans and intelligent systems cooperate in problem-solving, but also it is a necessary step in the process of building trust as humans migrate greater responsibility to such systems. The challenge is to find effective ways to communicate the foundations of AI-driven behaviour, when the algorithms that drive it are far from transparent to humans. In this paper we consider the opportunities that arise in AI planning, exploiting the model-based representations that form a familiar and common basis for communication with users, while acknowledging the gap between planning algorithms and human problem-solving.

연구 동기 및 목표

• 人間-AI 상호작용과 신뢰 구축에서 설명 가능한 AI의 필요성을 고취한다.
• 계획의 어떤 측면이 설명될 수 있으며 그것이 다른 AI 접근법과 왜 차이가 있는지 확인한다.
• AI 계획에 특화된 Q1–Q6의 일련의 설명 가능성 질문을 제안한다.
• 설명이 돕는 계획 특화 기능(모델, 트레이스, 투명성)을 강조한다.
• XAIP 개발을 안내하기 위한 초기 결과, 미래 방향, 예시 도메인을 개요한다.

제안 방법

• XAIP를 계획 결정 및 계획 실행에 대한 설명 프레임워크로 제시한다.
• 설명이 다뤄야 할 질문들(예: 왜 특정 행동이 선택되었는지, 왜 대안이 채택되지 않았는지)을 논의한다.
• 다른 지표 하에서 계획을 비교하기 위한 검증 및 모델 검증 도구와의 통합을 제안한다.
• 실행 트레이스와 계획 모델(PDDL)을 사용해 인간이 이해할 수 있는 설명을 생성한다.
• 설명 실패, 재계획 필요성, 비도달성 증명(모델 확인, STN)을 설명하는 방법론을 제시한다.
• 실행에서의 설명을 보여주기 위해 로버와 AUV 도메인의 예시를 제시한다.

실험 결과

연구 질문

• RQ1 Q1 왜 그렇게 했나요? (행동 선택과 그 인과적 관련성을 설명)
• RQ2 Q2 왜 다른 것을 하지 않았나요? (대안 행동과 그 영향력을 설명)
• RQ3 Q3 특정 지표 하에서 왜 귀하의 계획이 대안보다 더 효율적/안전/저렴한가요
• RQ4 Q4 왜 그것을 할 수 없나요? (해결 불가 또는 선행조건/제약 실패를 설명)
• RQ5 Q5 이 지점에서 왜 재계획이 필요합니까? (환경이나 모델의 변화 설명)
• RQ6 Q6 왜 재계획이 필요하지 않습니까? (관찰된 편차 하에서의 계획 타당성 설명)

주요 결과

• XAIP는 계획자의 모델 기반 표현이 사용자에게 직관적인 설명을 가능하게 한다고 주장한다.
• 설명 가능한 계획은 원시 알고리즘 상세가 아닌 도메인 모델, 실행 트레이스, 계획 생성 이유의 커뮤니케이션에 의존한다.
• 논문은 검증, 모델 조정, 동적 예외 처리 등을 포함하는 로드맷을 개략적으로 제시하여 설명, 재계획, 비존재 증명을 다룬다.
• 두 개의 예시 도메인(Rover와 AUV)은 설명이 행동 선택, 대안 옵션, 재계획 트리거를 어떻게 정당화하는지 보여준다.
• 초기 결과는 설명을 검증기와 모델 검증기와 통합하고 트레이스를 사용해 실행 결정을 정당화하는 가능성을 시사한다.
• 저자들은 특히 확률적이거나 불확실한 계획 맥락에서 무엇이 좋은 설명인지 정의하는 형식화와 지표의 필요성을 인정한다.