[논문 리뷰] Progressive Explanation Generation for Human-robot Teaming

Yu Zhang, Mehrdad Zakershahrak|arXiv (Cornell University)|2019. 02. 02.

AI-based Problem Solving and Planning참고 문헌 23인용 수 4

한 줄 요약

이 논문은 인간 동료의 인지적 부담을 최소화하기 위해 설명 단계를 순차적으로 구성함으로써 이해도를 향상시키는 프로그레시브 설명 생성(PEG) 프레임워크를 소개한다. 모델 간 거리 히وري스틱을 사용하여 설명을 순차적 의사결정 문제로 공식화하며, PEG 설명은 압축된 설명과 거의 동일한 길이를 유지하면서도 누적 인지적 부담을 크게 감소시킨다. 특히 로봇과 인간 간 모델 불일치가 발생할 경우 이점이 두드러진다.

ABSTRACT

Generating explanation to explain its behavior is an essential capability for a robotic teammate. Explanations help human partners better understand the situation and maintain trust of their teammates. Prior work on robot generating explanations focuses on providing the reasoning behind its decision making. These approaches, however, fail to heed the cognitive requirement of understanding an explanation. In other words, while they provide the right explanations from the explainer's perspective, the explainee part of the equation is ignored. In this work, we address an important aspect along this direction that contributes to a better understanding of a given explanation, which we refer to as the progressiveness of explanations. A progressive explanation improves understanding by limiting the cognitive effort required at each step of making the explanation. As a result, such explanations are expected to be smoother and hence easier to understand. A general formulation of progressive explanation is presented. Algorithms are provided based on several alternative quantifications of cognitive effort as an explanation is being made, which are evaluated in a standard planning competition domain.

연구 동기 및 목표

• 기존의 설명 생성 방법이 로봇의 시각에만 초점을 맞추고 인간의 인지적 한계를 忽시하는 격차를 보완하기 위해.
• 인간-로봇 협업에서 인간의 이해도를 향상시키기 위해 설명을 해석하는 데 필요한 인지적 부담을 최소화하기 위해.
• 정보 전달 순서가 이해 효율성에 영향을 주는 순차적 과정으로 설명을 모델링하기 위해.
• 로봇과 인간 파트너 간 인지 모델의 차이를 고려한 일반화된 프로그레시브 설명 생성 공식을 개발하기 위해.
• 표준 계획 도메인에서 압축된 설명과 비교하여 PEG가 누적 인지적 부담을 얼마나 줄이는지 평가하기 위해.

제안 방법

• 시간에 따라 인지적 부담을 최소화하는 순차적 의사결정 문제로 프로그레시브 설명 생성을 공식화한다.
• 각 단계에서 로봇의 모델($M^R$)과 인간의 모델($M^H$) 간의 모델-계획 거리 메트릭을 사용해 인지적 부담을 정의한다.
• 로봇의 모델($M^R$)과 인간의 모델($M^H$) 간의 기능 불일치(사전조건, 추가/삭제 효과)에 기반한 히وري스틱을 사용한 A* 탐색을 적용하며, 각 기능 변경에 대해 보상(패널티)을 적용한다.
• 인간 이해도의 불확실성을 시뮬레이션하기 위해 모델 기능의 누락 확률을 사용하며, 평가 시 0.06에서 0.14의 범위를 가진다.
• 설명 크기, 계산 시간, 누적 인지적 부담($\sum \rho_i$)을 측정하여 PEG를 압축된 설명과 비교한다.
• Fast Downward를 기반 계획기로 사용하여 로버 도메인에서 접근을 평가하였으며, 두 개의 문제 인스턴스를 기반으로 결과를 도출하였다.

실험 결과

연구 질문

• RQ1 인간 수신자에게 필요한 인지적 부담을 고려함으로써 설명 생성을 어떻게 향상시킬 수 있는가?
• RQ2 비순차적 또는 압축된 설명과 비교할 때, 점진적으로 설명 단계를 순서 있게 제공함으로써 누적 인지적 부담을 얼마나 줄일 수 있는가?
• RQ3 인간의 모델에서 기능이 누락될수록(즉, 모델 불일치가 증가할수록) 프로그레시브 설명 생성의 성능과 계산 시간은 어떻게 영향을 받는가?
• RQ4 프로그레시브 설명은 인간-로봇 협업에서 압축성과 인지 효율성 사이의 유리한 트레이드오프를 달성할 수 있는가?
• RQ5 다양한 거리 메트릭이 프로그레시브 설명 생성의 품질과 효율성에 어떤 영향을 미치는가?

주요 결과

• PEG 설명은 압축된 설명과 거의 동일한 길이를 유지하면서도 누적 인지적 부담($\sum \rho_i$)을 크게 감소시킨다.
• 첫 번째 로버 문제에서 PEG 설명은 더 긴 계산 시간에도 불구하고 압축된 설명보다 낮은 $\sum \rho_i$ 값을 기록하여 인지 부하가 감소했음을 시사한다.
• 인간 모델의 누락 기능 수가 증가할수록 PEG의 계산 시간이 급격히 증가하였으며, 누락 확률 0.11일 때 11개의 기능이 누락된 경우 1342.1초의 탐색 시간을 기록했다.
• 기능이 전혀 누락되지 않은 경우(0.14 확률), PEG 탐색 시간은 단 0.7초로 감소하여 계산 비용이 모델 불일치와 밀접한 관련이 있음을 확인했다.
• 설명 크기가 0이 아닌 이상 계산 시간에 큰 영향을 주지 않았으며, 크기가 0인 경우는 탐색이 필요 없었기 때문에 예외였다.
• 결과적으로 PEG는 압축성과 인지 효율성 사이의 균형을 효과적으로 달성하며, 실시간 인간-로봇 협업 응용 분야에서 실현 가능한 접근임을 입증한다.