[논문 리뷰] Hierarchical Expertise-Level Modeling for User Specific Robot-Behavior Explanations

Sarath Sreedharan, Siddharth Srivastava외 1명|arXiv (Cornell University)|2018. 02. 19.

AI-based Problem Solving and Planning참고 문헌 16인용 수 6

한 줄 요약

이 논문은 사용자 전문 수준을 기반으로 사용자 맞춤형 로봇 행동 설명을 생성하기 위해 사용자의 정신 모델을 로봇의 도메인 모델의 추상화된 형태로 모델링하는 Hierarchical Expertise-Level Modeling (HELM) 프레임워크를 제안한다. 이는 추상화 계층 구조를 통해 최소한의 설명 생성을 이끌어내는 후행 조건(foils, 반사적 사례)을 활용하며, 경험적 검증을 통해 IPC 도메인에서 효율적이고 맥락 인식 가능한 사용자 모델의 구체화를 가능하게 한다.

ABSTRACT

There is a growing interest within the AI research community to develop autonomous systems capable of explaining their behavior to users. One aspect of the explanation generation problem that has yet to receive much attention is the task of explaining plans to users whose level of expertise differ from that of the explainer. We propose an approach for addressing this problem by representing the user's model as an abstraction of the domain model that the planner uses. We present algorithms for generating minimal explanations in cases where this abstract human model is not known. We reduce the problem of generating explanation to a search over the space of abstract models and investigate possible greedy approximations for minimal explanations. We also empirically show that our approach can efficiently compute explanations for a variety of problems.

연구 동기 및 목표

• AI 설명 시스템이 로봇 에이전트보다 낮은 전문 수준을 가진 사용자를 고려하지 못하는 격차를 해결한다.
• 사용자 이해를 로봇의 상세 도메인 모델의 타당한 추상화로 모델링하여 맞춤형 설명을 가능하게 한다.
• 사용자의 추상 모델이 알려지지 않았거나 불완전한 경우에도 효율적인 알고리즘을 개발하여 최소한의 설명을 생성한다.
• 대조적 추론을 활용해 로봇의 실제 행동과 일치하도록 사용자 모델을 업데이트하는 구체화를 통해 모델 정합성을 달성한다.
• 설명이 완전하고 단조롭게 유지되며, 사용자 전문 수준의 다양성에 맞춰지되 사용자 모델에 대한 사전 지식을 가정하지 않는다.

제안 방법

• 사용자 모델을 로봇 도메인 모델의 추상화로 표현하여 점차 높아지는 정밀도를 갖는 계층적 라티스를 구성한다.
• 사용자가 제공한 후행 조건(반사적 행동)을 활용해 사용자 모델과 로봇의 실제 계획 간의 괴리를 식별한다.
• 후행 조건을 해결할 수 있는 최소한의 구체화를 찾기 위해 추상 모델의 라티스를 기반으로 설명 생성을 탐색 문제로 정식화한다.
• 계산 비용을 줄이기 위해 탐욕적 근사 전략을 적용하면서도 설명의 최소성과 정확성을 유지한다.
• 사용자 모델을 단계적으로 업데이트하는 메커니즘으로 모델 구체화를 통합하여 로봇의 실제 행동과 제약 조건에 맞게 사용자 모델을 정합화한다.
• 기존의 계획 형식(예: PDDL)을 활용하고, 추상화 인식 가능한 설명 생성을 지원하도록 확장한다.

실험 결과

연구 질문

• RQ1 로봇 에이전트보다 낮은 전문 수준을 가진 사용자에게 맞는 설명을 어떻게 생성할 수 있는가?
• RQ2 사용자가 후행 조건(반사적 행동)을 제시할 때, 그 혼란을 해결하는 최소한의 설명은 무엇인가?
• RQ3 사용자의 추상 모델이 알려지지 않은 경우 이를 어떻게 추론하고, 이를 바탕으로 효과적인 설명을 생성할 수 있는가?
• RQ4 추상화의 계층적 라티스가 다양한 사용자 전문 수준에서 효율적이고 확장 가능한 설명 생성을 지원할 수 있는가?
• RQ5 일반적인 모델 정합화와 비교해 후행 조건을 활용할 경우 설명 생성의 효율성과 관련성은 어떻게 향상되는가?

주요 결과

• HELM 프레임워크는 사용자가 제공한 후행 조건을 해결하기 위해 추상 모델의 라티스를 탐색함으로써 최소한의 사용자 맞춤형 설명을 성공적으로 생성한다.
• 표준 IPC 도메인에서의 경험적 평가 결과, 복잡한 계획 문제에 대해서도 효율적인 설명 계산이 가능함을 입증하였다.
• 후행 조건을 설명 생성을 이끄는 메커니즘으로 활용할 경우, 일반적인 모델 정합화에 비해 더 관련성 있고 맥락에 부합하는 설명을 도출할 수 있다.
• 탐욕적 근사 전략은 설명 품질과 최소성은 유지하면서도 계산 비용을 크게 감소시킨다.
• 대상 정보를 중심으로 사용자 모델을 업데이트하는 모델 구체화 방법은 전체 모델 재구성 없이도 모델 정합성을 달성하는 데 효과적임을 입증하였다.
• 이 프레임워크는 모델 불확실성에 강건하며, 가장 구체적인 모델에 대한 포괄적 검사를 피하기 때문에 전통적인 MRP 기반 접근보다 더 나은 확장성을 보였다.