[논문 리뷰] Balancing Explicability and Explanation in Human-Aware Planning

Tathagata Chakraborti, Sarath Sreedharan외 1명|arXiv (Cornell University)|2017. 08. 01.

AI-based Problem Solving and Planning참고 문헌 30인용 수 16

한 줄 요약

이 논문은 로봇의 모델에서의 계획 최적성과 인간의 정서적 모델과의 일치도 사이의 트레이드오프를 최적화하여 인간을 고려한 계획 수립에서 설명 가능성과 설명 생성을 균형 있게 조절하는 MEGA라는 모델 공간 탐색 방법을 제안한다. 이 방법은 인간이 이해할 수 있고 설명 비용이 최소화된 계획을 생성할 수 있도록 하며, 인간이 참여하는 실험을 통해 계획 비용, 설명 길이, 사용자 행동 간의 상충 관계를 입증한다.

ABSTRACT

Human aware planning requires an agent to be aware of the intentions, capabilities and mental model of the human in the loop during its decision process. This can involve generating plans that are explicable to a human observer as well as the ability to provide explanations when such plans cannot be generated. This has led to the notion "multi-model planning" which aim to incorporate effects of human expectation in the deliberative process of a planner - either in the form of explicable task planning or explanations produced thereof. In this paper, we bring these two concepts together and show how a planner can account for both these needs and achieve a trade-off during the plan generation process itself by means of a model-space search method MEGA. This in effect provides a comprehensive perspective of what it means for a decision making agent to be "human-aware" by bringing together existing principles of planning under the umbrella of a single plan generation process. We situate our discussion specifically keeping in mind the recent work on explicable planning and explanation generation, and illustrate these concepts in modified versions of two well known planning domains, as well as a demonstration on a robot involved in a typical search and reconnaissance task with an external supervisor.

연구 동기 및 목표

• 로봇의 모델과 인간의 정서적 모델 간의 불일치로 인해 최적의 로봇 계획이 인간에게 이해하기 어려운 경우, 계획의 설명 가능성과 설명 생성 간의 균형을 맞추는 데 도전하는 것.
• 설명 가능성과 설명을 하나의 계획 생성 과정에 통합하는 통합 프레임워크를 개발하여 두 요소를 별도로 다루는 것을 피하는 것.
• 로봇의 최적성에서의 계획 이탈 비용을 최소화하면서도 인간 사용자의 설명에 대한 인지 부담을 줄이는 것.
• 실제 인간-로봇 상호작용 환경에서 계획 비용, 설명 길이, 사용자 반응 패턴 간의 상충 관계를 경험적으로 평가하는 것.

제안 방법

• 로봇의 모델에서의 최적성과 인간의 기대와의 일치도를 균형 있게 만족하는 계획을 찾기 위해 인간의 정서적 모델 공간을 탐색하는 기반 기반 방법인 MEGA(모델 공간 탐색을 통한 대안 생성)를 제안한다.
• 로봇 모델 내 계획 비용과 인간에게 계획을 설명하는 데 드는 비용을 조합한 가중치가 부여된 목적 함수를 사용하며, 트레이드오프를 제어하는 하이퍼파rameter α를 포함한다.
• 모델 재결합 기법을 활용해 인간의 모델을 업데이트하여 원래 로봇 계획이 업데이트된 모델에서 최적이 되도록 하며, 이를 통해 설명을 모델 재결합으로 간주한다.
• 최소한의 설명 기법을 적용하여 커뮤니케이션 오버헤드를 줄이며, 설명이 핵심적인 불일치점에 집중되고 간결하도록 보장한다.
• 로봇이 탐색 및 정찰 임무를 수행하는 인간이 참여하는 실험을 통해 계획 품질, 설명 요청, 사용자 행동을 평가한다.
• 사용자 반응 패턴(예: 설명 요청에 대한 클릭률)을 기반으로 트레이드오프 파rameter α를 조정하여 개인별 선호도에 맞게 적응한다.

실험 결과

연구 질문

• RQ1 로봇의 모델과 인간의 모델 간에 괴리가 발생할 경우, 로봇가 계획의 설명 가능성 확보 비용과 설명 제공 비용 사이를 어떻게 균형 있게 조절할 수 있는가?
• RQ2 계획 비용과 설명 길이가 인간-로봇 상호작용에서 인간의 인지 및 사용자 행동에 어떤 영향을 미치는가?
• RQ3 사용자는 설명이 어려운 계획에 어떻게 반응하는가? 사용자 반응 패턴은 설명 가능성-설명 트레이드오프의 적응적 조정에 어떻게 기여할 수 있는가?
• RQ4 모델 재결합 기법은 인간의 모델을 로봇의 모델과 일치시켜 설명이 필요 없게 만들 수 있는가?

주요 결과

• 로봇의 계획 비용은 최적 계획에서 설명 가능한 계획으로 갈수록 증가하며, 최적성과 설명 가능성 사이의 명확한 상충 관계를 입증한다.
• 약 1/3의 참가자가 계획이 설명 가능할 경우에도 여전히 설명 요청을 하여 위험 회피 성향과 사용자에게 부과되는 인지 부담을 보여준다.
• 설명 요청에 대한 사용자 반응은 이중분포를 보이며, 일부 사용자는 매우 위험 회피 성향을 보이고 다른 일부는 덜 그러한 것으로 나타나, 개인 맞춤형 α 조정의 필요성을 강조한다.
• 이 방법은 계획 품질을 유지하면서도 설명 길이를 줄여 효과적으로 커뮤니케이션 오버헤드를 감소시켰으며, 최소한의 설명이 효과적일 수 있음을 보여준다.
• 사용자 요인 연구 결과, 제안된 접근법이 사용자 신뢰를 향상시키고 혼란을 줄이는 데 기여하며, 특히 설명 가능하고 설명 비용이 최소화된 계획일 경우 더욱 두드러진다.
• 실시간 사용자 피드백 기반으로 설명 가능성-설명 트레이드오프 파arameter α를 적응적으로 캘리브레이션할 필요가 있음을 결과가 뒷받침한다.