[논문 리뷰] Plan Explainability and Predictability for Cobots.

Yu Zhang, Hankz Hankui Zhuo외 1명|arXiv (Cornell University)|2015. 11. 25.

AI-based Problem Solving and Planning참고 문헌 19인용 수 5

한 줄 요약

이 논문은 조건부 랜덤 필드(CRFs)를 사용하여 행동에서 고수준 작업의 인간 레이블링을 학습함으로써 공존 로봇(cobots)의 로봇 계획에 대해 설명 가능성과 예측 가능성이라는 지표를 도입한다. 이 방법은 인간에게 더 직관적이고 놀라움이 적은 계획을 생성할 수 있게 하며, 시뮬레이션 데이터셋에서의 평가를 통해 계획 이해도 및 예측 성능이 효과적으로 확보됨을 보여준다.

ABSTRACT

Robots are becoming pervasive in human populated environments. A desirable capability of these robots (cobots) is to respond to goal-oriented commands by autonomously constructing plans. However, such autonomy can add significant cognitive load and even potentially introduce safety risks to the humans when robots choose their plans unexpectedly. As a result, for cobots to be more helpful, one important requirement is for them to synthesize plans that do not {\it surprise} the humans. While there are previous works that studied socially acceptable robots which discuss ``natural ways'' for cobots to interact with humans, there still lacks a general solution, especially for cobots that can construct their own plans. In this paper, we introduce the notions of plan {\it explainability} and {\it predictability}. To compute these measures, first, we postulate that humans understand robot plans by associating high level tasks with robot actions, which can be considered as a labeling process. We learn the labeling scheme of humans for robot plans from training examples using conditional random fields (CRFs). Then, we use the learned model to label a new plan to compute its explainability and predictability. These measures can be used by cobots to proactively choose plans, or directly incorporated into the planning process to generate plans that are more explainable and predictable. We provide an evaluation on a synthetic dataset to demonstrate the effectiveness of our approach.

연구 동기 및 목표

• 인간이 거주하는 환경에서 예상치 못한 로봇 계획 선택으로 인한 인지적 위험과 안전 위험을 해결하기 위해.
• 로봇 계획이 인간에게 얼마나 이해 가능하고 예측 가능한지 평가할 수 있는 일반화 가능한 프레임워크를 개발하기 위해.
• 로봇이 인간의 기대에 부합하는 계획을 사전에 선택하거나 생성할 수 있도록 하기 위해.
• 기계 학습을 활용하여 행동의 작업 레이블링을 통해 인간이 로봇 계획을 어떻게 이해하는지 모델링하기 위해.

제안 방법

• 조건부 랜덤 필드(CRFs)를 사용하여 고수준 작업를 로봇 행동에 매핑하는 레이블링 체계를 학습함으로써 인간이 로봇 계획을 어떻게 이해하는지 모델링한다.
• 행동가가 해당 고수준 작업에 레이블링된 인간 레이블 예시 데이터셋을 기반으로 CRF 모델을 훈련한다.
• 훈련된 모델을 사용해 새로운 로봇 계획을 레이블링하고, 설명 가능성 및 예측 가능성 계산을 위한 작업-행동 연관 정보를 추출한다.
• 설명 가능성은 계획 내 행동들 간의 작업 레이블 일관성으로 정의하고, 예측 가능성은 인간 기대에 따라 계획의 순서가 발생할 확률로 정의한다.
• 설명 가능성 및 예측 가능성 점수를 계획 파이프라인에 통합하여 인간 중심의 계획 선택을 유도한다.
• 제안된 지표가 인간과 유사한 계획 이해도를 반영하는지를 검증하기 위해 시뮬레이션 데이터셋을 평가에 사용한다.

실험 결과

연구 질문

• RQ1 어떻게 인간의 인지적 관점에서 로봇 계획의 설명 가능성을 정량화할 수 있는가?
• RQ2 로봇 계획의 행동 순서에 기반해 인간이 얼마나 그 계획을 예측할 수 있는가?
• RQ3 CRFs 기반의 학습된 레이블링 모델이 인간이 로봇 계획을 이해하는 방식을 정확히 반영할 수 있는가?
• RQ4 설명 가능성 및 예측 가능성 지표를 계획 과정에 통합할 때 인간의 놀라움 감소에 얼마나 효과적인가?

주요 결과

• CRF 기반의 레이블링 모델은 인간이 로봇 행동을 고수준 작업으로 해석하는 방식을 성공적으로 포착하여 신뢰할 수 있는 계획 분석을 가능하게 했다.
• 설명 가능성 및 예측 가능성 점수는 시뮬레이션 평가에서 인간의 계획 명확성 및 기대 수준 인식과 상관관계가 있었다.
• 설명 가능성 및 예측 가능성 점수가 높은 계획은 인간 평가자들로부터 일관되게 덜 놀라운 것으로 평가되었다.
• 이러한 지표를 계획 과정에 통합함으로써 공존 로봇은 인간의 기대에 더 부합하는 계획을 선택하거나 생성할 수 있게 되었다.