[논문 리뷰] Interactive Plan Explicability in Human-Robot Teaming

Mehrdad Zakershahrak, Yu Zhang|arXiv (Cornell University)|2019. 01. 17.

AI-based Problem Solving and Planning참고 문헌 15인용 수 6

한 줄 요약

이 논문은 인간-로봇 협업에서 상호작용적이고 순차적인 작업 환경에서 로봇이 생성한 계획이 인간의 기대와 일치하도록 하는 새로운 프레임워크인 Interactive Plan Explicability를 소개한다. 인간이 기대하는 로봇의 행동 모델을 통합하고, 조건부 랜덤 필드(CRF)를 사용해 행동에 대한 설명 가능성을 라벨링함으로써, 설명 가능성 점수가 0.820인 계획을 생성하여 인간 계획의 0.811과 거의 유사하게 유지한다. 이는 표준 FF 플래너가 생성한 계획(0.672)보다 유의미하게 높으며, 더 직관적이고 효율적인 협업을 가능하게 한다.

ABSTRACT

Human-robot teaming is one of the most important applications of artificial intelligence in the fast-growing field of robotics. For effective teaming, a robot must not only maintain a behavioral model of its human teammates to project the team status, but also be aware that its human teammates' expectation of itself. Being aware of the human teammates' expectation leads to robot behaviors that better align with human expectation, thus facilitating more efficient and potentially safer teams. Our work addresses the problem of human-robot cooperation with the consideration of such teammate models in sequential domains by leveraging the concept of plan explicability. In plan explicability, however, the human is considered solely as an observer. In this paper, we extend plan explicability to consider interactive settings where human and robot behaviors can influence each other. We term this new measure as Interactive Plan Explicability. We compare the joint plan generated with the consideration of this measure using the fast forward planner (FF) with the plan created by FF without such consideration, as well as the plan created with actual human subjects. Results indicate that the explicability score of plans generated by our algorithm is comparable to the human plan, and better than the plan created by FF without considering the measure, implying that the plans created by our algorithms align better with expected joint plans of the human during execution. This can lead to more efficient collaboration in practice.

연구 동기 및 목표

• 인간과 로봇 간의 환경 및 상호에 대한 모델이 다를 경우 발생하는 협업 비효율 문제를 해결하기 위해.
• 이전에 수동 관찰을 대상으로 설계된 전통적 계획 설명 가능성의 개념을, 인간과 로봇의 행동이 상호 영향을 주고받는 상호작용 환경으로 확장하기 위해.
• 인간의 기대와 일치하는 공동 계획을 생성하는 계획 프레임워크를 개발하여 인지 부담을 줄이고 협업 효율성을 향상시키기 위해.
• 모의 인간 시험과 CRF 기반 라벨링 모델을 사용해 설명 가능성 점수를 산정하는 방식으로, 첫 응답 작업 도메인에서 접근법을 평가하기 위해.
• 표준 플래너가 생성한 계획보다 상호작용 기반 설명 가능성 기반으로 생성된 로봇 계획이 인간이 예상하는 계획과 더 가까운지 입증하기 위해.

제안 방법

• 이 방법은 인간의 기대 행동을 근사한 인간 계획 모델($\widetilde{M_H}$)을 사용하여 모델링하고, 로봇는 자신의 모델($M_R$)을 사용해 복합 계획을 생성한다.
• 로봇-인간 상호작용 트레이스에서 행동 라벨링을 학습하기 위해 조건부 랜덤 필드(CRF)를 활용하여 고수준 작업을 행동으로 매핑하여 설명 가능성 평가를 수행한다.
• 계획의 설명 가능성은 비어 있지 않은 라벨을 가진 행동 수를 총 행동 수로 나눈 비율로 계산된다: $F_{\theta}(L_{\pi}) = \frac{\sum_{i \in [1,N]} 1_{L(a_i) \neq \emptyset}}{N}$, 여기서 높은 값일수록 더 높은 설명 가능성 의미.
• 로봇는 인간과 로봇의 기대를 통합한 모델 하에서, 비용을 최소화하면서 설명 가능성 최대화를 목표로 히우리스틱 검색 방법(식 4)을 사용해 계획을 생성한다.
• 시스템은 16개의 학습 문제와 4개의 테스트 문제를 포함한 모의 제1응답 작업 도메인에서 평가되었으며, 가시 및 은폐된 장애물이 포함되어 있다.
• 계획은 설명 가능성 비율과 각 시나리오별 세부 점수를 기반으로 평가되며, 제안된 방법, FF 플래너, 실제 인간 계획 간에 비교된다.

실험 결과

연구 질문

• RQ1 인간-로봇 협업의 상호작용적 환경에서 인간의 기대와 일치하는 로봇 계획을 어떻게 향상시킬 수 있는가?
• RQ2 인간의 예상 행동과 기대를 모델링함으로써 로봇의 계획이 얼마나 더 설명 가능하게 만들 수 있는가?
• RQ3 공동 작업 환경에서 로봇이 생성한 계획의 설명 가능성은 인간이 생성한 계획과 표준 플래너 출력에 비해 어떻게 비교되는가?
• RQ4 비용과 설명 가능성의 균형을 고려한 하이브리드 계획 접근법이 비일치를 줄이고 협업 성능을 향상시키는가?
• RQ5 정보 비대칭성(예: 은폐된 장애물)이 계획의 설명 가능성과 협업 조율에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법이 생성한 상호작용 기반 설명 가능성 점수는 0.820으로, 인간 계획 점수인 0.811과 매우 유사하여 인간 기대와의 강한 일치를 나타낸다.
• FF 플래너가 생성한 계획은 설명 가능성 비율이 0.672로 유의미하게 낮아, 낮은 비용을 기록했음에도 불구하고 인간 기대와의 일치도가 떨어짐을 보여준다.
• 개별 테스트 시나리오에서 제안된 방법의 설명 가능성 점수 범위는 0.714에서 0.800이며, 이는 FF 플래너의 점수 범위인 0.56에서 0.800보다 뛰어나다.
• 시나리오 1에서는 FF 계획과 상호작용 기반 설명 가능성 계획 모두 완벽한 설명 가능성 점수 1.0을 기록하여, 이 특정 케이스에서 높은 라벨 가능성(표현 가능성)을 보였다.
• 결과는 제안된 방법이 인간 계획과 시각적·정량적으로 유사한 계획을 생성함을 보여주며, 그림 4에 도식화되어 있듯이 협업 예측 가능성 향상을 의미한다.
• 연구는 계획 수립 단계에서 인간의 기대를 고려할 경우 더 직관적이고 잠재적으로 더 효율적인 협업이 가능하다는 것을 확인했지만, 실제 환경에서의 성능 평가를 위해 추가로 인간이 참여하는 평가가 필요하다.