[논문 리뷰] WHY: Natural Explanations from a Robot Navigator

Raj Korpan, Susan L. Epstein외 2명|arXiv (Cornell University)|2017. 09. 27.

Speech and dialogue systems참고 문헌 26인용 수 7

한 줄 요약

이 논문은 SemaFORR라는 인지적으로 영감을 받은 로봇 컨트롤러를 활용하여 인간 친화적인 설명을 생성하는 실시간 자연어 설명 시스템인 Why을 제시한다. 일반 지식 추론, 정성적 공간 모델링, 히우리스틱 신뢰도 평가를 통합함으로써 Why는 맥락 인식형, 직관적인 로봇 주행 결정에 대한 설명을 생성한다. 복잡한 실내 환경에서 실시간으로 구동되며, 평균 3ms 이내의 지연으로 설명을 생성한다.

ABSTRACT

Effective collaboration between a robot and a person requires natural communication. When a robot travels with a human companion, the robot should be able to explain its navigation behavior in natural language. This paper explains how a cognitively-based, autonomous robot navigation system produces informative, intuitive explanations for its decisions. Language generation here is based upon the robot's commonsense, its qualitative reasoning, and its learned spatial model. This approach produces natural explanations in real time for a robot as it navigates in a large, complex indoor environment.

연구 동기 및 목표

• 협업 주행 중 로봇 주행 결정에 대한 자연스럽고 인간에게 친화적인 설명을 가능하게 하기 위해.
• 인지적으로 타당한 추론을 통해 인간과 로봇 주행자 간의 지각적 및 표현적 격차를 해소하기 위해.
• 지도 없는 복잡한 실내 환경에서 로봇 행동에 대한 실시간이고 직관적인 설명의 부족을 해결하기 위해.
• 신뢰도와 이해를 높이기 위해 '왜 이 행동을 했는가?', '다른 행동은 왜 아니었는가?', '얼마나 확신하는가?'라는 세 가지 핵심 질문에 답하기 위해.
• 주행을 넘어 FORR 기반 시스템에 적용 가능한 일반화 가능한 설명 프레임워크를 개발하기 위해.

제안 방법

• 지도 없이 센서 데이터로부터 압축된 근사 공간 모델을 학습하는 인지 기반 로봇 컨트롤러인 SemaFORR를 사용한다.
• 행동 선택 및 신뢰도 평가를 위한 히우리스틱 기반 평가자인 'Advisors'를 포함하는 계층적 추론 프레임워크를 활용한다.
• 사전 정의된 언어 매핑을 통해 수치적 신뢰도 점수(예: $G_k$, $T_k$, $L_k$)를 자연어 표현으로 매핑하여 설명을 생성한다.
• 근접성, 익숙함, 장애물 회피 기반으로 정성적 공간 추론과 일반 지식 지식을 적용하여 결정을 정당화한다.
• ROS 패키지를 통해 실시간으로 통합되어 저지연 설명(평균 3ms 이내)을 가능하게 한다.
• 모든 사용자가 접근할 수 있도록 일반적으로 이해하기 쉬운 수준(약 6학년 수준)을 확보하기 위해 Coleman-Liau 읽기 어려움 지수를 사용한다.

실험 결과

연구 질문

• RQ1 로봇은 어떻게 맥락에 민감하고 직관적인 자연어 설명을 생성할 수 있는가?
• RQ2 실시간 주행 중 인간 협업자에게 투명하고 인지적으로 타당한 추론을 제공할 수 있는가?
• RQ3 신뢰도를 효과적으로 자연어로 전달함으로써 신뢰도와 이해를 높일 수 있는가?
• RQ4 일반 목적의 설명 시스템을 기반 로봇 컨트롤러에서 분리할 수 있는 정도는 어느 정도인가?
• RQ5 복잡하고 대규모 실내 환경에서 최소한의 계산 부하로 실시간으로 설명을 생성할 수 있는가?

주요 결과

• Why는 60m × 90m의 실내 환경에서 주행 중 평균 3ms 미만의 지연으로 실시간으로 자연어 설명을 생성한다.
• Why의 설명의 독해 난이도는 Coleman-Liau 지수로 측정했을 때 약 6학년 수준이며, 비전문가 사용자에게도 접근 가능함을 보장한다.
• 결정의 67.15%에서는 Advisors가 행동 선택에 대해 의견을 다르게 내었으며($G_k > 0.45$), 이는 설명 생성이 불확실하거나 복잡한 경우에 가장 필요한 상황임을 시사한다.
• SemaFORR는 오직 2.44%의 결정에서 높은 자신감($T_k > 1.5$)을 보였으며, 이는 낮은 자신감의 결정에 대해 세련된 설명이 필요한 중요성을 강조한다.
• 선택된 행동과 대안 간 비교에서 SemaFORR가 강한 선호도를 보인 경우가 61.13%였으며($T_k - T_j > 1.5$), 이는 설명 생성에 신뢰도 지표를 활용할 수 있음을 뒷받침한다.
• Why는 공간 모델의 성숙도와 Advisors 간의 일치 수준에 따라 맥락이 풍부한 다양한 설명을 성공적으로 생성하였으며, 표 6의 결정별 예시를 통해 이를 입증하였다.