[논문 리뷰] "Can you do this?" Self-Assessment Dialogues with Autonomous Robots Before, During, and After a Mission

Tyler Frasca, Evan Krause외 2명|arXiv (Cornell University)|2020. 05. 04.

Reinforcement Learning in Robotics참고 문헌 6인용 수 6

한 줄 요약

이 논문은 임무 수행 이전, 동안, 이후 대화를 통해 자율 로봇이 자신의 능력을 내省하고 작업 성공 가능성 확률을 추정할 수 있도록 하는 자기 평가 프레임워크를 제안한다. DIARC 아키텍처에 구현되어 나오 로봇에서 시연된 이 시스템은 작업에 특화된 대화를 가능하게 하여 인간-로봇 협업의 투명성과 신뢰도를 향상시킨다.

ABSTRACT

Autonomous robots with sophisticated capabilities can make it difficult for human instructors to assess its capabilities and proficiencies. Therefore, it is important future robots have the ability to: introspect on their capabilities and assess their task performance. Introspection allows the robot to determine what it can accomplish and self-assessment allows the robot estimate the likelihood it will accomplish at given task. We introduce a general framework for introspection and self-assessment that enables robots to have task and performance-based dialogues before, during, and after a mission. We then realize aspects of the framework in the cognitive robotic DIARC architecture, and finally show a proof-of-concept demonstration on a Nao robot showing its self-assessment capabilities before, during, and after an instructed task.

연구 동기 및 목표

• 복잡한 자율 로봇의 능력을 평가하는 데 어려움을 겪는 인간 지도자들의 과제를 해결하기 위해.
• 로봇이 자신의 능력을 내省하고 작업 성과 확률을 자가 평가할 수 있도록 하기 위해.
• 임무 단위 및 성과 기반 대화를 임무 단계(이전, 동안, 이후) 전반에 걸쳐 적용 가능한 일반 프레임워크 개발하기 위해.
• DIARC 아키텍처를 사용하여 실제 로봇 시스템에서 자기 평가 대화의 실현 가능성을 시연하기 위해.
• 로봇이 제공하는 자기 평가를 통해 인간-로봇 협업의 투명성과 신뢰도를 향상시키기 위해.

제안 방법

• 작업 능력과 성과 지표를 기반으로 한 로봇 내성 및 자기 평가를 위한 일반 프레임워크 설계하기.
• DIARC 인지 로봇 아키텍처에 프레임워크 통합하여 동적이고 맥락 인식 가능한 대화 생성 지원하기.
• 로봇이 '이걸 할 수 있어?'와 같은 인간의 질문에 자기 평가된 자신감 수준으로 응답할 수 있도록 대화 생성 로직 구현하기.
• 작업 실행 중 실시간 성과 모니터링을 통해 자기 평가 추정치를 업데이트하기.
• 임무 후 반성을 가능하게 하여 로봇이 성과를 요약하고 강점 또는 실패를 식별하도록 하기.
• 나오 로봇에서 작업을 수행하고 모든 임무 단계에서 자기 평가 대화를 수행하는 개념 실증 시연 수행하기.

실험 결과

연구 질문

• RQ1 자율 로봇은 어떻게 주어진 작업을 성공적으로 완수할 가능성을 자기 평가할 수 있는가?
• RQ2 어떤 대화 메커니즘이 임무 이전, 동안, 이후에 인간 지도자에게 로봇의 자기 평가된 전문성 수준을 전달할 수 있도록 하는가?
• RQ3 DIARC와 같은 인지 아키텍처가 동적이고 맥락 민감한 자기 평가 대화를 지원할 수 있는가?
• RQ4 로봇의 자기 평가는 인간이 로봇 능력을 이해하고 협업 효과를 향상시키는 데 어떻게 기여하는가?
• RQ5 실제 로봇 시스템에 자기 평가를 구현할 때 발생하는 실용적 과제는 무엇인가?

주요 결과

• 제안된 프레임워크는 인간의 질문 예를 들어 '이걸 할 수 있어?'에 대해 맥락 인식 가능하고 작업에 특화된 자기 평가 응답을 생성할 수 있도록 한다.
• 시스템은 실제 나오 로봇에서 임무 이전 계획, 실시간 실행, 임무 후 반사 단계에서 자기 평가 대화를 성공적으로 시연하였다.
• 실행 중 자기 평가는 실시간 성과 데이터를 기반으로 작업 성공에 대한 자신감을 동적으로 업데이트할 수 있도록 하였다.
• 임무 후 대화를 통해 로봇은 작업 결과를 반성하고 성공과 실패를 자기 평가된 설명과 함께 식별할 수 있었다.
• DIARC 아키텍처에 통합된 결과, 내성적 대화 기능을 지원하는 데 있어 실현 가능하고 확장 가능한 것으로 입증되었다.
• 개념 실증을 통해 자기 평가 대화가 인간-로봇 협업의 투명성과 신뢰도를 향상시킬 수 있음을 보여주었다.