[논문 리뷰] Towards A Robot Explanation System: A Survey and Our Approach to State Summarization, Storage and Querying, and Human Interface

Han Zhao, Jordan Allspaw외 2명|arXiv (Cornell University)|2019. 09. 13.

Explainable Artificial Intelligence (XAI)참고 문헌 54인용 수 5

한 줄 요약

이 논문은 신뢰성과 투명성을 향상시키기 위해 상태 요약, 효율적 쿼리가 가능한 지속적 데이터 저장, 다중모odal 인간 인터페이스를 통합한 종합적인 로봇 설명 시스템을 제안한다. 이 시스템은 추상적 요약에서 세부 사양까지의 설명을 로봇 주도 또는 사용자 주도로 가능하게 하며, 이를 구조화된 데이터베이스에 저장하고 음성, 제스처 또는 AR을 통해 전달한다. 평가 시험 환경으로 FetchIt!을 활용한다.

ABSTRACT

As robot systems become more ubiquitous, developing understandable robot systems becomes increasingly important in order to build trust. In this paper, we present an approach to developing a holistic robot explanation system, which consists of three interconnected components: state summarization, storage and querying, and human interface. To find trends towards and gaps in the development of such an integrated system, a literature review was performed and categorized around those three components, with a focus on robotics applications. After the review of each component, we discuss our proposed approach for robot explanation. Finally, we summarize the system as a whole and review its functionality.

연구 동기 및 목표

• 로봇-사용자 상호작용(HRI)에서 신뢰성과 사용성 향상을 위해 점점 증가하는 설명 가능한 로봇 시스템의 필요성을 해결하기 위해.
• 상태 요약, 데이터 저장/쿼리, 인간 인터페이스 구성 요소 분야의 문헌 조사를 통해 로봇 설명 시스템 분야의 연구 격차를 규명하기 위해.
• 다양한 추상 수준에서 로봇 주도 및 사용자 주도 설명을 모두 지원하는 통합 아키텍처를 설계하기 위해.
• 자연어, 제스처, AR을 활용한 효율적이고 확장 가능하며 다중모달 방식의 설명 전달을 가능하게 하기 위해.
• FetchIt! 모바일 조작 챌린지와 같은 현실적이고 제약이 있는 환경에서 시스템을 평가하기 위해.

제안 방법

• 원시 센서 데이터에서 고수준 작업 기술까지 다양한 추상 수준에서 상태 요약을 수행하며, 수동 또는 자동화된 방법을 사용한다.
• 요약, 원시 상태, 메타데이터를 저장하는 지속적 데이터베이스를 운영하며, 동적 쿼리에 대응하기 위해 관련성 링크를 유지한다.
• 사전 저장된 요약이 사용자 쿼리에 충분하지 않을 경우 온라인 요약을 지원하기 위해 쿼리 인터페이스를 활용한다.
• 음성, 신체 언어, 화면, AR을 포함한 다중모달 커뮤니케이션 방식을 사용자 인터페이스에 적용하며, 맥락과 주의 요구에 따라 모odal 선택을 한다.
• 양방향 상호작용을 지원: 로봇은 투명하지 않은 행동에 대해 설명을 주도적으로 제공할 수 있고, 사용자는 필요에 따라 더 깊거나 넓은 설명을 요청할 수 있다.
• 기존 로봇 소프트웨어 스택 및 설명 모듈과의 통합을 가능하게 하기 위해 모듈식 API를 설계한다.

실험 결과

연구 질문

• RQ1 다양한 추상 수준에서 로봇 행동을 요약하는 방법은 무엇이며, 이는 전문가 및 비전문가 사용자 모두에게 어떻게 기여할 수 있는가?
• RQ2 다양한 세부 수준에서 설명을 효율적으로 저장하고 검색하기 위해 필요한 데이터베이스 설계 및 쿼리 메커니즘은 무엇인가?
• RQ3 음성, 제스처, AR과 같은 다중모달 인간 인터페이스를 효과적으로 통합하여 설명 이해도와 참여도를 향상시킬 수 있는가?
• RQ4 일般 AI 또는 가상 에이전트 설명 시스템과 비교했을 때 현재 로봇 설명 시스템의 주요 격차는 무엇인가?
• RQ5 실제 로봇 작업 환경에서 로봇 주도 및 사용자 주도 설명이 원활하게 통합될 수 있는 방법은 무엇인가?

주요 결과

• 현재 자동화된 기계학습 기반 요약 방법의 미성成熟도로 인해 수동 상태 요약이 여전히 유의미한 대안으로 남아 있다.
• 지속적이고 쿼리 기반인 데이터베이스는 다양한 설명 수준 간의 연결을 유지하고 사용자 동적 쿼리 요구에 대응하기 위해 필수적이다.
• 다중모달 커뮤니케이션, 특히 음성, 제스처 및 AR의 조합은 물리적 HRI 환경에서 설명의 주목도 향상과 이해도 향상에 기여한다.
• 그립 문제, 내비게이션 오류, 물체 인식 혼동 등의 공통 고장 유형이 존재하므로 FetchIt! 작업 환경은 설명 시스템 평가에 현실적인 시험장으로 적합하다.
• 공간 제약이나 센서 노이즈로 인한 잘못된 그립과 같은 일반적인 로봇 고장은 시기적절하고 인간이 이해할 수 있는 설명이 필요함을 시사한다.
• 제안된 시스템 아키텍처는 로봇 주도 및 사용자 주도 설명을 모두 지원하여 유연하고 상호작용적인 설명 세션을 가능하게 한다.