[논문 리뷰] JEDAI: A System for Skill-Aligned Explainable Robot Planning

Naman Shah, Pulkit Verma외 2명|arXiv (Cornell University)|2021. 10. 31.

Explainable Artificial Intelligence (XAI)인용 수 5

한 줄 요약

JEDAI는 비전문가 사용자가 블록체인 기반의 시각적 인터페이스를 통해 실행 가능한 로봇 계획을 생성할 수 있도록 돕는 혁신적인 AI 시스템입니다. 이 시스템은 통합된 작업 및 운동 계획을 통해 고수준 작업을 저수준 로봇 동작과 정렬합니다. 사용자 고유의 모델 추정을 활용하여 계획 실패에 대해 개인화된 자연어 설명을 제공함으로써 교육 및 홍보적 맥락에서 로봇의 능력과 한계를 이해하는 데 기여합니다.

ABSTRACT

This paper presents JEDAI, an AI system designed for outreach and educational efforts aimed at non-AI experts. JEDAI features a novel synthesis of research ideas from integrated task and motion planning and explainable AI. JEDAI helps users create high-level, intuitive plans while ensuring that they will be executable by the robot. It also provides users customized explanations about errors and helps improve their understanding of AI planning as well as the limits and capabilities of the underlying robot system.

연구 동기 및 목표

• 비전문가 사용자가 교육 및 홍보적 맥락에서 AI 기반 로봇을 이해하고 효과적으로 사용할 수 있도록 돕는 도전 과제를 해결하기 위해.
• 사용자 계획과 로봇의 능력 간의 격차를 해소하기 위해 고수준의 직관적인 작업 계획과 저수준의 로봇 실행을 연결하기 위해.
• 사용자의 현재 이해 수준과 지식 수준을 반영하는 사용자 고유의 대조적 설명을 제공하기 위해.
• 시뮬레이션과 실시간 피드백을 통해 신뢰와 학습을 촉진하는 접근 가능하고 상호작용 가능한 시스템을 만들기 위해.
• 작업 계획, 운동 계획 및 설명 가능한 AI를 통합하여 양 분야의 발전에 따라 확장 가능한 방식으로 구현하기 위해.

제안 방법

• JEDAI는 타입 안정적인 동작 블록을 드래그 앤 드롭으로 조작할 수 있는 블록체인 기반의 시각적 인터페이스를 사용하여 사용자가 고수준 동작 계획을 구성하도록 합니다.
• 사용자의 로봇에 대한 정신 모델를 추정하고 계획 오류에 대한 대조적 설명을 생성하기 위해 계층적 전문성 수준 모델링(HELM) 알고리즘을 적용합니다.
• 사용자 인지적 중요도가 높은 전제 조건 위반을 식별하고, 난이도 인지 비용 함수를 최적화하여 개인화된 설명을 계산합니다.
• 기호적 계획 구조(예: 'pickup(plank_i, gripper_left)')를 인간이 이해할 수 있는 설명(예: '왼쪽 그립퍼로 플랭크_i를 들어 올리기')로 변환하는 자연어 템플릿을 사용합니다.
• ATM-MDP 작업 및 운동 계획기(플래너)는 샘플링 기반 운동 계획을 활용하여 고수준 계획을 실행 가능한 저수준 운동 시퀀스로 정밀 조정합니다.
• 성공적인 계획은 OpenRAVE 시뮬레이터에서 시각화되어 사용자가 3차원 시뮬레이션 환경에서 로봇 실행을 관찰할 수 있도록 합니다.

실험 결과

연구 질문

• RQ1 어떻게 비전문가 사용자가 직관적이면서도 실행 가능한 로봇 계획을 만들 수 있도록 도울 수 있는가?
• RQ2 개인화된 대조적 설명은 사용자의 로봇 계획 실패 이해도를 어떻게 향상시킬 수 있는가?
• RQ3 사용자의 고수준 의도와 저수준 로봇 능력 간의 정확하고 해석 가능한 방식으로 일치시킬 수 있는 정도는 어느 정도인가?
• RQ4 작업 계획, 운동 계획 및 설명 가능한 AI를 통합한 통합 프레임워크는 교육적 로봇 분야에서 신뢰와 학습을 어떻게 향상시킬 수 있는가?
• RQ5 비전문가의 인지 부담을 줄이기 위해 기호적 계획 요소의 자연어 기술은 어떻게 생성할 수 있는가?

주요 결과

• JEDAI는 ATM-MDP 플래너를 사용하여 사용자가 생성한 고수준 계획을 실행 가능한 저수준 운동 시퀀스로 성공적으로 변환하여, 유효한 계획일 경우 정확성을 보장합니다.
• 가장 인지적으로 관련성이 높은 전제 조건 위반을 식별함으로써 계획 실패에 대해 개인화된 대조적 설명을 생성함으로써 사용자의 혼란을 감소시킵니다.
• 사용자의 이해 수준에 맞게 HELM을 활용해 사용자의 정신 모델를 추정함으로써 JEDAI는 설명을 사용자 수준에 맞게 맞춤화하여 학습 성과를 향상시킵니다.
• 자연어 템플릿의 통합은 기호적 계획 형식과 인간의 이해 사이의 인지 장벽을 크게 감소시킵니다.
• Fetch 및 YuMi 로봇을 활용한 실제 로봇 환경에서의 구현 가능성을 입증하였으며, 전체 소스 코드와 사전 설정된 가상 머신을 공개하여 재사용이 가능합니다.
• JEDAI의 모듈러 아키텍처는 하위 작업 및 운동 계획, 설명 생성 기술의 향상에 따라 확장 가능합니다.