[논문 리뷰] Axiom Learning and Belief Tracing for Transparent Decision Making in Robotics

Tiago Mota, Mohan Sridharan|arXiv (Cornell University)|2020. 10. 20.

AI-based Problem Solving and Planning참고 문헌 8인용 수 4

한 줄 요약

이 논문은 비단조화 논리적 추론, 딥러닝, 결정트리 유도를 통합하여 로봇이 복잡한 동적 환경에서 의사결정, 신념 및 가정적 행동에 대한 수요에 맞는 상관관계 설명을 생성할 수 있도록 하는 통합 로봇 아키텍처를 제안한다. 데이터로부터 새로운 공리들을 학습하고 이를 추론를 이끌기 위해 사용함으로써, 시스템은 설명 정확도를 크게 향상시켰으며, 학습된 공리들을 사용할 경우 계획 및 신념 정당화 작업에서 정밀도와 재현율이 각각 100%에 도달했다.

ABSTRACT

A robot's ability to provide descriptions of its decisions and beliefs promotes effective collaboration with humans. Providing such transparency is particularly challenging in integrated robot systems that include knowledge-based reasoning methods and data-driven learning algorithms. Towards addressing this challenge, our architecture couples the complementary strengths of non-monotonic logical reasoning, deep learning, and decision-tree induction. During reasoning and learning, the architecture enables a robot to provide on-demand relational descriptions of its decisions, beliefs, and the outcomes of hypothetical actions. These capabilities are grounded and evaluated in the context of scene understanding tasks and planning tasks performed using simulated images and images from a physical robot manipulating tabletop objects.

연구 동기 및 목표

• 복잡하고 동적인 환경에서 로봇이 의사결정, 신념 및 가정적 행동에 대한 수요에 맞는 상관관계 설명을 제공할 수 있도록 하는 것.
• 지식 기반 추론과 데이터 기반 학습을 융합한 통합 시스템에서의 설명 가능성 문제를 해결하는 것.
• 경험에서 행동 전제 조건과 영향을 규정하는 새로운 공리를 학습하여 투명성을 향상시키는 시스템을 개발하는 것.
• 초기 상태에서부터 공리 시퀀스를 거쳐 현재 상태로의 신념 변화를 자동으로 추적할 수 있도록 하는 것.
• 시뮬레이션 및 물리적 로봇 시나리오에서 장면 이해 및 계획 작업을 포함하여 아키텍처를 평가하는 것.

제안 방법

• 도메인 역학을 모델링하고 신념 추적을 지원하기 위해 비단조화 논리적 추론을 위해 Answer Set Programming (ASP)를 사용한다.
• 이미지에서 물체 및 공간적 관계 인식과 같은 인식 작업을 위해 딥러닝 모델을 적응시킨다.
• 관측된 데이터와 추론 결과로부터 새로운 공리(전제 조건 및 영향)를 유도하기 위해 결정트리 유도를 사용한다.
• 해당 추론 흐름에서 관련 리터럴을 검색하여 설명을 구성하며, 기존 공리와 학습된 공리를 모두 활용한다.
• 기존 지식로 의사결정이나 신념을 정당화할 수 없는 경우, 시스템은 동적으로 학습을 트리거한다.
• 설명은 논리적 추론과 학습된 제약 조건에 기반한 물체, 행동, 속성의 상관관계 기반 서술로 생성된다.

실험 결과

연구 질문

• RQ1 지식 기반 추론과 데이터 기반 학습의 조합을 통해 로봇 시스템이 정확하고 수요에 맞는 의사결정 및 신념 설명을 생성할 수 있는 방법은 무엇인가?
• RQ2 새로운 공리를 학습함으로써 로봇 작업에서 설명 생성의 정밀도와 재현율이 얼마나 향상되는가?
• RQ3 로봇 시스템이 논리적 추론을 통해 초기 지식에서 현재 상태로의 신념 변화를 자동으로 추적할 수 있는가?
• RQ4 추론과 학습의 통합이 로봇 의사결정의 투명성과 신뢰성에 어떻게 기여하는가?
• RQ5 학습된 공리의 영향은 계획 및 인식에서의 가정적 또는 반대가정적 시나리오 설명에 어떤 영향을 미치는가?

주요 결과

• 학습된 공리를 사용하여 추론한 결과, 시뮬레이션 환경에서 계획 기술 및 신념 정당화 작업에서 설명 생성의 정밀도와 재현율이 각각 100%에 도달했다.
• 학습된 공리를 사용함으로써 성능 향상이 뚜렷했으며, 실행되지 않은 행동에 대한 질문에서는 물리적 로봇 실험에서 재현율이 63.01%에서 100%로 상승했다.
• 학습된 공리 없이도 시스템은 합리적인 성능(예: 계획 기술에서 정밀도 71.85%)을 유지하여 기존 지식의 강건성을 보여주었다.
• 설명 오류는 드물게 발생했으며 대부분 과다 기술(불필요한 리터럴 추가) 형태였고, 이는 설명 생성의 높은 정밀도를 시사했다.
• 목표와 관련된 공리를 제거했을 경우 성능이 크게 떨어졌으며, 이는 정확한 설명 생성에 있어 공리의 핵심적 역할을 확인시켰다.
• 센서 및 액추에이터 노이즈에 대해 시스템은 강건성을 보였으며, 인식 오류, 제약 조건 학습 오류, 조작 오류 비율이 각각 15%, 5–10%, 15%였지만 여전히 정확한 설명을 생성했다.