[논문 리뷰] CHALET: Cornell House Agent Learning Environment

Claudia Yan, Dipendra Misra외 4명|arXiv (Cornell University)|2018. 01. 23.

Reinforcement Learning in Robotics참고 문헌 19인용 수 71

한 줄 요약

CHALET은 언어, 비전, 계획 능력을 가진 에이전트를 훈련하기 위해 58개 방에 걸쳐 10채의 집에 걸친 내비게이션 및 조작을 지원하는 3D Unity 기반의 주택 시뮬레이터로, 가 movable objects, containers, and realistic physics.

ABSTRACT

We present CHALET, a 3D house simulator with support for navigation and manipulation. CHALET includes 58 rooms and 10 house configuration, and allows to easily create new house and room layouts. CHALET supports a range of common household activities, including moving objects, toggling appliances, and placing objects inside closeable containers. The environment and actions available are designed to create a challenging domain to train and evaluate autonomous agents, including for tasks that combine language, vision, and planning in a dynamic environment.

연구 동기 및 목표

• 자율 에이전트를 내비게이션 및 조작 작업으로 훈련하기 위한 풍부한 인터랙티브 주택 환경을 제공한다.
• 이동, 컨테이너의 열고 닫기, 아이템 배치를 포함한 다양한 객체 상호작용을 지원한다.
• 부분적으로 관찰 가능한 동적 설정에서 언어 바인딩과 지시 따르기를 촉진한다.
• 강건한 학습을 위해 다양한 주거 배치와 객체 구성을 확장 가능하게 생성하도록 한다.

제안 방법

• WebGL를 포함한 크로스 플랫폼 배포를 위해 C# 스크립팅으로 Unity 3D에서 CHALET를 구현한 것.
• 다양한 상호작용 및 ML 통합을 위한 독립 실행형, 시뮬레이터 및 클라이언트 모드를 지원한다.
• 연속적인 에이전트 동작을 1인칭 시점에서 이산 정밀도 옵션과 함께 모델링한다.
• 58 rooms, 10 houses, 150 object types, and 71 manipulable types를 포함하여 풍부한 조작 시나리오를 가능하게 한다.
• 복잡한 내비게이션 및 객체 상호작용을 가능하게 하는 풍부한 행동 집합(이동, 측면 이동, 시선 방향 보기, 상호작용)을 정의한다.
• 주석이 달린 시연과 내비게이션 오차 및 조작 정확도에 대한 지표를 통해 평가를 제공한다.

실험 결과

연구 질문

• RQ1 시뮬레이션된 3D 주택 환경이 복잡한 언어 기반 내비게이션 및 조작 작업을 어떻게 지원할 수 있는가?
• RQ2 부분적으로 관찰 가능한 동적 가정 환경에서 에이전트 행동을 평가하기 위한 도전과제와 요건은 무엇인가?
• RQ3 Unity 기반 시뮬레이터가 강건한 학습을 위한 다양한 배치 및 객체 구성을 확장 가능하게 생성할 수 있는가?
• RQ4 리얼리스틱한 환경에서 컨테이너를 포함한 다단계 조작 지시를 에이전트가 얼마나 잘 학습하는가?

주요 결과

• CHALET은 58개의 방을 포함한 10채의 집과 150개 객체 유형으로 구성된 탐색 가능하고 조작 가능한 3D 환경을 제공합니다.
• 움직일 수 있는 다양한 행동 세트가 컨테이너를 열고 닫으며 동적인 환경 변화를 가능하게 합니다.
• 평가 프레임워크는 시연을 사용하여 내비게이션 오차와 참조 동작에 대한 조작 F1 점수를 계산합니다.
• 환경은 여러 작동 모드를 지원하고 학습 및 크라우드소싱을 위한 쉬운 시나리오 생성을 가능하게 합니다.
• CHALET은 공간 관계 및 객체 상태 변화로 인한 탐색과 기억이 필요한 언어 및 계획 과제를 강조합니다.