[논문 리뷰] DayDreamer: World Models for Physical Robot Learning

Philipp Wu, Alejandro Escontrela외 3명|arXiv (Cornell University)|2022. 06. 28.

Reinforcement Learning in Robotics인용 수 46

한 줄 요약

이 논문은 Dreamer 세계 모델 접근법을 네 대의 실제 로봇에 적용하여 시뮬레이터 없이 물리 세계에서 직접 샘플 효율적인 온라인 학습을 가능하게 하며, 이동, 조작, 탐색 작업 전반에 걸쳐 수행한다.

ABSTRACT

To solve tasks in complex environments, robots need to learn from experience. Deep reinforcement learning is a common approach to robot learning but requires a large amount of trial and error to learn, limiting its deployment in the physical world. As a consequence, many advances in robot learning rely on simulators. On the other hand, learning inside of simulators fails to capture the complexity of the real world, is prone to simulator inaccuracies, and the resulting behaviors do not adapt to changes in the world. The Dreamer algorithm has recently shown great promise for learning from small amounts of interaction by planning within a learned world model, outperforming pure reinforcement learning in video games. Learning a world model to predict the outcomes of potential actions enables planning in imagination, reducing the amount of trial and error needed in the real environment. However, it is unknown whether Dreamer can facilitate faster learning on physical robots. In this paper, we apply Dreamer to 4 robots to learn online and directly in the real world, without simulators. Dreamer trains a quadruped robot to roll off its back, stand up, and walk from scratch and without resets in only 1 hour. We then push the robot and find that Dreamer adapts within 10 minutes to withstand perturbations or quickly roll over and stand back up. On two different robotic arms, Dreamer learns to pick and place multiple objects directly from camera images and sparse rewards, approaching human performance. On a wheeled robot, Dreamer learns to navigate to a goal position purely from camera images, automatically resolving ambiguity about the robot orientation. Using the same hyperparameters across all experiments, we find that Dreamer is capable of online learning in the real world, establishing a strong baseline. We release our infrastructure for future applications of world models to robot learning.

연구 동기 및 목표

• Dreamer가 실제 로봇에서 직접 시뮬레이터 없이 온라인 학습을 가능하게 하는지 입증한다.
• 단일 하이퍼파라미터 세트로 이동, 조작, 탐색에 걸친 다양한 로봇 간 적용 가능성을 보여준다.
• 실제 하드웨어에서 세계 모델 기반 계획의 데이터 효율성과 전통적 모델-프리 baselines를 비교 평가한다.
• 세계 모델을 활용한 향후 로봇 학습 연구를 지원하는 오픈 소스 인프라를 강조한다.

제안 방법

• Dreamer 프레임워크를 사용하여 실제 세계 경험의 재생 버퍼로부터 세계 모델을 학습한다.
• RSSM 기반 세계 모델(인코더, 다이나믹스, 디코더, 보상 네트워크)을 사용하여 미래의 잠재 표현을 예측한다.
• 잠재 공간의 상상 롤아웃에서 배우-비평가 정책을 학습하고, 값 타깃으로 람다 반환을 사용한다.
• 데이터 수집과 학습을 분리하여 병렬화된 저지연 학습 및 상호작용을 가능하게 한다.
• 다중 모달 센서 데이터를 잠재 코드로 융합하여 명시적 상태 추정 없이도 계획을 가능하게 한다.
• 엔트로피 정규화를 통한 정책 탐색을 유지하고 연속 행동에는 재매개화, 이산 행동에는 Reinforce 등 적합한 기울기 추정기를 사용한다.

실험 결과

연구 질문

• RQ1 Dreamer가 시뮬레이터 없이 실제 세계에서 로봇 학습을 직접 가능하게 할 수 있는가?
• RQ2 Dreamer가 서로 다른 로봇 플랫폼, 감각 모달리티, 행동 공간에서도 성공하는가?
• RQ3 실제 로봇에서 Dreamer의 데이터 효율성은 강력한 기준선과 어떻게 비교되는가?
• RQ4 다양한 실제 작업에 단일 하이퍼파라미터 세트를 적용하는 실행 가능성은 어떤가?
• RQ5 실용 로봇 공학 설정에서 Dreamer와 호환되는 하드웨어 및 센서 모달리티는 무엇인가?

주요 결과

• Dreamer는 시뮬레이터 없이 실제 세계의 네 대 로봇에서 직접 학습한다.
• 사족 보행 로봇은 약 1시간의 실제 학습으로 몸을 뒤집고 일어서고 걷는 법을 배우고, 외란에 10분 내에 적응한다.
• UR5와 XArm이 픽셀과 희박 보상으로 시각적 피킹 앤 플레이스를 수행하며 수 시간 후에 인간 수준에 근접한다.
• RGB 이미지로부터의 Sphero 내비게이션은 2시간 이내에 목표 도달을 달성하고, DrQv2가 이 작업에서 성능을 따라잡는다.
• Dreamer는 여러 작업에서 강력한 기준선(Rainbow DQN, PPO) 및 인간 운영자보다 더 나은 샘플 효율을 달성한다.
• 동일한 하이퍼파라미터가 이동, 조작, 내비게이션 작업 전반에 걸쳐 작동한다.