[논문 리뷰] Skill Transfer via Partially Amortized Hierarchical Planning

Kevin Xie, Homanga Bharadhwaj외 3명|arXiv (Cornell University)|2020. 11. 27.

Reinforcement Learning in Robotics참고 문헌 27인용 수 4

한 줄 요약

이 논문은 새로운 작업에 빠르게 적응할 수 있도록, 학습된 세계 모델과 부분적으로 보상된 계획을 통한 온라인 스킬 선택을 결합한 계층적 강화학습 프레임워크를 제안한다. 정책는 사전 훈련된 상태이지만, 테스트 시점에 온라인 계획을 통해 선택된 스킬에 조건을 부여함으로써, 강력한 기준 모델에 비해 더 높은 샘플 효율성과 전이 성능을 달성한다. 이는 복잡한 운동 제어 작업에서 성능 향상을 이룬다.

ABSTRACT

To quickly solve new tasks in complex environments, intelligent agents need to build up reusable knowledge. For example, a learned world model captures knowledge about the environment that applies to new tasks. Similarly, skills capture general behaviors that can apply to new tasks. In this paper, we investigate how these two approaches can be integrated into a single reinforcement learning agent. Specifically, we leverage the idea of partial amortization for fast adaptation at test time. For this, actions are produced by a policy that is learned over time while the skills it conditions on are chosen using online planning. We demonstrate the benefits of our design decisions across a suite of challenging locomotion tasks and demonstrate improved sample efficiency in single tasks as well as in transfer from one task to another, as compared to competitive baselines. Videos are available at: this https URL

연구 동기 및 목표

• 학습된 세계 모델과 재사용 가능한 스킬을 하나의 강화학습 에이전트에 통합하여 새로운 작업에 빠르게 적응하는 것을 목표로 한다.
• 단일 작업 학습과 다중 작업 간 전이에서 샘플 효율성을 향상시키는 것.
• 스킬을 온라인으로 선택하면서 정책는 사전 학습된 상태에서 부분적으로 보상된 계층적 계획의 이점을 탐색하는 것.
• 일반화가 요구되는 도전적인 운동 환경에서 접근 방식의 효과성을 입증하는 것.

제안 방법

• 에이전트는 테스트 시점에 온라인 계획을 통해 선택된 스킬에 조건을 부여한 사전 훈련된 정책를 사용한다.
• 잠재된 세계 모델을 사용하여 잠재적 스킬 시퀀스의 결과를 예측함으로써 온라인 계획을 통해 스킬을 선택한다.
• 정책는 시간이 지남에 따라 학습되며, 테스트 시점에 동적으로 스킬을 선택함으로써 부분적으로 보상된 전략을 적용하여 계획 오버헤드를 줄인다.
• 세계 모델은 상태 전이와 보상을 예측하도록 훈련되어, 온라인 계획 중 빠른 롤아웃을 가능하게 한다.
• 계층적 구조는 장기적 결정(스킬 선택)과 저수준 액션 생성(정책)을 분리한다.
• 다른 작업에 대해 새로운 스킬 시퀀스를 사용할 수 있도록 사전 훈련된 정책를 재사용함으로써 전이 학습을 지원한다.

실험 결과

연구 질문

• RQ1 부분적으로 보상된 계층적 계획은 복잡한 제어 작업에서 샘플 효율성을 향상시킬 수 있는가?
• RQ2 학습된 세계 모델과 온라인 스킬 선택을 결합하면 작업 간 전이 성능에 어떤 영향을 미치는가?
• RQ3 추론 중 동적으로 스킬을 선택하는 것이 고정 또는 사전 학습된 스킬 정책보다 우수한가?
• RQ4 새로운 작업에 적응할 때, 상당한 재훈련이 필요한 정도는 어느 정도 감소하는가?

주요 결과

• 제안된 방법은 경쟁 기준 모델에 비해 단일 작업 학습에서 뛰어난 샘플 효율성을 달성한다.
• 에이전트는 한 운동 제어 작업에서 다른 작업으로 전이할 때 개선된 전이 성능를 보여준다.
• 온라인 스킬 선택은 정책를 재훈련할 필요 없이 테스트 시점에서 더 빠른 적응을 가능하게 한다.
• 세계 모델과 계층적 계획의 통합은 더 효과적인 장기적 계획을 이끈다.