[논문 리뷰] Emergent Systematic Generalization In a Situated Agent

Felix Hill, Andrew K. Lampinen외 5명|arXiv (Cornell University)|2019. 10. 01.

Multimodal Machine Learning Applications인용 수 22

한 줄 요약

이 논문은 3차원 시뮬레이션 환경에서 작업하는 위치 기반 에이전트를 대상으로 체계적 일반화를 조사하며, 다양한 다중 모odal 관찰을 통해 훈련된 에이전트가 분포 외 지시어에 대한 성능이 크게 향상됨을 보여준다. 주요 요인으로는 높은 물체/단어 노출도, 시점 기반 시각적 불변성, 그리고 지각 입력의 다양성으로, 신경망이 인간 학습과 유사하게 풍부하고 다양한 감각 경험을 통해 훈련될 경우 더 잘 일반화됨을 시사한다.

ABSTRACT

The question of whether deep neural networks are good at generalising beyond their immediate training experience is of critical importance for learning-based approaches to AI. Here, we consider tests of out-of-sample generalisation that require an agent to respond to never-seen-before instructions by manipulating and positioning objects in a 3D Unity simulated room. We first describe a comparatively generic agent architecture that exhibits strong performance on these tests. We then identify three aspects of the training regime and environment that make a significant difference to its performance: (a) the number of object/word experiences in the training set; (b) the visual invariances afforded by the agent's perspective, or frame of reference; and (c) the variety of visual input inherent in the perceptual aspect of the agent's perception. Our findings indicate that the degree of generalisation that networks exhibit can depend critically on particulars of the environment in which a given task is instantiated. They further suggest that the propensity for neural networks to generalise in systematic ways may increase if, like human children, those networks have access to many frames of richly varying, multi-modal observations as they learn.

연구 동기 및 목표

• 딥 신경망이 위치 기반 3차원 환경에서 한 번도 본 적 없는 지시어에 대해 체계적으로 일반화할 수 있는지 조사하기.
• 비전-언어 에이전트의 일반화 성능에 영향을 주는 특정 훈련 및 환경 요인을 규명하기.
• 다중 모달이고 지각적으로 풍부한 관찰이 신경망에서 체계적 일반화의 발생에 어떤 영향을 미치는지 탐구하기.

제안 방법

• 일반적인 에이전트 아키텍처를 3차원 유니티 시뮬레이션에서 훈련하여 자연어 지시에 기반한 물체 조작 작업을 수행하도록 하였다.
• 훈련 제도에서 물체/단어 경험 쌍의 수를 변화시켜 그 영향을 평가하였다.
• 에이전트의 시각적 시점과 기준 프레임을 조작하여 시각적 불변성이 성능에 미치는 영향을 평가하였다.
• 물체의 위치, 조명, 시점 등을 변화시켜 시각 입력의 다양성을 높여 지각 다양성이 학습에 미치는 영향을 테스트하였다.

실험 결과

연구 질문

• RQ1 훈련 중 물체/단어 경험의 수가 새로운 지시어에 대한 일반화에 어떤 영향을 미치는가?
• RQ2 에이전트의 기준 프레임 또는 시각적 시점은 체계적 일반화에 얼마나 큰 영향을 미치는가?
• RQ3 시각 입력의 지각 변동성이 에이전트의 훈련 분포를 초월한 일반화 능력에 어떤 영향을 미치는가?

주요 결과

• 훈련 세트에서 물체/단어 경험의 수를 늘릴수록 새로운 지시어에 대한 일반화 능력이 뚜렷이 향상됨을 확인하였다.
• 에이전트의 시점에 의해 도입된 시각적 불변성이 체계적 일반화를 가능하게 하는 데 핵심적인 역할을 하였다.
• 더 높은 수준의 지각 다양성이 있는 시각 입력은 더 강력한 일반화 성능을 이끌어내었으며, 이는 더 풍부한 감각 입력이 학습을 향상시킨다는 것을 시사한다.
• 결과는 신경망에서의 체계적 일반화가 환경 및 훈련 전용 설계 선택에 매우 민감함을 나타낸다.