[논문 리뷰] Modularity Improves Out-of-Domain Instruction Following.

Rodolfo Corona, Daniel Fried외 3명|arXiv (Cornell University)|2020. 10. 24.

Topic Modeling참고 문헌 28인용 수 4

한 줄 요약

이 논문은 자연어 지시를 따르기 위한 모듈러 아키텍처를 제안하며, 작업을 서브골 타입으로 분해함으로써 각 서브골은 전용 모듈에서 처리하도록 한다. 지시어를 분할하고 서브골 타입을 예측하도록 학습함으로써, 표준 시퀀스-투-시퀀스 모델에 비해 ALFRED 벤치마크에서 분포 외 환경과 새로운 작업에 대한 제로샷 일반화 성능이 향상된다.

ABSTRACT

We propose a modular architecture for following natural language instructions that describe sequences of diverse subgoals, such as navigating to landmarks or picking up objects. Standard, non-modular, architectures used in instruction following do not exploit subgoal compositionality and often struggle on out-of-distribution tasks and environments. In our approach, subgoal modules each carry out natural language instructions for a specific subgoal type. A sequence of modules to execute is chosen by learning to segment the instructions and predicting a subgoal type for each segment. When compared to standard sequence-to-sequence approaches on ALFRED, a challenging instruction following benchmark, we find that modularization improves generalization to environments unseen in training and to novel tasks.

연구 동기 및 목표

• 훈련 중에 볼 수 없었던 환경과 새로운 작업에서 비모듈러 지시어 따르기 모델의 낮은 일반화 성능를 해결하기 위해.
• 자연어 지시어의 조합적 구조를 활용하기 위해 지시어를 재사용 가능한 서브골 타입으로 분해함으로써.
• 지시어 분할과 서브골 타입 예측을 학습함으로써 지시어 따르기의 제로샷 일반화 성능을 향상시키기 위해.
• 모듈러 아키텍처가 ALFRED 벤치마크의 분포 외 작업에서 표준 시퀀스-투-시퀀스 모델보다 뛰어난 성능을 보임을 보여주기 위해.

제안 방법

• 각 서브골 타입(예: 랜드마크로 이동, 물체를 집기 등)은 전용 신경 모듈이 담당하는 모듈러 아키텍처를 사용한다.
• 지시어 분할은 입력 지시어를 서브골 세그먼트로 나누는 분할 헤드를 통해 수행된다.
• 서브골 타입 예측기는 각 분할된 지시어 세그먼트에 특정한 서브골 타입을 할당한다.
• 각 서브골 모듈은 자체 정책을 사용하여 해당 작업을 실행함으로써 조합적 실행이 가능해진다.
• 시스템은 엔드 투 엔드 학습을 통해 ALFRED 벤치마크에서 지시어 따르기 성능을 최적화하도록 훈련된다.
• 모듈러 설계 덕분에 훈련 중에 볼 수 없었던 환경과 새로운 작업 조합으로의 더 나은 제로샷 전이가 가능해진다.

실험 결과

연구 질문

• RQ1 모듈러 아키텍처는 지시어 따르기 작업에서 분포 외 환경으로의 일반화를 향상시킬 수 있는가?
• RQ2 자연어 지시어의 서브골 조합성이 새로운 작업으로의 제로샷 전이를 향상시키는가?
• RQ3 모듈러 지시어 따르기 방식은 도메인 외 성능 측면에서 표준 시퀀스-투-시퀀스 모델보다 어떻게 비교되는가?
• RQ4 지시어 분할과 서브골 타입 예측을 학습하는 것이 엔드 투 엔드 모델링보다 더 나은 일반화를 이끌 수 있는가?
• RQ5 모듈러리티가 볼 수 없었던 환경과 작업 조합으로의 전이에 얼마나 기여하는가?

주요 결과

• 표준 시퀀스-투-시퀀스 모델에 비해 훈련 중에 볼 수 없었던 환경으로의 일반화 성능이 모듈러 아키텍처에서 뛰어나게 달성된다.
• 훈련 중에 볼 수 없었던 방식으로 서브골을 조합한 새로운 작업으로도 효과적으로 일반화된다.
• ALFRED 벤치마크에서 분포 외 환경에서의 제로샷 평가에서 성능 향상이 관찰된다.
• 이 접근 방식은 서브골 조합성을 활용하여 비모듈러 대안보다 더 나은 전이 성능을 달성한다.
• 분할과 서브골 타입 예측은 다양한 지시어 유형 간 일반화를 가능하게 하는 핵심 구성 요소이다.
• 모듈러 설계 덕분에 더 견고하고 해석 가능한 지시어 따르기 성능이 복잡한, 볼 수 없는 환경에서 확보된다.