[논문 리뷰] Compositional generalization through meta sequence-to-sequence learning

Brenden M. Lake|arXiv (Cornell University)|2019. 06. 12.

Topic Modeling참고 문헌 34인용 수 44

한 줄 요약

논문은 memory-augmented 네트워크를 활용한 메타 시퀀스-투-시퀀스(meta seq2seq) 학습을 도입하여 SCAN 유사 태스크에서 구성적 일반화를 달성하고, 표준 seq2seq를 능가하며 여러 실험에서 인간에 가까운 일반화에 근접함을 보여준다. 또한 변수의 메모리 기반 추상화와 episodic 메타 트레이닝을 통한 새로운 원시(primitives)의 빠른 학습을 시연하고, 더 긴 시퀀스에 대한 외삽에는 한계가 있음을 지적한다.

ABSTRACT

People can learn a new concept and use it compositionally, understanding how to "blicket twice" after learning how to "blicket." In contrast, powerful sequence-to-sequence (seq2seq) neural networks fail such tests of compositionality, especially when composing new concepts together with existing concepts. In this paper, I show how memory-augmented neural networks can be trained to generalize compositionally through meta seq2seq learning. In this approach, models train on a series of seq2seq problems to acquire the compositional skills needed to solve new seq2seq problems. Meta se2seq learning solves several of the SCAN tests for compositional learning and can learn to apply implicit rules to variables.

연구 동기 및 목표

• 표준 seq2seq 모델의 구성적 일반화 한계를 동기 부여하고 정량화한다.
• 외부 메모리를 갖춘 메타 seq2seq 학습자를 episodic 태스크에서 학습시켜 구성적으로 학습하는 방법을 제안한다.
• SCAN 파생 태스크(상호 배타성, 새로운 원시의 추가, 친숙한 개념의 결합, 더 긴 시퀀스 일반화)를 포함하여 접근 방식을 시연한다.

제안 방법

• 각 에피소드에서 지원 항목을 저장하는 외부 키-값 메모리를 갖춘 메모리-강화된 seq2seq 백본을 사용한다.
• 양방향 LSTM으로 질의와 지원 항목을 인코딩하고, 최종 지원 인코딩을 메모리 키와 값으로 저장한다.
• 메모리에 주목(attending)하여 단계별 컨텍스트를 계산하고 디코더의 각 단계에 대한 컨텍스트를 생성한다.
• 에피소드마다 새로운 seq2seq 문제(지원 항목과 질의 항목이 포함)를 제공하는 메타-트레이닝을 통해 학습하고, 테스트 중에는 더 이상의 가중치 업데이트 없이 에피소드당 한 번만 가중치를 업데이트한다.
• 비메모리의 표준 seq2seq와 비교하고, 지원 로스나 디코더 어텐션 제거의 영향(앙상블)을 평가하는 ablation 실험을 수행한다.

실험 결과

연구 질문

• RQ1 메타 학습 프레임워크가 seq2seq 태스크에서 체계적인 구성적 일반화를 가능하게 하는가?
• RQ2 모델이 변수에 암시적 규칙을 적용하는 법을 학습하고 새로운 조합 및 더 긴 시퀀스에 일반화할 수 있는 정도는 어느 정도인가?
• RQ3 추가 학습 보조 도구(지원 로스, 디코더 어텐션)가 성능과 메모리 활용에 실질적으로 영향을 미치는가?
• RQ4 확장된 보강 원시 세트와 새로운 원시의 빠른 습득이 필요한 태스크에서 메타 seq2seq의 성능은 어떤가?
• RQ5 훈련된 길이를 넘어선 더 긴 출력 시퀀스로의 외삽에서 메타 seq2seq의 한계는 무엇인가?

주요 결과

• 메타 seq2seq는 SCAN 스타일 태스크에서 강력한 구성적 일반화를 달성하며 표준 seq2seq 및 구문적 어텐션 베이스라인을 능가한다.
• 상호 배타성 태스크에서 모델은 외부 메모리를 활용해 지원 항목에 기반한 미지 symbol을 매핑하여 100% 정확도를 달성한다.
• 원래 SCAN add-jump 태스크에서 메타 seq2seq는 약 99%의 정확도에 도달하는 반면 표준 seq2seq는 거의 0%에 가깝다.
• 향상(더 큰 원시 세트)과 함께, 네 가지 원래 원시를 사용한 테스트에서 메타 seq2seq는 약 98.7%의 정확도를 달성하는 반면 표준 seq2seq는 약 12% 내외, 구문적 어텐션은 약 29% 내외로(run 간 변동 있음) 유지된다.
• 메타 트레이닝 하에서 새 원시(예: jump)를 추론하고 합성하는 데 메타 seq2seq가 성공하지만, 테스트가 더 긴 시퀀스나 훈련 길이를 넘어선 외삽을 요구하면 성능이 저하되어 진정한 체계적 일반화의 한계를 시사한다.