[논문 리뷰] Compositional Generalization by Learning Analytical Expressions

Qian Liu, Shengnan An외 7명|arXiv (Cornell University)|2020. 06. 18.

Topic Modeling인용 수 19

한 줄 요약

이 논문은 계층적 강화 학습을 통해 분석적 표현을 학습함으로써 조합적 일반화를 달성하는 메모리 보강 신경망 모델인 Composer-Solver를 제안한다. 기호적 함수 슬롯과 신경 모듈을 결합함으로써, 모든 SCAN 벤치마크 과제에서 100% 정확도를 달성하며, 이는 기존 방법들보다 영차분 조합성에서 뚜렷한 우월성을 보인다.

ABSTRACT

Compositional generalization is a basic and essential intellective capability of human beings, which allows us to recombine known parts readily. However, existing neural network based models have been proven to be extremely deficient in such a capability. Inspired by work in cognition which argues compositionality can be captured by variable slots with symbolic functions, we present a refreshing view that connects a memory-augmented neural model with analytical expressions, to achieve compositional generalization. Our model consists of two cooperative neural modules, Composer and Solver, fitting well with the cognitive argument while being able to be trained in an end-to-end manner via a hierarchical reinforcement learning algorithm. Experiments on the well-known benchmark SCAN demonstrate that our model seizes a great ability of compositional generalization, solving all challenges addressed by previous works with 100% accuracies.

연구 동기 및 목표

• 신경망의 조합적 일반화에서의 핵심적 한계—기존 구성 요소를 새로운 방식으로 재조합하는 능력 향상.
• 변수 슬롯과 분석적 함수를 통해 조합성을 모델링하여 기호적 인지 원리와 신경망 학습을 융합.
• 인간과 유사한 구성 요소 재조합을 모방할 수 있는 훈련 가능한 종단 간 프레임워크 개발.

제안 방법

• 모델는 두 가지 협력적 신경 모듈을 사용한다: 분석적 표현을 기호적 함수 슬롯을 사용해 생성하는 Composer와, 이러한 표현을 평가하는 Solver.
• 표현 생성과 실행을 동시에 최적화하는 계층적 강화 학습 알고리즘을 통해 시스템을 훈련한다.
• 분석적 표현 내의 변수 슬롯은 알려진 구성 요소를 위한 자리표시자 역할을 하며, 알려지지 않은 조합 간 재조합을 가능하게 한다.
• 표현 구축 중 중간 기호적 표현을 저장하고 검색하기 위해 메모리 보강 기법을 통합한다.
• 모델가 올바른 조합적 일반화로 향하도록 유도하기 위해 보상 형태 조정을 사용한다.
• 이 방법은 종단 간 미분 가능하며 복잡한 조합 과제에 대해 확장 가능하다.

실험 결과

연구 질문

• RQ1 신경망 모델이 기호적 슬롯을 갖춘 분석적 표현으로 작업을 표현함으로써 조합적으로 일반화할 수 있는가?
• RQ2 Composer-Solver 프레임워크는 기존 접근 방식에 비해 영차분 조합성에서 얼마나 잘 성능을 내는가?
• RQ3 계층적 강화 학습이 모델이 정확한 분석적 표현을 발견하고 실행하도록 얼마나 잘 유도할 수 있는가?

주요 결과

• 모델은 SCAN 벤치마크의 모든 조합적 일반화 과제에서 100% 정확도를 달성하며, 이는 이전 방법들을 압도적으로 뛰어넘는 성능이다.
• 기존 구성 요소의 새로운 조합에 대해 효과적으로 일반화되며, 강력한 영차분 일반화 능력을 보여준다.
• 계층적 강화 학습 접근법은 Composer-Solver 시스템의 안정적이고 효과적인 훈련을 가능하게 한다.
• 기호적 함수 슬롯과 신경 모듈의 통합은 해석 가능하고 일반화 가능한 추론을 가능하게 한다.
• 모델는 분석적 표현 학습을 통해 조합성의 인지 원리를 성공적으로 포착한다.