[논문 리뷰] Learning to Reason with Third-Order Tensor Products

Imanol Schlag, Jürgen Schmidhuber|arXiv (Cornell University)|2018. 11. 29.

Topic Modeling인용 수 29

한 줄 요약

이 논문은 자연어에서 조합적이고 기호 유사 표현을 제3차 텐서 곱 표현(TPRs)을 사용해 학습하는 RNN-TPR 아키텍처를 제안한다. 이는 추론 작업에서 체계적인 일반화를 가능하게 한다. 백프로파게이션을 통한 엔드 투 엔드 학습으로, bAbI 작업에서 최신 기준 성능을 달성하며, 특히 체계적인 분포 이탈 상황에서 이전 모델을 능가한다. 단일 작업 및 다중 작업 설정 모두에서 성능이 뛰어나다.

ABSTRACT

We combine Recurrent Neural Networks with Tensor Product Representations to learn combinatorial representations of sequential data. This improves symbolic interpretation and systematic generalisation. Our architecture is trained end-to-end through gradient descent on a variety of simple natural language reasoning tasks, significantly outperforming the latest state-of-the-art models in single-task and all-tasks settings. We also augment a subset of the data such that training and test data exhibit large systematic differences and show that our approach generalises better than the previous state-of-the-art.

연구 동기 및 목표

• 표현 분포가 학습 데이터와 테스트 데이터 간에 변화할 때 표준 RNN이 실패하는 자연어 추론(NLR)을 위한 신경망에서 체계적인 일반화를 향상시키기 위해.
• 가능한 기호 유사 조합 표현을 원시 순차 데이터로부터 미분 가능한 텐서 곱 표현(TPRs)을 사용해 엔드 투 엔드로 학습하기 위해.
• 표준 RNN이 본 예시를 초월해 규칙을 외삽하는 데 어려움을 겪는 문제를 해결하기 위해, TPRs를 통해 개체와 관계를 분리함으로써 문제를 해결하기 위해.
• 학습 및 테스트 데이터 간에 체계적인 차이가 존재할 때 TPR을 통합한 RNN이 이전 최신 기준 모델보다 더 잘 일반화되는지 확인하기 위해.
• 신경 기반 기호 프레임워크 내에서 학습된 분산 표현의 해석 가능성과 데이터 효율성 탐색하기 위해.

제안 방법

• 모델은 순환 신경망(RNN)과 제3차 텐서 곱 표현(TPRs)을 결합하여 기호적 구조(예: 개체-관계 바인딩)를 연속 벡터 공간에 임bedding하기 위해 사용된다.
• 각 문장은 채우기(개체) 및 역할(관계) 구성요소로 분해되며, 별도의 벡터 공간에서 벡터로 인코딩된다.
• TPR 표현은 채우기 및 역할 벡터의 텐서 곱을 통해 형성되며, '메리가 사람이다' 또는 '다니엘은 우유를 쥐고 있다'와 같은 바인딩을 인코딩한다.
• 시스템은 별도의 언바인딩 벡터와의 내적 곱을 통해 특정 구성요소(예: 누가 무엇을 쥐고 있는지)를 복원하기 위해 미분 가능한 언바인딩 연산을 사용한다.
• 전체 아키텍처는 RTRL 스타일 계산을 사용해 TPR 메커니즘의 복잡하고 시간에 따라 변하는 변수를 처리하는 기울기를 계산함으로써, 백프로파게이션을 통한 시간에 따라 전파되는 엔드 투 엔드 학습이 가능하다.
• 아키텍처는 빠른 가중치 메모리에서 영감을 얻어, 메모리 접근에 대한 동적이고 주목적 기반 제어를 가능하게 하며, 메모리 용량과 추론 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 미분 가능하고 엔드 투 엔드로 훈련 가능한 RNN-TPR 모델이 자연어 추론에서 체계적인 일반화를 지원하는 조합적 표현을 학습할 수 있는가?
• RQ2 테스트 예시에 학습 중에 보이지 않은 개체-작업 조합이 포함된 체계적인 분포 이탈 상황에서 TPR 기반 아키텍처의 성능은 어떠한가?
• RQ3 학습된 표현이 얼마나 해석 가능하고 분리되어 있는가? 이는 학습 데이터를 초월한 규칙 기반 추론을 가능하게 하는가?
• RQ4 RNN에 TPR을 통합하면 bAbI와 같은 벤치마크 NLR 작업에서 이전 최신 기준 모델보다 성능이 향상되는가?
• RQ5 제3차 TPR 및 언바인딩 메커니즘과 같은 아키텍처 설계 선택 사항이 모델의 안정성과 학습 효율성에 어떤 영향을 미치는가?

주요 결과

• 제안된 RNN-TPR 모델은 bAbI 벤치마크에서 최신 기준 성능을 달성했으며, 단일 작업 및 모든 작업 평가 설정에서 이전 최신 기준 모델을 능가한다.
• 학습 중에 보이지 않은 엔티티-작업 조합을 포함한 체계적인 분포 이탈이 있는 작업에서, 이 모델은 이전 모델보다 유의미하게 더 잘 일반화되며, 강력한 규칙 기반 외삽 능력을 보여준다.
• 학습 데이터에 포함되지 않은 엔티티-작업 조합에 대해서도 평균 90% 이상의 높은 정확도를 유지하며, 개체와 관계 표현이 분리되어 있기에 체계적인 일반화 능력이 뛰어나다는 것을 입증한다.
• 학습된 표현 분석 결과, TPR은 모듈러한 추론과 데이터 효율성을 지원하는 해석 가능한 조합적 구조를 생성함을 확인했다.
• 특정 엔티티-작업 조합이 훈련 데이터에 포함되지 않은 경우에도 모델은 안정성과 성능을 유지하며, 이는 특정 예제를 암기하는 것이 아니라 일반화 가능한 기호 패턴을 학습하고 있음을 확인한다.
• TPR 메커니즘으로 인해 메모리 및 계산 비용이 증가하지만, 성능 향상과 해석 가능성 덕분에 이는 조합적 추론 작업에 있어 사용에 가치가 있음을 입증한다.