[논문 리뷰] Teaching Pre-Trained Models to Systematically Reason Over Implicit Knowledge.

Alon Talmor, Oyvind Tafjord외 3명|arXiv (Cornell University)|2020. 06. 11.

Topic Modeling참고 문헌 37인용 수 13

한 줄 요약

이 논문은 사전에 훈련된 언어 모델이 가중치에 포함된 암묵적 지식과 명시적 상징적 사실을 자동으로 생성된 데이터셋을 통해 체계적으로 추론하도록 훈련하는 방법을 제안한다. 주요 기여는 모델이 체계적인 복합 추론(예: 연결, 세기, 계통수 추론)을 학습함으로써 훈련 분포를 초월하여 단일 예시에서 여러 추론 기술을 조합하는 데 일반화됨을 입증한 것이다.

ABSTRACT

To what extent can a neural network systematically reason over symbolic facts? Evidence suggests that large pre-trained language models (LMs) acquire some reasoning capacity, but this ability is difficult to control. Recently, it has been shown that Transformer-based models succeed in consistent reasoning over explicit symbolic facts, under a closed-world assumption. However, in an open-domain setup, it is desirable to tap into the vast reservoir of implicit knowledge already encoded in the parameters of pre-trained LMs. In this work, we provide a first demonstration that LMs can be trained to reliably perform systematic reasoning combining both implicit, pre-trained knowledge and explicit natural language statements. To do this, we describe a procedure for automatically generating datasets that teach a model new reasoning skills, and demonstrate that models learn to effectively perform inference which involves implicit taxonomic and world knowledge, chaining and counting. Finally, we show that teaching models to reason generalizes beyond the training distribution: they successfully compose the usage of multiple reasoning skills in single examples. Our work paves a path towards open-domain systems that constantly improve by interacting with users who can instantly correct a model by adding simple natural language statements.

연구 동기 및 목표

• 사전에 훈련된 언어 모델이 암묵적 지식과 명시적 상징적 사실을 모두 체계적으로 추론할 수 있는지 조사하기 위해.
• 대규모 언어 모델에서 추론을 제어하는 데 도전하는 데서 비롯되는 문제를 해결하기 위해, 특히 체계적 일반화가 부족한 경우를 대비하기 위해.
• 모델이 새로운 추론 기술을 학습할 수 있도록 확장 가능한 방법으로 훈련 데이터를 생성하기 위해.
• 모델이 훈련 분포를 초월하여 일반화할 수 있는지 평가하기 위해, 특히 복합적인 설정에서 여러 추론 기술을 조합하는 경우를 대비하기 위해.
• 사용자가 자연어 수정을 통해 모델 행동을 향상시킬 수 있도록 하여 지속적인 학습을 가능하게 하기 위해.

제안 방법

• 모델가 암묵적 지식과 명시적 자연어 문장의 조합을 통해 추론하도록 돕는 합성 데이터셋을 자동으로 생성한다.
• 사람의 추론을 요구하는 훈련 예제를 설계하여, 예를 들어 사실 연결, 요소 수세기, 계통수 계층 적용 등의 체계적 추론을 요구한다.
• 이러한 합성 데이터셋을 기반으로 표준 사전에 훈련된 언어 모델을 훈련하여, 구조화된 추론 패턴을 학습한다.
• 훈련 중에는 닫힌 세계 가정을 적용하여 일관성을 확보하고, 암묵적 지식을 통해 개방형 도메인 추론을 가능하게 한다.
• 점차적으로 추론 복잡성을 높이는 교육 과정 유사한 데이터 생성 전략을 활용한다.
• 다양한 추론 기술이 훈련 중에 나타나지 않은 조합의 예시를 테스트하여 일반화 능력을 검증한다.

실험 결과

연구 질문

• RQ1 사전에 훈련된 언어 모델은 암묵적 지식과 명시적 상징적 사실을 모두 체계적으로 추론하도록 훈련시킬 수 있는가?
• RQ2 자동으로 생성된 데이터셋은 모델에게 연결, 세기, 계통수 추론과 같은 새로운 추론 기술을 효과적으로 가르칠 수 있는가?
• RQ3 다양한 추론 기술이 훈련 중에 나타나지 않은 조합의 복합 예시에서 추론 능력이 일반화되는가?
• RQ4 개방형 도메인 설정에서 암묵적 지식을 바탕으로 추론할 때 모델의 성능은 얼마나 좋은가?
• RQ5 사용자가 간단한 자연어 수정을 통해 모델 행동을 향상시킬 수 있는가? 이는 지속적인 학습을 가능하게 하는가?

주요 결과

• 합성 데이터셋으로 미세조정된 모델들은 암묵적 지식(예: 계통수 지식, 세계 지식 등)을 포함한 체계적 추론을 성공적으로 수행한다.
• 모델은 복합 추론 작업으로 일반화되며, 단일 예시에서 여러 추론 기술(예: 연결과 세기)을 정확히 조합한다.
• 이 훈련 절차를 거치지 않은 기준 모델 대비 추론 성능이 크게 향상된다.
• 사전에 훈련된 지식을 활용함으로써 명시적 검색이 필요 없이도 개방형 도메인 설정에서 신뢰할 수 있는 추론을 가능하게 한다.
• 사용자가 간단한 자연어 문장으로 모델을 수정할 수 있기 때문에 이 방법은 지속적인 학습을 지원한다.