[논문 리뷰] Learning Reasoning Strategies in End-to-End Differentiable Proving

Pasquale Minervini, Sebastian Riedel외 3명|arXiv (Cornell University)|2020. 07. 13.

Intelligent Tutoring Systems and Adaptive Learning인용 수 30

한 줄 요약

논문은 Conditional Theorem Provers (CTPs)을 소개하며, 이는 Neural Theorem Provers (NTPs)의 확장으로 적응적이고 미분 가능한 규칙 선택을 학습하여 확장 가능하고 해석 가능한 뉴로-상징적 추론을 가능하게 하고, CLUTRR에서 최첨단 결과를 달성하고 링크 예측 성능에서는 경쟁력을 보인다.

ABSTRACT

Attempts to render deep learning models interpretable, data-efficient, and robust have seen some success through hybridisation with rule-based systems, for example, in Neural Theorem Provers (NTPs). These neuro-symbolic models can induce interpretable rules and learn representations from data via back-propagation, while providing logical explanations for their predictions. However, they are restricted by their computational complexity, as they need to consider all possible proof paths for explaining a goal, thus rendering them unfit for large-scale applications. We present Conditional Theorem Provers (CTPs), an extension to NTPs that learns an optimal rule selection strategy via gradient-based optimisation. We show that CTPs are scalable and yield state-of-the-art results on the CLUTRR dataset, which tests systematic generalisation of neural models by learning to reason over smaller graphs and evaluating on larger ones. Finally, CTPs show better link prediction results on standard benchmarks in comparison with other neural-symbolic models, while being explainable. All source code and datasets are available online, at https://github.com/uclnlp/ctp.

연구 동기 및 목표

• 확장성에 대한 한계: Exhaustive rule consideration으로 인해 Neural Theorem Provers (NTPs)의 한계를 해결한다.
• 검색 공간을 줄이기 위해 미분 가능하고 목표 조건부 규칙 선택 메커니즘을 개발한다.
• CLUTRR에서 최첨단 성과를 달성하고 그래프 기반 추론 과제에 대한 체계적 일반화를 테스트한다.
• 설명 가능성을 유지하면서 표준 링크 예측 벤치마크에서 뉴럴-상징적 추론 성능을 향상시킨다.

제안 방법

• 주어진 목표를 증명하기 위해 목표 조건부의 소규모 규칙 집합을 생성하는 select 모듈로 NTP를 확장한다.
• 술어와 상수를 연속 임베딩으로 표현하고 통합을 위한 미분 가능 유사도 측정을 사용한다.
• select(G)를 정의하여 목표에 조건화된 규칙의 head와 body를 생성하고 엔드-투-엔드 미분 가능성을 가능하게 한다.
• 규칙을 생성하거나 검색하기 위한 신경 목표 재구성 및 메모리 기반 재구성 옵션을 도입하여 규칙을 생성하거나 검색한다.
• 술어에 대한 주의적 사전 정보를 도입하여 KB에 존재하는 관계를 선호하도록 하고, 술어 임베딩에 대한 softmax 주의를 통해 이를 수행한다.
• 규칙을 저장하고 메모리에 대한 어텐션으로 인덱싱하는 미분 가능 메모리 대안을 제공하여 검사 가능한 추론 경로를 가능하게 한다.

실험 결과

연구 질문

• RQ1 미분 가능하고 목표 조건부 선택기가 모든 KB 규칙을 고려할 필요를 줄이고 확장성을 개선할 수 있는가?
• RQ2 적응적 규칙 선택 학습이 CLUTRR와 같은 추론 과제에서 체계적 일반화를 개선하는가?
• RQ3 CTPs가 표준 벤치마크에서 전통적 NTPs보다 더 좋은 성능을 내는가?
• RQ4 메모리 기반 또는 주의 집중 기반 목표 재구성을 통해 해석 가능하고 경쟁력 있는 추론을 제공할 수 있는가?

주요 결과

• CTPs는 적응형 규칙 선택을 학습하고 NTPs가 어려움을 겪는 더 큰 데이터 세트로 확장한다.
• CTPs는 CLUTRR에서 최첨단 결과를 달성하며 체계적 일반화가 향상됨을 보여준다.
• CTPs는 표준 벤치마크에서 다른 신경-상징 모델들에 비해 더 나은 링크 예측 결과를 보여주고 설명 가능성을 유지한다.
• 이 방법은 엔드-투-엔드 미분 가능 학습을 지원하여 규칙 선택과 추론의 공동 최적화를 가능하게 한다.
• CTPs의 코드와 데이터 세트가 온라인으로 공개되어 재현성을 촉진한다.