[논문 리뷰] End-to-End Differentiable Proving

Tim Rocktäschel, Sebastian Riedel|arXiv (Cornell University)|2017. 05. 31.

Topic Modeling인용 수 72

한 줄 요약

이 논문은 지식 기반에서 엔드투엔드 학습을 위한 기호적 역방향 체인과 비기호적 벡터 표현을 결합한 미분 가능 신경망 아키텍처인 신경 정리 증명기(Neural Theorem Provers, NTPs)를 소개한다. 기호적 통일화 대신 벡터 표현에 대한 미분 가능한 라디얼 기저 함수 커널을 사용함으로써 NTPs는 사실을 추론하고 해석 가능한 일阶 논리 규칙을 유도하며, 네 가지 벤치마크 지식 기반 중 네 개 중 세 곳에서 ComplEx를 능가한다. 또한 다단계 추론과 기울기 기반 학습을 가능하게 한다.

ABSTRACT

We introduce neural networks for end-to-end differentiable proving of queries to knowledge bases by operating on dense vector representations of symbols. These neural networks are constructed recursively by taking inspiration from the backward chaining algorithm as used in Prolog. Specifically, we replace symbolic unification with a differentiable computation on vector representations of symbols using a radial basis function kernel, thereby combining symbolic reasoning with learning subsymbolic vector representations. By using gradient descent, the resulting neural network can be trained to infer facts from a given incomplete knowledge base. It learns to (i) place representations of similar symbols in close proximity in a vector space, (ii) make use of such similarities to prove queries, (iii) induce logical rules, and (iv) use provided and induced logical rules for multi-hop reasoning. We demonstrate that this architecture outperforms ComplEx, a state-of-the-art neural link prediction model, on three out of four benchmark knowledge bases while at the same time inducing interpretable function-free first-order logic rules.

연구 동기 및 목표

• 지식 기반에서 엔드투엔드 미분 가능한 증명을 가능하게 하여 기호적 추론과 비기호적 학습을 융합하는 것.
• 복잡한 다단계 추론 패턴을 다루는 데에 한계가 있는 신경 링크 예측 모델의 문제점을 해결하는 것.
• 기호적 정리 증명기의 해석 가능성과 분산 벡터 표현의 일반화 능력을 결합하는 것.
• 기울기 하강을 통해 기호의 벡터 표현과 함수 없는 일阶 논리 규칙을 동시에 학습하는 것.
• 도메인 특화 규칙 및 규칙 템플릿을 미분 가능한 추론 프레임워크에 통합할 수 있도록 하는 것.

제안 방법

• NTPs는 Prolog의 역방향 체인 알고리즘을 블루프린트로 사용하여 재귀적으로 구성되며, 기호적 통일화를 벡터 표현에 대한 미분 가능한 연산으로 대체한다.
• 라디얼 기저 함수 커널이 기호의 벡터 표현 간 유사도를 계산하여 미분 가능한 통일화를 가능하게 한다.
• 증명 성공 점수는 기호 표현 및 규칙 파라미터에 대해 미분 가능하므로 기울기 하강을 통한 엔드투엔드 학습이 가능하다.
• 신경 링크 예측 모델(ComplEx)을 보조 손실로 사용하여 공동 학습함으로써 표현 품질과 성능을 향상시킨다.
• 배치 증명과 근사 기울기 계산을 사용하여 학습 과정의 스케일링을 가능하게 한다.
• 학습된 파라미터에서 유도된 규칙를 해석 가능성과 논리적 일관성에 대해 검증한다.

실험 결과

연구 질문

• RQ1 벡터 표현에 대한 유일한 미분 가능한 연산만을 사용하여 지식 기반에서 다단계 추론을 수행할 수 있는 신경망을 학습시킬 수 있는가?
• RQ2 이러한 모델은 불완전한 지식 기반에서 이해할 수 있고 함수 없는 일阶 논리 규칙을 자동으로 유도할 수 있는가?
• RQ3 엔드투엔드 미분 가능한 증명이 ComplEx와 같은 최신 신경 링크 예측 모델에 비해 추론 성능 측면에서 어떻게 비교되는가?
• RQ4 신경 링크 예측에서 유도된 보조 손실이 미분 가능한 증명기에서 비기호적 표현의 품질을 향상시킬 수 있는가?
• RQ5 학습된 규칙가 의미적으로 유사한 기호들 사이로 일반화되는 정도는 어느 정도이며, 추론에서 전이 학습을 지원할 수 있는가?

주요 결과

• NTPs는 Countries S3, Nations, UMLS 세 개의 벤치마크 지식 기반에서 ComplEx를 능가하며, Kinship에서는 유사하거나 더 좋은 성능을 기록한다.
• ComplEx를 보조 손실로 함께 학습하는 NTPλ 버전이 가장 높은 성능을 기록했으며, 모든 Countries 작업에서 AUC-PR이 통계적으로 유의미하게 향상되었다(p < 0.0001).
• 모델은 성공적으로 이해할 수 있고 인간이 읽을 수 있는 일阶 논리 규칙을 유도하였으며, UMLS에서는 전이성 규칙, Countries에서는 작업별 특화 규칙을 포함한다.
• 유도된 규칙는 일반화를 보였다: 하나의 규칙이 의미적으로 유사한 기호를 포함하는 여러 질의에 적용될 수 있었다.
• 미분 가능한 통일화 메커니즘이 기호 표현 및 논리적 규칙 파라미터의 기울기 기반 최적화를 가능하게 하였다.
• 규칙의 재귀적 적용을 통해 증명을 조합함으로써 다단계 추론이 가능해졌으며, 증명 경로는 명시적으로 추적 가능하고 해석 가능하다.