[논문 리뷰] DeepLogic: Towards End-to-End Differentiable Logical Reasoning

Nuri Cingillioglu, Alessandra Russo|arXiv (Cornell University)|2018. 05. 18.

Topic Modeling참고 문헌 40인용 수 6

한 줄 요약

이 논문은 RNN 기반 반복 네트워크를 사용하여 기호적 논리 프로그램에서 논리적 추론을 수행할 수 있도록 학습하는 엔드투엔드 미분 가능한 신경망인 DeepLogic를 소개한다. 12개의 논리 프로그램 유형으로 구성된 합성 데이터셋을 제안하고, 모델이 원자, 리터럴, 규칙를 표현하면서 다단계 추론을 수행할 수 있음을 입증하지만, 추론 깊이가 증가함에 따라 성능 저하와 임베딩 공간의 제약이 발생함을 보여준다.

ABSTRACT

Combining machine learning with logic-based expert systems in order to get the best of both worlds are becoming increasingly popular. However, to what extent machine learning can already learn to reason over rule-based knowledge is still an open problem. In this paper, we explore how symbolic logic, defined as logic programs at a character level, is learned to be represented in a high-dimensional vector space using RNN-based iterative neural networks to perform reasoning. We create a new dataset that defines 12 classes of logic programs exemplifying increased level of complexity of logical reasoning and train the networks in an end-to-end fashion to learn whether a logic program entails a given query. We analyse how learning the inference algorithm gives rise to representations of atoms, literals and rules within logic programs and evaluate against increasing lengths of predicate and constant symbols as well as increasing steps of multi-hop reasoning.

연구 동기 및 목표

• 신경망이 사전 기호적 추론 엔진 없이도 기초로부터 기호적 논리적 추론을 학습할 수 있는지 조사하기 위해.
• 엔드투엔드 미분 가능한 추론을 평가하기 위해 점차 복잡도가 증가하는 12개의 논리 프로그램 유형으로 구성된 합성 데이터셋을 구축하기 위해.
• RNN 기반 네트워크가 연속적인 벡터 공간에서 기호적 요소(원자, 리터럴, 규칙)를 어떻게 표현하는지 분석하기 위해.
• 모델이 더 긴 기호 이름과 다단계 추론 단계에 대해 일반화할 수 있는지 평가하기 위해.
• 미분 가능한 근사 추론 엔진을 학습할 수 있는지 탐색하여 향후 기울기 역전파를 통한 규칙 유도를 지원할 수 있는지 확인하기 위해.

제안 방법

• 모델은 반복 신경망(RNN)을 사용하여 문자 수준의 시퀀스로 논리 프로그램을 처리하고, 반복적 추론 메커니즘을 적용한다.
• 모든 논리 프로그램에 동일한 아키텍처와 공유된 가중치를 사용하며, 함의 쿼리에 대해 이진 교차 엔트로피 손실을 사용하여 엔드투엔드로 훈련한다.
• 네트워크는 지식 기반에 대해 뒤에서부터 추론하는 방식으로 숨겨진 상태를 반복적으로 업데이트함으로써 다단계 추론을 수행한다.
• 각 논리 프로그램은 문자 수준에서만 원-핫 인코딩이 적용되는 문자열로 인코딩되며, 기호나 상수 수준에서는 적용되지 않는다.
• 모델은 주어진 쿼리가 논리 프로그램에 의해 함의되는지 예측하도록 훈련되며, 함의되는 경우 레이블 1, 그렇지 않은 경우 레이블 0을 사용한다.
• 훈련 과정은 복잡도가 증가하는 순서로 정렬된 12개의 작업 유형에 따라 커리큘럼 학습을 사용한다.

실험 결과

연구 질문

• RQ1 신경망은 사전 기호적 추론 규칙나 기반화 없이도 기호적 논리 프로그램에서 논리적 추론을 학습할 수 있는가?
• RQ2 임베딩 공간에서 학습된 원자, 리터럴, 규칙의 표현 방식이 논리적 구조와 관계를 어떻게 반영하는가?
• RQ3 모델은 더 긴 기호 이름과 더 깊은 다단계 추론 체인으로 일반화할 수 있는가?
• RQ4 커리큘럼 학습이 모델이 점차 복잡한 추론 작업을 학습하는 데 도움이 되는가?
• RQ5 모델의 미분 가능성은 향후 기울기 기반 최적화를 통한 규칙 유도를 지원할 수 있는가?

주요 결과

• 모델은 원자, 리터럴, 규칙와 같은 기호적 요소를 연속적인 벡터 공간 내에서 성공적으로 표현하며, 동일한 논리적 결론을 도출하는 상수들은 훈련 과정에서 유사한 클러스터링을 보였다.
• 추론 단계 수가 증가할수록 성능 저하가 심각하게 발생하여, 숨겨진 상태에서 장기적 추론 일관성을 유지하는 데 한계가 있음을 보여준다.
• 커리큘럼 학습에서 명백한 이점이 없었으며, 이는 Prolog와 같은 기호 시스템과 비교해도 일반화 가능한 추론 알고리즘을 학습하지 못했음을 시사한다.
• 기존의 논리 프로그램 벤치마크나 기호적 추론 엔진을 대체하기 위해 일반화 실패를 보였으며, 기존 시스템에 비해 경쟁력이 없다는 것을 의미한다.
• 전체적으로 미분 가능함에도 불구하고 장기적인 추론 체인에서 추적을 잃는다는 점은 숨겨진 상태의 용량과 기억 유지 능력의 한계를 드러낸다.
• 결과적으로, 비록 미분 가능한 추론이 가능하지만, 이러한 모델이 기호 전문 시스템의 실질적 대체재가 되기 위해서는 더 견고한 아키텍처가 필요하다는 점을 시사한다.