[논문 리뷰] RNNLogic: Learning Logic Rules for Reasoning on Knowledge Graphs

Meng Qu, Junkun Chen외 3명|arXiv (Cornell University)|2020. 10. 08.

Advanced Graph Neural Networks참고 문헌 51인용 수 28

한 줄 요약

RNNLogic는 지식 그래프에서 논리 규칙을 잠재 변수로 간주하고, EM 기반 알고리즘을 사용하여 규칙 생성기(RNN 기반)와 추론 예측기의 공동 학습을 수행하는 통합 학습 프레임워크를 제안한다. 이는 데이터 희소성 하에서도 최신 기법들을 능가하며, 일반화 및 설명 가능성에 기여하는 해석 가능하고 고품질의 논리 규칙을 생성한다.

ABSTRACT

This paper studies learning logic rules for reasoning on knowledge graphs. Logic rules provide interpretable explanations when used for prediction as well as being able to generalize to other tasks, and hence are critical to learn. Existing methods either suffer from the problem of searching in a large search space (e.g., neural logic programming) or ineffective optimization due to sparse rewards (e.g., techniques based on reinforcement learning). To address these limitations, this paper proposes a probabilistic model called RNNLogic. RNNLogic treats logic rules as a latent variable, and simultaneously trains a rule generator as well as a reasoning predictor with logic rules. We develop an EM-based algorithm for optimization. In each iteration, the reasoning predictor is first updated to explore some generated logic rules for reasoning. Then in the E-step, we select a set of high-quality rules from all generated rules with both the rule generator and reasoning predictor via posterior inference; and in the M-step, the rule generator is updated with the rules selected in the E-step. Experiments on four datasets prove the effectiveness of RNNLogic.

연구 동기 및 목표

• 지식 그래프 추론을 위한 고품질이고 해석 가능한 논리 규칙을 학습하는 데 도전한다.
• 신경 논리 프로그래밍에서의 큰 탐색 공간 및 강화 학습에서의 희소 보상과 같은 기존 방법의 한계를 극복한다.
• 잠재 논리 규칙을 활용해 규칙 생성기와 추론 예측기를 공동으로 학습함으로써 추론 성능 향상과 일반화 능력을 향상시킨다.
• 탐색 복잡도를 줄이면서도 규칙 품질을 유지하는 확장성 있고 효과적인 최적화 방법을 개발한다.

제안 방법

• RNNLogic는 확률적 프레임워크 내에서 논리 규칙을 잠재 변수로 모델링하며, 규칙 생성기는 질의 엔터티에 조건부로 순환 신경망을 통해 규칙을 생성한다.
• 추론 예측기는 지식 그래프와 생성된 논리 규칙를 바탕으로 답변의 가능성을 계산하여 미분 가능한 추론을 가능하게 한다.
• EM 기반 최적화 알고리즘을 사용한다: E단계에서는 규칙 생성기와 추론 예측기를 모두 활용해 사후 추론을 통해 고품질 규칙을 선택한다.
• M단계에서는 선택된 고품질 규칙를 모방하도록 규칙 생성기를 갱신하여 향후 규칙 생성 품질을 향상시킨다.
• 엔티티 및 관계 임베딩을 사용한 엔드 투 엔드 학습과 함께, 학습된 논리 규칙만으로도 제로샷 추론을 지원한다.
• 질의 관계별로 규칙 생성기의 사전 확률 기반으로 상위 I개의 규칙을 비트 서치를 통해 추출한다.

실험 결과

연구 질문

• RQ1 잠재 논리 규칙을 포함한 통합 학습 프레임워크가 불완전한 지식 그래프에서 추론 성능을 향상시킬 수 있는가?
• RQ2 규칙 품질을 유지하면서 논리 규칙 탐색 공간을 효과적으로 줄일 수 있는가?
• RQ3 EM 기반 최적화 전략이 강화 학습보다 해석 가능하고 효과적인 논리 규칙을 생성하는 데 더 우수한가?
• RQ4 RNNLogic는 최소한의 학습 데이터로도 하류 작업에 얼마나 잘 일반화되는가?
• RQ5 생성된 논리 규칙은 실제 지식 그래프 추론에 있어 다양하고 의미적으로 유의미한가?

주요 결과

• RNNLogic는 네 개의 벤치마크 데이터셋에서 최신 기법을 능가하는 성능을 달성하였으며, 엔딩 없음 설정에서 Kinship에서 평균 역순위(MRR)가 0.639, UMLS에서 0.745를 기록하여 REINFORCE 기반 최적화를 크게 능가한다.
• 질의 관계당 10개의 규칙만으로도 RNNLogic는 경쟁 가능한 추론 성능을 달성하여 생성된 규칙의 품질과 재사용 가능성을 입증한다.
• RNNLogic는 데이터 희소성에 더 강건하다: 훈련 트리플릿 수가 감소할수록 RotatE보다 성능 저하가 더 느리게 나타나, 저자료 환경에서도 뛰어난 일반화 능력을 보인다.
• 모든 임베딩 차원에서 RNNLogic는 RotatE를 뚜렷이 능가하며, 이는 학습된 논리 규칙이 임베딩 기반 추론만으로는 달성할 수 없는 상당한 성능 향상을 제공함을 시사한다.
• FB15k-237에서의 사례 연구 결과, RNNLogic는 하위관계, 두 단계 조합, 다단계 규칙 등 다양한 의미 있는 논리 규칙을 생성하여 해석 가능성과 표현 능력을 확인한다.
• EM 기반 최적화는 MRR 및 규칙 품질 측면에서 항상 REINFORCE를 능가하며, 통합 학습과 사후 추론 전략의 효과성을 검증한다.