[논문 리뷰] Reinforced Anytime Bottom Up Rule Learning for Knowledge Graph Completion

Christian Meilicke, Melisachew Wudage Chekol외 2명|arXiv (Cornell University)|2020. 04. 09.

Advanced Graph Neural Networks참고 문헌 26인용 수 31

한 줄 요약

이 논문은 Symbolic 지식 그래프 완성 방법 AnyBURL을 확장하여 Object Identity 제약과 강화 학습을 적용해 하향식 규칙 샘플링을 안내하고, 최첨단 서브-상징적 방법들에 비해 경쟁력 있는 성능을 보여준다.

ABSTRACT

Most of todays work on knowledge graph completion is concerned with sub-symbolic approaches that focus on the concept of embedding a given graph in a low dimensional vector space. Against this trend, we propose an approach called AnyBURL that is rooted in the symbolic space. Its core algorithm is based on sampling paths, which are generalized into Horn rules. Previously published results show that the prediction quality of AnyBURL is on the same level as current state of the art with the additional benefit of offering an explanation for the predicted fact. In this paper, we are concerned with two extensions of AnyBURL. Firstly, we change AnyBURLs interpretation of rules from $Θ$-subsumption into $Θ$-subsumption under Object Identity. Secondly, we introduce reinforcement learning to better guide the sampling process. We found out that reinforcement learning helps finding more valuable rules earlier in the search process. We measure the impact of both extensions and compare the resulting approach with current state of the art approaches. Our results show that AnyBURL outperforms most sub-symbolic methods.

연구 동기 및 목표

• 지식 그래프 완성에 대한 상징적 접근법을 서브-상징적 방법과 함께 촉진한다.
• Object Identity가 규칙 신뢰도와 중복성에 미치는 영향을 조사한다.
• AnyBURL의 하향식 샘플링 과정을 안내하기 위해 강화 학습을 도입한다.
• 표준 KG 벤치마크에서 현 상태의 최첨단 방법들과Extension 비교를 평가한다.

제안 방법

• 지식 그래프의 경로를 하향식으로 샘플링하여 일반화된 Horn 규칙을 형성한다.
• Object Identity를 적용하여 중복되거나 오도하는 규칙을 억제하고 신뢰도를 조정한다.
• 보상 전략을 사용하여 경로 프로필 간 계산 자원을 할당하도록 강화 학습을 도입한다.
• 규칙 지지, 신뢰도, 규칙 길이에 기반한 세 가지 보상 전략을 정의한다.
• 프로파일 탐색/탐욕 정책 관리를 위해 두 가지 의사결정 정책(ε-greedy 및 가중치)을 구현한다.

실험 결과

연구 질문

• RQ1 Object Identity를 도입하면 AnyBURL에서 학습된 규칙의 정밀도와 신뢰성이 향상되는가?
• RQ2 강화 학습이 경로 샘플링 프로세스를 효과적으로 안내하여 더 가치 있는 규칙을 조기에 발견할 수 있는가?
• RQ3 제안된 확장이 표준 데이터셋에서 현 상태의 최첨단 서브-상징 KG 완성 방법들에 비해 어떤 성능을 보이는가?
• RQ4 보상 전략과 정책이 규칙 발견의 효율성과 질에 어떤 영향을 미치는가?

주요 결과

• Object Identity 제약은 높은 신뢰도와 중복 규칙의 수를 크게 줄이고, 더 엄격한 임계값에서 WN18의 Hits@1과 Hits@10을 향상시킨다.
• 강화된 경로 샘플링은 값진 규칙을 더 일찍 발견하게 하여 포화 기반 탐색보다 예측 성능을 향상시킨다.
• 제안된 확장을 적용한 AnyBURL은 WN18 및 FB15-237과 같은 일반 KG 벤치마크에서 다수의 서브-상징 방법보다 우수한 성능을 보인다.