[논문 리뷰] Adapting Meta Knowledge Graph Information for Multi-Hop Reasoning over Few-Shot Relations

Xin Lv, Yuxian Gu외 4명|arXiv (Cornell University)|2019. 08. 30.

Advanced Graph Neural Networks참고 문헌 19인용 수 25

한 줄 요약

이 논문은 소수의 샘플 트리플만 존재하는 저자원(소수 샘플) 관계에 대해 강건한 추론 정책을 초기화하기 위해 고빈도 관계를 활용하는 메타학습 접근법인 Meta-KGR을 제안한다. 메타학습을 통한 초기화를 통해 Meta-KGR은 FB15K-237 및 NELL-995에서 소수 샘플 관계에 대해 최신 기술 수준(SOTA) 성능을 달성하며, 다양한 지식 그래프 구조에 걸쳐 뛰어난 일반화 능력과 강건성을 입증한다.

ABSTRACT

Multi-hop knowledge graph (KG) reasoning is an effective and explainable method for predicting the target entity via reasoning paths in query answering (QA) task. Most previous methods assume that every relation in KGs has enough training triples, regardless of those few-shot relations which cannot provide sufficient triples for training robust reasoning models. In fact, the performance of existing multi-hop reasoning methods drops significantly on few-shot relations. In this paper, we propose a meta-based multi-hop reasoning method (Meta-KGR), which adopts meta-learning to learn effective meta parameters from high-frequency relations that could quickly adapt to few-shot relations. We evaluate Meta-KGR on two public datasets sampled from Freebase and NELL, and the experimental results show that Meta-KGR outperforms the current state-of-the-art methods in few-shot scenarios. Our code and datasets can be obtained from https://github.com/ THU-KEG/MetaKGR.

연구 동기 및 목표

• 기존의 다중 힙 추론 모델이 충분한 훈련 트리플가 부족한 소수 샘플 관계에서 성능 저하 문제를 해결하기 위해.
• 고빈도 관계에서 유도된 메타정보를 활용해 추론 에이전트가 저자원 관계에 대해 신속하게 적응할 수 있는 방법을 개발하기 위해.
• 일반화 능력을 향상시키면서도 추론 경로를 상징적(symbolic) 방식으로 유지함으로써 모델의 해석 가능성(해석 가능성)을 유지하기 위해.
• 다양한 지식 그래프 구조와 소수 샘플 임계치에 걸쳐 제안된 방법의 강건성과 일반화 능력을 평가하기 위해.

제안 방법

• 각 관계별 트리플 쿼리를 작업(task)으로 간주하고, 경로 및 엔티티 예측을 위한 추론 정책을 학습하는 것을 목표로 한다.
• 고빈도 관계에서 메타학습(MAML 방식)을 사용해 공통 초기화를 학습하는 메타 정책 네트워크를 훈련시켜, 다양한 작업 간 일반화를 달성한다.
• 각 소수 샘플 관계에 대해, 해당 관계의 소규모 지원 세트(triple)를 사용해 메타초기화된 정책 네트워크를 미세조정(fine-tune)한다.
• 엔티티 예측 정확도 기반 보상 함수를 최대화하도록 강화학습을 활용해 추론 에이전트를 훈련시킨다.
• 훈련 중 보상 계산을 위해 ConvE와 DistMult를 점수 함수로 사용하며, ConvE가 더 뛰어난 성능을 보였다.
• 작업 배치에 대해 기울기 하강법을 사용해 메타파rameter를 업데이트하며, 쿼리 세트 평가에서 유도된 기울기를 활용해 메타 정책을 개선한다.

실험 결과

연구 질문

• RQ1 고빈도 관계만을 지원으로 사용하여 메타학습이 소수 샘플 관계의 추론 정책을 효과적으로 초기화할 수 있는가?
• RQ2 실제 지식 그래프 내 소수 샘플 관계에서 Meta-KGR은 최신 기술 수준의 다중 힙 추론 모델보다 우수한 성능을 보이는가?
• RQ3 메타학습 초기화가 다양한 지식 그래프 구조와 소수 샘플 임계치에 걸쳐 일반화 능력과 강건성을 향상시키는가?
• RQ4 높은 성능을 달성하면서도 상징적 추론 경로를 생성함으로써 모델이 해석 가능성을 유지할 수 있는가?

주요 결과

• Meta-KGR는 FB15K-237 및 NELL-995에서 모든 베이스라인(다중 힙 및 MINERVA 포함)을 압도하며 소수 샘플 시나리오에서 성능을 냈으며, K=max일 때 FB15K-237에서 Hits@1이 41.2%를 기록했다.
• K=5일 때 Meta-KGR은 FB15K-237에서 29.6%의 Hits@1 성능을 달성했으며, 동일한 소수 샘플 설정에서 MultiHop(20.8%)보다 뚜렷한 성능 우위를 보였다.
• Meta-KGR는 다양한 소수 샘플 임계치 K에 걸쳐 강건한 성능을 보였으며, 관계당 하나의 훈련 트리플만 존재하는 경우(K=1)에도 베이스라인 대비 일관된 성능 향상을 보였다.
• ConvE를 보상 함수로 사용할 경우 DistMult보다 더 높은 성능을 기록했으며, 이는 더 표현력이 풍부한 점수 함수가 추론 정책 훈련에 기여함을 시사한다.
• 모델은 다양한 지식 그래프(KG)에 걸쳐 잘 일반화되며, 밀도가 높은(FB15K-237) 및 희소한(NELL-995) 지식 그래프 모두에서 뛰어난 성능을 보였다.
• 실증 분석을 통해 메타학습 초기화가 강력한 인덕티브 바이어스를 제공함으로써 저자원 관계에 대해 신속하고 효과적인 적응을 가능하게 한다는 것이 확인되었다.