[논문 리뷰] SCEF: A Support-Confidence-aware Embedding Framework for Knowledge Graph Refinement

Yu Zhao, Ji Liu|arXiv (Cornell University)|2019. 02. 18.

Advanced Graph Neural Networks참고 문헌 47인용 수 4

한 줄 요약

SCEF는 삼중항의 지지와 신뢰도를 모델링함으로써 지식 그래프 보완과 오류 수정을 동시에 수행하는 혁신적인 지식 그래프 임베딩 프레임워크이다. 이는 번역 기반 에너지 함수에 구조적 함의와 외부 텍스트 증거를 통합하여, 실제 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Knowledge graph (KG) refinement mainly aims at KG completion and correction (i.e., error detection). However, most conventional KG embedding models only focus on KG completion with an unreasonable assumption that all facts in KG hold without noises, ignoring error detection which also should be significant and essential for KG refinement.In this paper, we propose a novel support-confidence-aware KG embedding framework (SCEF), which implements KG completion and correction simultaneously by learning knowledge representations with both triple support and triple confidence. Specifically, we build model energy function by incorporating conventional translation-based model with support and confidence. To make our triple support-confidence more sufficient and robust, we not only consider the internal structural information in KG, studying the approximate relation entailment as triple confidence constraints, but also the external textual evidence, proposing two kinds of triple supports with entity types and descriptions respectively.Through extensive experiments on real-world datasets, we demonstrate SCEF's effectiveness.

연구 동기 및 목표

• 소음이 없는 사실을 전제로 하고 오류 탐지 기능을 무시하는 전통적인 지식 그래프 임베딩 모델의 한계를 해결한다.
• 지지와 신뢰도 신호를 모두 통합하여 지식 그래프 보완과 수정을 동시에 향상시킨다.
• 내부 구조적 패턴(예: 관계 함의)과 외부 텍스트 증거(예: 엔티티 유형 및 설명)를 활용하여 강건성을 향상시킨다.
• 삼중항의 신뢰성과 타당성을 모두 모델링하는 통합된 임베딩 프레임워크를 개발한다.

제안 방법

• 지지와 신뢰도 구성 요소를 추가한 번역 기반 지식 그래프 임베딩을 확장하여 모델 에너지 함수를 수립한다.
• 지식 그래프 내 구조적 패턴에서 유도된 약한 관계 함의를 기반으로 삼중항의 신뢰도를 정의한다.
• 엔티티 유형에 기반한 삼중항 지지와 외부 텍스트에서 가져온 엔티티 설명에 기반한 삼중항 지지의 두 가지 유형을 도입한다.
• 에너지 함수를 종단 간 최적화하여 보완과 오류 탐지의 표현을 동시에 학습한다.
• 학습 및 추론 과정에서 지지와 신뢰도 신호를 균형 있게 조정하기 위해 통합 프레임워크를 사용한다.
• 실제 지식 그래프에 프레임워크를 적용하여 보완 및 수정 성능을 평가한다.

실험 결과

연구 질문

• RQ1 통합된 임베딩 프레임워크는 지식 그래프 보완과 오류 수정을 효과적으로 통합할 수 있는가?
• RQ2 지지와 신뢰도 신호는 지식 그래프 임베딩의 강건성에 어떻게 기여하는가?
• RQ3 외부 텍스트 증거(유형 및 설명)는 삼중항 지지 모델링에 어느 정도 향상되는가?
• RQ4 관계 함의를 통합함으로써 삼중항 신뢰도 추정에 어떤 영향을 미치는가?
• RQ5 제안된 프레임워크는 보완 및 수정 작업 모두에서 기존 모델을 능가하는가?

주요 결과

• SCEF는 지지와 신뢰도를 동시에 모델링함으로써 지식 그래프 보완 벤치마크에서 최신 기술 수준의 성능을 달성한다.
• 외부 텍스트 증거(엔티티 유형 및 설명)의 통합은 삼중항 지지 추정에 상당한 향상을 이룬다.
• 관계 함의를 신뢰도 제약 조건으로 모델링함으로써 예측된 사실의 신뢰성을 향상시킨다.
• 소음을 무시하는 전통적 모델에 비해 SCEF는 뛰어난 오류 탐지 능력을 보여준다.
• 실제 데이터셋을 대상으로 한 광범위한 실험을 통해 제안된 프레임워크의 효과성과 강건성을 확인한다.
• 다양한 지식 그래프에서 뛰어난 성능을 유지함으로써 일반화 가능성을 시사한다.