[논문 리뷰] Entity Type Prediction in Knowledge Graphs using Embeddings

Russa Biswas, Radina Sofronova외 2명|arXiv (Cornell University)|2020. 04. 28.

Advanced Graph Neural Networks참고 문헌 13인용 수 4

한 줄 요약

이 논문은 지식 그래프 내에서 구조적 정보와 텍스트 정보를 통합한 KG 임베딩을 사용하여 세분화된 엔티티 유형 예측을 위한 다중 레이블 분류 방법을 제안한다. 사전 훈련된 단어 임베딩(Word2Vec, FastText, GloVe)과 CNN 분류기를 활용함으로써, 벡터 유사도 기반 베이스라인보다 높은 정확도를 달성하였으며, 4,000개의 엔티티를 포함한 클래스당 데이터셋에서 Hits@3가 62%에 도달하여, 풍부하게 enrich된 임베딩을 활용한 딥러닝의 효과성을 입증한다.

ABSTRACT

Open Knowledge Graphs (such as DBpedia, Wikidata, YAGO) have been recognized as the backbone of diverse applications in the field of data mining and information retrieval. Hence, the completeness and correctness of the Knowledge Graphs (KGs) are vital. Most of these KGs are mostly created either via an automated information extraction from Wikipedia snapshots or information accumulation provided by the users or using heuristics. However, it has been observed that the type information of these KGs is often noisy, incomplete, and incorrect. To deal with this problem a multi-label classification approach is proposed in this work for entity typing using KG embeddings. We compare our approach with the current state-of-the-art type prediction method and report on experiments with the KGs.

연구 동기 및 목표

• 오픈 지식 그래프인 DBpedia와 같은 곳에서의 부족하고 노이즈가 많은 유형 정보 문제를 해결하기 위해.
• 지식 그래프로부터의 구조적 정보와 암묵적인 텍스트 의미 정보를 통합하여 엔티티 타이핑 정확도를 향상시키기 위해.
• 다양한 사전 훈련된 단어 임베딩 모델(Word2Vec, FastText, GloVe)이 엔티티 유형 예측 맥락에서 어떻게 성능을 내는지 평가하기 위해.
• 딥러닝(CNN)을 활용한 KG 임베딩 기반 다중 레이블 분류 프레임워크를 개발하여 세분화된 유형 예측을 수행하기 위해.

제안 방법

• 엔티티와 관계 벡터는 지식 그래프 삼중항을 문장으로 간주하여 적용한 사전 훈련된 단어 임베딩 모델(Word2Vec, FastText, GloVe)을 통해 학습된다.
• 모델은 각 엔티티에 대해 다수의 세분화된 유형을 할당하는 다중 레이블 분류 문제로 엔티티 타이핑을 간주한다.
• 각 엔티티의 올바른 유형 조합을 예측하기 위해 임베딩 벡터에 대해 컨volutional 신경망(CNN)이 훈련된다.
• 클래스 벡터는 클래스 내 모든 엔티티의 임베딩 벡터를 평균하여 집합 이론 원리를 활용해 클래스 의미를 표현함으로써 생성된다.
• 벡터 유사도는 기준선으로 사용되며, 엔티티 벡터와 클래스 벡터 간의 코사인 유사도를 비교한다.
• 이 방법은 DBpedia의 클래스 계층을 활용하여 거시적 유형에서 미시적 유형으로의 탐색을 수행하고, 예측을 위한 관련 하위클래스를 추출한다.

실험 결과

연구 질문

• RQ1 사전 훈련된 단어 임베딩과 지식 그래프 구조를 조합한 방법이 기존의 유사도 기반 방법보다 세분화된 엔티티 유형 예측 성능을 향상시킬 수 있는가?
• RQ2 지식 그래프 내 엔티티 타이핑 맥락에서 다양한 단어 임베딩 모델(Word2Vec, FastText, GloVe)의 성능은 어떻게 다른가?
• RQ3 CNN과 같은 딥러닝 모델이 동시에 다수의 엔티티 유형을 예측하는 데 있어 단순한 벡터 유사도보다 우수한 성능을 내는가?
• RQ4 데이터셋 크기(클래스당 엔티티 수)가 제안된 방법의 성능에 어떤 영향을 미치는가?
• RQ5 학습된 임베딩가 그래프 구조 외부의 암묵적인 텍스트 의미를 얼마나 잘 포착하는가?

주요 결과

• CNN 모델은 4,000개의 엔티티를 포함한 클래스당 데이터셋에서 Hits@3가 62%를 기록하여 기준선보다 높은 성능을 달성하였다.
• 86개 클래스, 클래스당 2,000개 엔티티의 데이터셋에서 Word2Vec 기반 CNN은 Hits@3가 58.4%를 기록하였으며, 이는 기준선의 50.0%보다 유의미하게 높았다.
• GloVe 벡터는 상호 유사도가 낮았음에도 불구하고, CNN 모델은 GloVe 임베딩을 사용하여 최대 규모의 데이터셋에서 Hits@3가 55.8%를 달성하여 임베딩 품질에 대해 뛰어난 내구성을 보였다.
• 데이터셋 크기가 커질수록 성능 향상이 관찰되었으며, 클래스당 4,000개 엔티티 데이터셋에서 Hits@3가 58%를 기록한 반면, 클래스당 2,000개 엔티티 데이터셋에서도 58%의 성능을 기록하였다.
• Word2Vec 기반 기준선의 벡터 유사도 방법은 86개 클래스 데이터셋에서 Hits@3가 56%를 기록하여 경쟁력은 있지만 CNN 접근법보다 열등한 것으로 나타났다.
• 테스트 세트의 26%에서 34%만이 SDTyped 데이터셋과 중복되어 직접 비교가 제한되었지만, 중복된 부분 집합을 분석한 결과 제안된 방법이 공유 엔티티에 대해 SDTyped를 능가하는 성능을 보였다.