[논문 리뷰] A Birds Eye View on Knowledge Graph Embeddings, Software Libraries, Applications and Challenges

Satvik Garg, Dwaipayan Roy|arXiv (Cornell University)|2022. 05. 18.

Advanced Graph Neural Networks인용 수 4

한 줄 요약

이 논문은 지식 그래프 임bedding(KGE)와 지식 그래프 보완(KGC)에 대한 종합적인 서베이를 제공하며, 정적, 시간적, 불확실성, 다중모odal 지식 그래프 전반에 걸쳐 최신 기법을 검토한다. 번역, 인수분해, 딥 스코어링 함수 기반의 KGE 기법과 함께 DeepPath 및 Minerva와 같은 강화학습 기반 접근법을 평가하며, 주요 소프트웨어 라이브러리들을 비교하여 향후 KGC 연구를 이끄는 데 필요한 열린 과제를 규명한다.

ABSTRACT

In recent years, Knowledge Graph (KG) development has attracted significant researches considering the applications in web search, relation prediction, natural language processing, information retrieval, question answering to name a few. However, often KGs are incomplete due to which Knowledge Graph Completion (KGC) has emerged as a sub-domain of research to automatically track down the missing connections in a KG. Numerous strategies have been suggested to work out the KGC dependent on different representation procedures intended to embed triples into a low-dimensional vector space. Given the difficulties related to KGC, researchers around the world are attempting to comprehend the attributes of the problem statement. This study intends to provide an overview of knowledge bases combined with different challenges and their impacts. We discuss existing KGC approaches, including the state-of-the-art Knowledge Graph Embeddings (KGE), not only on static graphs but also for the latest trends such as multimodal, temporal, and uncertain knowledge graphs. In addition, reinforcement learning techniques are reviewed to model complex queries as a link prediction problem. Subsequently, we explored popular software packages for model training and examine open research challenges that can guide future research.

연구 동기 및 목표

• 지식 그래프 보완(KGC) 기법, 특히 표현 학습 및 링크 예측 방법에 대한 체계적인 개요 제공.
• 번역 기반, 인수분해 기반, 딥러닝 기반 모델을 포함한 주요 KGE 패러다임의 강점과 한계 분석.
• 시간적, 불확실성, 다중모달 지식 그래프를 포함한 복잡한 지식 그래프에 대한 KGC의 최근 발전 검토.
• KGE 모델 학습을 위한 주요 소프트웨어 라이브러리 평가 및 비교를 통해 재현 가능성 연구 지원.
• 특히 캘리브레이션, 상호관계, 동적 그래프 모델링 분야에서의 열린 과제 및 향후 연구 방향 규명.

제안 방법

• KGE 모델을 번역 기반(예: TransE), 인수분해 기반(예: DistMult), 딥러닝 기반(예: ConvE, RotatE)으로 세 가지 주요 유형으로 분류.
• 복잡한 질의를 순차적 링크 예측 작업으로 설정하는 강화학습 기반 KGC 기법인 DeepPath, Minerva, M-Walk, DAPath 등을 검토.
• KGE 모델에서 사용되는 스코어링 함수 분석 및 인도적 편향 기반 분류: 번역, 행렬 인수분해, 신경망 기반 함수.
• DGL-KE, OpenKE, PyKE, OGB와 같은 주요 오픈소스 소프트웨어 라이브러리 간 비교를 통해 확장성, 모oduularity, 지원 모델 수준 평가.
• FB15k, FB15k-237, YAGO3-10와 같은 벤치마크 데이터셋에서 KGE 모델의 성능 평가를 통해 MR, MRR, Hits@10와 같은 표준 지표 중심 분석.
• 현재 연구의 격차 규명: 신뢰도 점수의 낮은 캘리브레이션, 상호관계 지원 부족, 동적 지식 그래프에 대한 제한된 학습 전략.

실험 결과

연구 질문

• RQ1 표준 KGC 벤치마크에서 번역, 인수분해, 딥러닝 기반 KGE 아키텍처의 성능 및 일반화 능력은 어떻게 비교되는가?
• RQ2 강화학습 기반 기법이 지식 그래프 내 복잡한 다단계 질의를 모델링하는 데 가지는 주요 장점과 한계는 무엇인가?
• RQ3 최근 KGE 모델은 시간적, 불확실성, 다중모달 지식 그래프와 같은 비정적 지식 그래프를 어떻게 다루는가?
• RQ4 KGE 모델 학습에 가장 효과적이고 확장 가능한 소프트웨어 라이브러리는 무엇이며, 재현 가능성 및 모델 비교 지원은 어떻게 이루어지는가?
• RQ5 특히 모델 캘리브레이션, 상호관계 처리, 동적 및 이질적 그래프에 대한 학습 전략 분야에서 여전히 남아 있는 열린 과제는 무엇인가?

주요 결과

• TransE 및 RotatE와 같은 번역 기반 모델은 표준 벤치마크에서 뛰어난 성능을 보이며, RotatE는 YAGO3-10 및 FB15k-237에서 회전 관계를 모델링할 수 있는 능력 덕분에 우수한 성능을 기록한다.
• DistMult 및 ComplEx와 같은 인수분해 기반 모델은 대칭 및 반대칭 관계에 대해 높은 효율성과 확장성을 보이지만, 복잡한 관계 패턴에는 어려움을 겪는다.
• ConvE 및 SimplE와 같은 딥러닝 기반 모델은 고차원 상호작용을 모델링할 때 더 높은 성능을 기록하지만, 학습 복잡도 증가를 수반한다.
• DeepPath 및 Minerva와 같은 강화학습 기반 기법은 다단계 추론 작업에서 최신 기술 수준(SOTA) 성능을 달성하며, 지식 그래프 기반 복잡한 질의 응답에서 RL의 잠재력을 입증한다.
• 본 연구는 현재의 SOTA 성능에 대한 인식과 실제 성능 사이에 심각한 격차가 있음을 규명하였으며, 평가 프로토콜의 일관성 부족과 신뢰도 점수의 캘리브레이션 부족으로 인해 많은 연구자들이 현재 SOTA를 과도하게 평가하고 있음을 확인하였다.
• DGL-KE 및 OGB와 같은 오픈소스 라이브러리는 KGE 모델 학습 및 벤치마크에 강력한 지원을 제공하지만, 여전히 동적, 이질적, 불확실한 지식 그래프를 위한 더 나은 도구 개발이 필요로 한다.