[논문 리뷰] Knowledge Graph Reasoning with Logics and Embeddings: Survey and Perspective

Wen Zhang, Jiaoyan Chen외 4명|arXiv (Cornell University)|2022. 02. 15.

Advanced Graph Neural Networks인용 수 13

한 줄 요약

이 종합 검토는 논리 기반 및 임베딩 기반 지식 그래프 추론을 통합하는 데 대해 종합적인 분석을 제공하며, 방법을 논리 보강 임베딩과 임베딩 강화 논리 작업으로 분류한다. 주요 통합 메커니즘과 논리 다양성 및 설명 가능성의 과제를 규명하고, 통합된 벤치마크와 사전 학습 모델에서의 광범위한 적용을 주장한다.

ABSTRACT

Knowledge graph (KG) reasoning is becoming increasingly popular in both academia and industry. Conventional KG reasoning based on symbolic logic is deterministic, with reasoning results being explainable, while modern embedding-based reasoning can deal with uncertainty and predict plausible knowledge, often with high efficiency via vector computation. A promising direction is to integrate both logic-based and embedding-based methods, with the vision to have advantages of both. It has attracted wide research attention with more and more works published in recent years. In this paper, we comprehensively survey these works, focusing on how logics and embeddings are integrated. We first briefly introduce preliminaries, then systematically categorize and discuss works of logic and embedding-aware KG reasoning from different perspectives, and finally conclude and discuss the challenges and further directions.

연구 동기 및 목표

• 기호 논리와 지식 그래프 임베딩을 통합하는 최근의 발전을 체계적으로 분류하고 분석하기.
• 순수 논리 기반 또는 임베딩 기반 추론의 한계를 극복하기 위해 두 파라디그마 간의 상호보완적 특성을 규명하기.
• 논리 다양성, 설명 가능성, 벤치마크, 실세계 적용 통합과 같은 열린 과제를 부각하기.
• 특히 사전 학습된 지식 모델에서의 신경-기호 통합을 위한 향후 연구의 비전 제시하기.
• AI 분야에서 더 견고하고 해석 가능하며 일반화 가능한 지식 추론 시스템 개발을 지원하기.

제안 방법

• 논리와 임베딩 통합을 두 가지 주요 방향으로 분류: 논리를 임베딩 학습에 통합하는 것과 임베딩을 이용해 논리 추론 작업을 지원하는 것.
• 논리 유형(예: 경로 규칙, 클래스 계층), 사전 정의된 논리의 존재 여부, 통합 단계, 상호작용 방식을 기반으로 통합 메커니즘 분석.
• 일반적인 온톨로지 스키마와 다단계 추론을 지원하는 SIC, ReasonKGE, TransOWL 등의 특정 기법 검토.
• 해석 가능성 향상을 위해 상징적 추론 단계를 임베딩 공간에 통합하는 다단계 추론 모델 제안.
• 하이브리드 모델에서 투명성을 유지하기 위해 설명 가능한 기계학습의 활용 도입.
• 은은한 기준 평가보다 스키마 정확도를 우선시하고, 다양한 논리 패턴을 포함한 벤치마크 필요성 제안.

실험 결과

연구 질문

• RQ1 기호 논리와 지식 그래프 임베딩를 효과적으로 통합하여 두 파라디그마의 강점을 결합할 수 있는가?
• RQ2 임베딩에 논리를 통합하는 것과 임베딩을 이용해 논리 추론을 강화하는 것 사이의 주요 차이점과 상충 요소는 무엇인가?
• RQ3 일관된 임베딩 프레임워크 내에서 다양한 논리 유형(예: 전칭 양화, 상호 배타성)을 지원하는 데 있어 주요 과제는 무엇인가?
• RQ4 임베딩 모델의 투명성 없는 성격을 어떻게 완화하여 하이브리드 추론 시스템에서의 설명 가능성을 향상시킬 수 있는가?
• RQ5 특히 표준 데이터셋에 논리 패턴이 누락된 경우, 논리-임베딩 통합을 공정하게 평가하기 위해 어떤 종류의 벤치마크가 필요한가?

주요 결과

• 대부분의 기존 방법은 경로 규칙나 기본 클래스 계층과 같은 좁은 논리 유형에 집중하며, 전칭 양화나 배타성과 같은 복잡한 온톨로지 구조에 대한 지원은 제한적이다.
• SIC, ReasonKGE, TransOWL와 같은 몇몇 프레임워크만이 일반적인 온톨로지 스키마를 지원함으로써 통합된 논리 통합의 격차를 드러낸다.
• WN18RR와 FB15k-237와 같은 현재의 벤치마크는 종종 다양한 논리 패턴을 포함하지 않아, 논리 인식 능력을 테스트할 경우 잘못된 평가를 유도할 수 있다.
• 은은한 기준 정확도 평가 방식은 의심스럽다. 결과가 지식 그래프 간으로 일반화되지 않기 때문에, 스키마 기반 정확도 평가가 필요하다는 점을 시사한다.
• 설명 가능성은 여전히 주요 과제이며, 기호 기반 기반 없이 또는 해석 가능성 기법 없이 임베딩 기반 중간 단계는 해석하기 어렵다.
• 저자원 학습, 추천 시스템, 사전 학습된 지식 모델 등 향후 적용 분야는 논리-임베딩 통합 접근 방식으로부터 크게 수혜를 볼 수 있다.