[논문 리뷰] A Simple Approach to Case-Based Reasoning in Knowledge Bases

Rajarshi Das, Ameya Godbole외 3명|arXiv (Cornell University)|2020. 06. 25.

Advanced Graph Neural Networks인용 수 11

한 줄 요약

이 논문은 지식 그래프를 위한 비모수적이고 학습이 필요 없는 사례 기반 추론 방법을 제안한다. 이 방법은 유사한 엔티티를 검색하고, 그들의 추론 경로를 재사용하여 질의에 답한다. k-가까운 이웃 엔티티로부터 다수의 경로 패턴을 활용함으로써 NELL-995와 FB-122에서 최신 기술 수준(SOTA) 성능을 달성하며, 특히 데이터가 적은 환경에서 파arametric 모델과 메타학습 모델을 모두 능가한다.

ABSTRACT

We present a surprisingly simple yet accurate approach to reasoning in knowledge graphs (KGs) that requires \emph{no training}, and is reminiscent of case-based reasoning in classical artificial intelligence (AI). Consider the task of finding a target entity given a source entity and a binary relation. Our non-parametric approach derives crisp logical rules for each query by finding multiple extit{graph path patterns} that connect similar source entities through the given relation. Using our method, we obtain new state-of-the-art accuracy, outperforming all previous models, on NELL-995 and FB-122. We also demonstrate that our model is robust in low data settings, outperforming recently proposed meta-learning approaches

연구 동기 및 목표

• 지식 그래프를 위한 단순한 비모수적 추론 방법을 개발하여 모델 학습이 필요 없도록 한다.
• 유사한 엔티티에서 추론 패턴을 재사용하여 지식 그래프 완성에서 제로샷 및 저데이터 일반화 성능을 향상시킨다.
• 고비용의 계산과 저데이터 환경에서의 낮은 일반화 성능를 보이는 모수적 모델의 한계를 극복한다.
• 관측된 경로에서 명확한 논리 규칙을 추출함으로써 강인하고 해석 가능한 추론을 가능하게 한다.
• 유사한 엔티티에서 유도된 상징적 경로 기반 추론이 복잡한 신경망 및 메타학습 모델을 능가할 수 있음을 보여준다.

제안 방법

• 질의 엔티티와 공통 관계를 공유하는 엔티티 중에서 가장 유사한 k개의 엔티티를 단순한 내적 유사도 측정 방법을 사용해 검색한다.
• 각 검색된 엔티티에 대해, 질의 관계를 통해 목표 엔티티로 연결되는 추론 경로를 식별한다.
• 그 후, 질의 엔티티에서 시작하는 유사한 경로 패턴이 존재하는지 확인하고, 이를 적용하여 답을 유추한다.
• 여러 후보 답변은 지지하는 추론 경로의 수에 따라 순위를 매기며, 일관성이 높은 경로를 우선시한다.
• 이 방법은 비모수적이며 모델 가중치에 규칙를 저장하지 않는다. 대신 지식 그래프 구조에서 동적으로 규칙를 추출한다.
• 이 프레임워크는 모듈식이며, 유사도 또는 경로 매칭을 위한 신경망 모델의 통합이 가능하지만, 기본적으로는 상징적 방법을 사용한다.

실험 결과

연구 질문

• RQ1 사례 기반 추론에 기반한 비모수적이고 학습이 필요한 방법이 지식 그래프 추론에서 모수적 모델을 능가할 수 있는가?
• RQ2 k-가까운 이웃 엔티티에서 유도된 경로 패턴 재사용은 저데이터 및 제로샷 환경에서 얼마나 효과적인가?
• RQ3 간단한 상징적 경로 매칭이 지식 그래프 완성에서 복잡한 신경망 또는 메타학습 모델을 능가할 수 있는가?
• RQ4 유사한 엔티티에서 유도된 규칙는 종합적 파rameter화된 학습 방식보다 강인성과 정확도를 향상시키는가?
• RQ5 사례 기반 추론 접근법은 다양한 지식 그래프 구조와 관계에 얼마나 광범위하게 일반화될 수 있는가?

주요 결과

• 제안된 방법은 NELL-995 벤치마크에서 이전의 모든 모델, 최근의 메타학습 및 신경망 접근 방식을 포함하여 최신 기술 수준 성능을 달성한다.
• FB-122 데이터셋에서는 새로운 최신 기술 수준 성능를 기록하여 강력한 일반화 및 강인성을 입증한다.
• 저데이터 환경에서 메타학습 기반 모델을 크게 능가함으로써 데이터 효율성이 뛰어나다는 점을 확인한다.
• 학습 없이도 지식 그래프의 구조적 패턴과 유사도 매칭에 의존하여 높은 정확도를 달성한다.
• 유사한 엔티티로부터 유도된 다수의 경로 패턴을 활용함으로써 단일 경로 또는 파rameter화된 모델보다 더 신뢰성 있고 일관성 있는 예측을 가능하게 한다.
• 이 프레임워크는 매우 유연하며, 유사도 또는 경로 매칭을 위한 신경망 구성 요소를 통합하여 향상시킬 수 있지만, 상징적 방법만으로도 강력한 성능을 발휘한다.