[논문 리뷰] End-to-End Entity Linking and Disambiguation leveraging Word and Knowledge Graph Embeddings

Rostislav Nedelchev, Debanjan Chaudhuri외 2명|arXiv (Cornell University)|2020. 02. 25.

Topic Modeling참고 문헌 28인용 수 12

한 줄 요약

이 논문은 단일 질문 처리를 위한 엔티티 및 관계 연결을 통합적으로 수행하는 엔드 투 엔드 신경망 모델을 제안한다. 이는 단어 임베딩과 지식 그래프(KG) 임베딩을 통합하여 구현된다. 새로운 게이팅 메커니즘을 도입하여 KG 임베딩 유사도를 활용해 엔티티를 암묵적으로 해석함으로써, 광범위한 후처리 없이도 최신 기술 수준(SOTA)의 엔티티 연결 성능을 달성한다. 특히 어려운 암묵적 모호성 및 부드러운 모호성 케이스에서의 해석 성능 향상에 기여한다.

ABSTRACT

Entity linking - connecting entity mentions in a natural language utterance to knowledge graph (KG) entities is a crucial step for question answering over KGs. It is often based on measuring the string similarity between the entity label and its mention in the question. The relation referred to in the question can help to disambiguate between entities with the same label. This can be misleading if an incorrect relation has been identified in the relation linking step. However, an incorrect relation may still be semantically similar to the relation in which the correct entity forms a triple within the KG; which could be captured by the similarity of their KG embeddings. Based on this idea, we propose the first end-to-end neural network approach that employs KG as well as word embeddings to perform joint relation and entity classification of simple questions while implicitly performing entity disambiguation with the help of a novel gating mechanism. An empirical evaluation shows that the proposed approach achieves a performance comparable to state-of-the-art entity linking while requiring less post-processing.

연구 동기 및 목표

• 지식 그래프 기반 질문 응답에서 엔티티 해석 문제를 해결하기 위해, 특히 관계 연결이 잘못되거나 모호한 경우에 초점을 맞춘다.
• 엔티티 간 의미적 유사도를 캡처하기 위해 지식 그래프 임베딩을 엔드 투 엔드 신경망 아키텍처에 통합하여 엔티티 연결 성능을 향상시키기 위한 것이다.
• 문자열 유사도나 후처리에 의존도를 줄이기 위해, KG 임베딩에서 유도된 문맥적 및 구조적 정보를 활용한다.
• KG 임베딩 유사도를 기반으로 관계 컨텍스트에 따라 엔티티 예측을 개선하는 가중치를 계산하는 미분 가능한 게이팅 메커니즘을 설계한다.
• 언어적 신호가 약하거나 오해의 소지가 있는 경우에도 모델의 강건성을 평가하기 위함이다.

제안 방법

• 모델은 사전 학습된 단어 임베딩을 사용하여 자연어 질문과 후보 엔티티/관계를 인코딩하는 듀얼 인코더 아키텍처를 사용한다.
• 엔티티와 관계에 대한 지식 그래프 임베딩을 통합하여 의미 관계와 관계적 맥락을 캡처한다.
• 새로운 게이팅 메커니즘이 예측된 관계와 후보 관계의 KG 임베딩 간 코사인 유사도를 사용하여 엔티티 및 관계 예측 점수의 가중 조합을 계산한다.
• 최종 엔티티 예측은 질문 임베딩과 게이팅된 엔티티 표현 간의 유사도 점수에 기반하며, 이는 암묵적 해석을 가능하게 한다.
• 일반화 성능 향상과 모호한 케이스에서의 후보 재순서 정렬을 위해 소프트 마진 손실을 사용하여 엔드 투 엔드로 학습된다.
• 모델은 유사도 점수와 어텐션 메커니즘을 통해 최종 예측 및 게이팅 결정을 분석할 수 있어 해석 가능성을 지원한다.

실험 결과

연구 질문

• RQ1 관계 연결이 잘못되거나 모호한 경우, KG 임베딩이 엔드 투 엔드 모델에서 엔티티 연결 성능을 향상시키는 데 기여하는가?
• RQ2 KG 임베딩 유사도 기반의 학습된 게이팅 메커니즘이 언어적 신호 없이도 엔티티를 효과적으로 해석하는 데 얼마나 유용한가?
• RQ3 단어 임베딩과 KG 임베딩을 동시에 통합하면, 모듈식 또는 문자열 매칭 기반 접근 방식에 비해 엔티티 연결 정확도가 향상되는가?
• RQ4 여러 엔티티가 동일한 이름을 공유하고 언어적 단서가 없는 경우, 모델은 얼마나 잘 작동하는가?
• RQ5 레벤슈타인 거리나 문자열 매칭과 같은 후처리 단계 없이도 모델은 높은 성능을 유지할 수 있는가?

주요 결과

• 문자열 유사도 매칭과 같은 추가 후처리 단계 없이도 최신 기술 수준의 방법과 유사한 엔티티 연결 정확도를 달성한다.
• 제안된 게이팅 메커니즘은 평균 3.97%의 엔티티 연결 정확도 향상을 이끌었으며, 특히 잘못된 관계 예측 케이스에서 유의미한 개선 효과를 보였다.
• 부드러운 모호성 케이스(질문의 21.1%)에서는 84.81%의 경우에 정확한 엔티티를 식별했으며, 이 중 9.78%의 정확한 예측는 잘못된 관계 예측에도 불구하고 KG 임베딩 기반 해석 덕분이었다.
• 어려운 모호성 케이스(질문의 18.51%)에서는 정확도가 35.66%에 달했으며, 언어적 단서가 없을 때도 KG 임베딩이 모호성을 해결하는 데 기여함을 입증했다.
• 비모호한 케이스에서는 97.70%의 정확도로 엔티티를 정확히 식별했으며, 이는 강력한 기초 성능을 보여준다.
• 오류 분석 결과, 440개의 잘못된 예측 중 165개는 1-호프 KG 연결이 누락되어 발생했고, 162개는 엔티티 범위 탐지 실패로 인한 것으로 나타나, 향후 개선이 필요한 핵심 영역임을 확인했다.