[논문 리뷰] Duplication Detection in Knowledge Graphs: Literature and Tools

Elwin Huaman, Elias Kärle외 1명|arXiv (Cornell University)|2020. 04. 17.

Data Quality and Management참고 문헌 27인용 수 4

한 줄 요약

이 논문은 지식 그래프(KG)의 중복 검출(DD) 도구에 대한 종합적인 문헌 고찰 및 성능 평가를 제시하며, 중복 엔티티를 탐지하는 데 가장 효과적인 도구로 Duke를 특정한다. 이는 표준화된 13단계 DD 워크플로우를 제안하고 기존 도구의 개선 방안을 제시하며, 충돌하는 속성 값과 동적 데이터를 다루는 데에 대한 개선이 필요하다고 강조한다.

ABSTRACT

In recent years, an increasing amount of knowledge graphs (KGs) have been created as a means to store cross-domain knowledge and billion of facts, which are the basis of costumers' applications like search engines. However, KGs inevitably have inconsistencies such as duplicates that might generate conflicting property values. Duplication detection (DD) aims to identify duplicated entities and resolve their conflicting property values effectively and efficiently. In this paper, we perform a literature review on DD methods and tools, and an evaluation of them. Our main contributions are a performance evaluation of DD tools in KGs, improvement suggestions, and a DD workflow to support future development of DD tools, which are based on desirable features detected through this study.

연구 동기 및 목표

• 지식 그래프(KG)에서 중복 엔티티로 인한 일관성 없는 문제를 해결하기 위해 기존의 중복 검출(DD) 도구를 식별하고 평가하는 것.
• 지식 그래프(KG)에서 데이터 이질성, 오타, 충돌하는 속성 값으로 인해 중복을 탐지하는 데 발생하는 과제를 분석하는 것.
• 향후 도구 개발을 안내하고 엔티티 해소의 일관성을 향상시키기 위해 표준화되고 확장 가능한 DD 워크플로우를 제안하는 것.
• 기능 및 성능 평가를 바탕으로 현재의 DD 도구에 대한 개선 제안을 제공하는 것.
• 지식 그래프(KG)에서 충돌하는 속성 값과 시간에 따라 변화하는 동적 데이터를 다루는 데의 격차를 해결하는 것.

제안 방법

• 지식 그래프를 위한 최신 DD 도구 및 방법을 식별하기 위해 체계적인 문헌 고찰을 수행했다.
• 기준 데이터셋을 정의하고, 중복 및 비중복 엔티티 쌍을 레이블링하기 위한 골드 표준을 구축하여 평가를 가능하게 하였다.
• 기능, 성능, 설정 가능성, 유사도 메트릭 및 융합 전략 지원 여부를 기준으로 도구를 평가하였다.
• 사전 처리, 특성 선택, 정규화, 비교, 설정, 융합을 포함하는 13단계 DD 워크플로우를 구현하였다.
• 유사도 메트릭(예: 문자열 유사도)과 비교 방법(예: 블로킹, 정렬된 근접성)을 사용하여 엔티티 매칭을 평가하였다.
• 유전 알고리즘과 GUI 기반 검증을 통해 Duke 및 Sieve와 같은 도구에서 설정을 정밀 조정하고 결과를 검증하였다.

실험 결과

연구 질문

• RQ1 지식 그래프에서 중복 엔티티를 탐지하는 데 가장 효과적이고 효율적인 중복 검출 도구는 무엇인가?
• RQ2 중복이 탐지되었을 때 기존 도구들은 충돌하는 속성 값을 어떻게 처리하는가?
• RQ3 현재 DD 도구들이 사용성, 설정 가능성, 복잡한 유사도 메트릭 지원 측면에서 겪는 주요 한계는 무엇인가?
• RQ4 표준화되고 재사용 가능한 워크플로우가 향후 DD 도구의 개발 및 평가를 어떻게 향상시킬 수 있는가?
• RQ5 시간에 따라 변화하는 동적 데이터와 엔티티 표현의 시간적 변화를 다루기 위해 어떤 개선이 필요한가?

주요 결과

• Duke는 중복 검출에 있어 가장 효과적인 도구로 나타났지만, 2017년에 마지막으로 업데이트되었고, 작업 1(중복 식별)만 지원할 뿐 충돌 해소 기능은 제공하지 않는다.
• FAGI와 Sieve는 충돌하는 속성 값을 융합하는 데 지원하여 DD 문제의 작업 2를 해결한다.
• 평가된 도구들 사이에서 15개 이상의 사전 처리 기능, 20개 이상의 비교기, 그리고 다수의 융합 전략이 확인되어 풍부하지만 일관성 없는 구현을 보였다.
• 문자열 유사도 메트릭이 가장 널리 사용되었지만, 복잡한 중복 사례를 다루기 위해서는 복잡한 메트릭이 필요하다.
• 적절한 문서화가 이루어져 있음에도 불구하고, 대부분의 도구에서 설정 및 GUI 상호작용 측면에서 사용성 문제를 관찰하였다.
• 본 연구는 특히 커뮤니티 기반 지식 그래프에서 시간에 따라 변화하는 엔티티 속성과 동적 데이터를 다루는 데에 대한 개선 지원이 부족하다는 점을 드러냈다.