[논문 리뷰] LargeEA: Aligning Entities for Large-scale Knowledge Graphs

Congcong Ge, Xiaoze Liu외 3명|arXiv (Cornell University)|2021. 08. 11.

Advanced Graph Neural Networks참고 문헌 52인용 수 9

한 줄 요약

LargeEA는 구조 기반 및 이름 기반 특징 학습을 융합하여 대규모 지식 그래프에서 엔터티를 정렬하는 확장 가능한 프레임워크를 제안한다. 메모리 효율적인 미니배치 생성을 위해 METIS-CPS를 사용하고, 데이터 증강을 통한 새로운 이름 특징 융합(NFF) 방법을 통해 인간 레이블 없이 고품질의 시드 정렬을 생성한다. 이는 새로운 대규모 벤치마크 DBP1M에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Entity alignment (EA) aims to find equivalent entities in different knowledge graphs (KGs). Current EA approaches suffer from scalability issues, limiting their usage in real-world EA scenarios. To tackle this challenge, we propose LargeEA to align entities between large-scale KGs. LargeEA consists of two channels, i.e., structure channel and name channel. For the structure channel, we present METIS-CPS, a memory-saving mini-batch generation strategy, to partition large KGs into smaller mini-batches. LargeEA, designed as a general tool, can adopt any existing EA approach to learn entities' structural features within each mini-batch independently. For the name channel, we first introduce NFF, a name feature fusion method, to capture rich name features of entities without involving any complex training process. Then, we exploit a name-based data augmentation to generate seed alignment without any human intervention. Such design fits common real-world scenarios much better, as seed alignment is not always available. Finally, LargeEA derives the EA results by fusing the structural features and name features of entities. Since no widely-acknowledged benchmark is available for large-scale EA evaluation, we also develop a large-scale EA benchmark called DBP1M extracted from real-world KGs. Extensive experiments confirm the superiority of LargeEA against state-of-the-art competitors.

연구 동기 및 목표

• 수백만 개의 엔터티를 포함하는 실세계 지식 그래프에 적용할 때 기존 엔터티 정렬(EA) 방법의 확장성 한계를 해결한다.
• 구조적 통합성을 손상시키지 않으면서도 대규모 지식 그래프를 관리 가능한 미니배치로 분할하여 단일 GPU에서 효율적으로 작동하는 프레임워크를 개발한다.
• 인간이 레이블링한 시드 정렬에 의존하지 않고 이름 기반 데이터 증강을 통해 자동으로 고품질의 시드 정렬을 생성함으로써 비지도 학습 기반 엔터티 정렬을 가능하게 한다.
• 실세계 지식 그래프의 크기 수준을 반영한 실제적인 대규모 벤치마크(DBP1M)를 구축하여 EA 방법의 성능과 확장성을 평가한다.

제안 방법

• 대규모 지식 그래프를 더 작은, 구조를 유지하는 미니배치로 분할하면서도 동일한 엔터티가 같은 배치에 포함되도록 보장하는 메모리 절약형 미니배치 생성 전략인 METIS-CPS를 제안한다.
• 복잡한 학습 과정 없이 사전 훈련된 임베딩과 문자열 유사도를 활용하여 고급 문자 수준 및 의미 수준의 이름 특징을 추출하는 경량의 방법인 NFF(Name Feature Fusion)를 도입한다.
• 다양한 지식 그래프 간 유사한 엔터티 이름을 매칭하여 이름 기반 데이터 증강을 통해 의사 시드 정렬을 자동으로 생성하며, DBP1M에서 93.85%~93.86%의 정확도를 달성한다.
• 각 미니배치에서 별도로 학습된 구조적 특징과 NFF를 통해 추출된 이름 특징을 융합하여 최종 엔터티 정렬 예측을 생성한다.
• 기존의 어떤 구조 기반 EA 모델도 해당 구조 채널에 통합할 수 있는 일반적인 프레임워크를 설계한다.
• 실세계 지식 그래프(예: YAGO3)에서 유도된 대규모 EA 벤치마크인 DBP1M을 구축하여, 최대 100만 개의 엔터티를 각 지식 그래프에 포함하고 있으며, 확장성과 성능 평가에 사용된다.

실험 결과

연구 질문

• RQ1 단일 GPU 환경에서 100만 개 이상의 엔터티를 포함하는 대규모 지식 그래프에 대해 엔터티 정렬을 효과적으로 확장할 수 있는가?
• RQ2 미니배치 생성 과정에서 지식 그래프의 구조적 통합성을 유지하면서도 동일한 엔터티가 같은 배치에 포함되도록 보장할 수 있는가?
• RQ3 인간의 레이블 없이 이름 기반 데이터 증강 전략이 고품질의 시드 정렬을 생성할 수 있으며, 비지도 학습 기반 EA에서 얼마나 효과적인가?
• RQ4 구조적 특징과 이름 기반 특징의 융합이 대규모 데이터에서 구조적 특징만을 사용하는 방법에 비해 정확도를 얼마나 향상시키는가?
• RQ5 기존의 소규모 벤치마크를 넘어서, 실세계 지식 그래프의 크기 수준을 반영한 새로운 대규모 벤치마크가 필요한가?

주요 결과

• LargeEA는 새로 제안된 DBP1M 벤치마크에서 최신 기술 수준의 성능을 달성하여 대규모 지식 그래프에서 뛰어난 확장성과 정확도를 입증한다.
• 이름 기반 데이터 증강 전략은 DBP1M EN-FR 및 EN-DE에 대해 각각 528,040개와 476,527개의 시드 정렬을 자동으로 생성하였으며, 정확도는 각각 93.86% 및 93.85%였다.
• 자동으로 생성된 시드 정렬을 사용하는 비지도 설정에서도 LargeEA의 성능은 인간이 레이블링한 골드 표준 시드를 사용하는 지도 학습 방법과 유사한 성능을 보였다.
• METIS-CPS는 대규모 지식 그래프에서 구조를 유지하면서도 메모리 오버헤드를 최소화하는 효과적인 미니배치 처리를 가능하게 한다.
• NFF의 통합은 추가 학습 없이도 강력한 이름 특징 추출을 가능하게 하여 최소한의 계산 비용으로도 정렬 품질을 크게 향상시켰다.
• 광범위한 실험을 통해 LargeEA는 소규모 및 대규모 벤치마크에서 모두 기존의 최신 기술 수준(SOTA) 방법을 능가하며, 특히 확장성과 실세계 적용 가능성에서 뛰어난 성능을 보였다.