[논문 리뷰] KGClean: An Embedding Powered Knowledge Graph Cleaning Framework

Congcong Ge, Yunjun Gao외 4명|arXiv (Cornell University)|2020. 04. 26.

Privacy-Preserving Technologies in Data참고 문헌 60인용 수 7

한 줄 요약

KGClean은 지식 그래프 임bedding를 활용하여 지식 그래프의 누락된 값과 잘못된 값을 감지하고 복구하는 지식 그래프 정제 프레임워크이다. 오류 감지를 위한 액티브 러닝과 전파 능력 기반 복구 전략을 조합함으로써 KGClean은 다양한 데이터셋에서 뛰어난 성능을 달성하며, 특히 복잡하고 이질적인 오염된 데이터를 처리하는 데서 기존의 기준보다 뛰어난 성능을 보인다.

ABSTRACT

The quality assurance of the knowledge graph is a prerequisite for various knowledge-driven applications. We propose KGClean, a novel cleaning framework powered by knowledge graph embedding, to detect and repair the heterogeneous dirty data. In contrast to previous approaches that either focus on filling missing data or clean errors violated limited rules, KGClean enables (i) cleaning both missing data and other erroneous values, and (ii) mining potential rules automatically, which expands the coverage of error detecting. KGClean first learns data representations by TransGAT, an effective knowledge graph embedding model, which gathers the neighborhood information of each data and incorporates the interactions among data for casting data to continuous vector spaces with rich semantics. KGClean integrates an active learning-based classification model, which identifies errors with a small seed of labels. KGClean utilizes an efficient PRO-repair strategy to repair errors using a novel concept of propagation power. Extensive experiments on four typical knowledge graphs demonstrate the effectiveness of KGClean in practice.

연구 동기 및 목표

• 기존의 지식 그래프 정제 방법이 누락된 데이터에만 집중하거나 수작업으로 정의된 규칙에 의존하는 데서 비롯되는 한계를 해결하기 위해.
• 정제 규칙를 광범위하게 수립할 필요 없이 이질적인 오염된 데이터—누락 및 잘못된 값—에 대해 종단 간 정제를 가능하게 하기 위해.
• 지식 그래프 임베딩을 활용하여 오류 감지 및 의미적 전파 기반 복구 지도를 제공하는 확장성 있고 자동화된 프레임워크를 개발하기 위해.
• 그래프 어텐션 메커니즘을 통해 다단계 이웃 표현을 학습함으로써 정제의 신뢰성과 일반화 능력을 향상시키기 위해.

제안 방법

• KGClean은 다단계 이웃 정보를 캡처하고 그래프 어텐션 메커니즘을 사용해 실체와 관계 간의 상호작용을 모델링하는 지식 그래프 임베딩 모델인 TransGAT을 활용한다.
• 최소한의 인간 레이블이 필요한 시드 데이터를 기반으로 한 분류 모델(즉, AL-detect)을 사용하여 노이즈가 있는 삼항관계를 식별한다.
• 의미적 유사도와 임베딩 근접도를 기반으로 잘못된 삼항관계의 후보 복구를 순위 매기기 위해 '전파 능력'이라는 새로운 개념을 도입한다.
• 오류 복구는 가능한 후보 중에서 가장 의미적으로 타당성이 높은 것을 선택하는 PRO-repair 전략을 통해 수행된다.
• TransGAT의 점수 함수를 사용해 각 후보 복구의 신뢰도를 계산함으로써 높은 신뢰도를 가진 수정 사항만 적용되도록 보장한다.
• 전체 파이프라인은 임베딩 학습, 액티브 오류 감지, 전파 기반 복구를 통합된 확장 가능한 프레임워크로 통합한다.

실험 결과

연구 질문

• RQ1 사전 정의된 품질 규칙에 의존하지 않고 지식 그래프 임베딩이 누락 및 잘못된 값을 효과적으로 감지할 수 있는가?
• RQ2 전파 능력 기반 전략은 지식 그래프에서 잘못된 값을 복구하는 정확도를 어떻게 향상시킬 수 있는가?
• RQ3 액티브 러닝은 지식 그래프 정제에서 대규모 인간 레이블링이 필요한 정도를 얼마나 줄일 수 있는가?
• RQ4 임베딩 모델의 선택(예: TransGAT 대비 KBGAT)이 정제 파이프라인의 전체 성능에 어떤 영향을 미치는가?
• RQ5 KGClean 프레임워크는 지식 그래프 구조의 오류 비율과 희소성의 변화에 얼마나 강건한가?

주요 결과

• KGClean은 네 개의 실세계 지식 그래프에서 기존 기준 방법보다 뚜렷이 뛰어난 성능을 보이며, 누락 및 잘못된 값을 동시에 감지하고 복구한다.
• TransGAT 기반 KGClean은 점수 함수의 정확도 향상과 의미 정보의 더 나은 유지로 인해 KBGAT 기반 버전보다 높은 F1 점수를 기록한다.
• PRO-repair 전략은 높은 신뢰성을 보이며, 거짓 음성 비율이 20%에서 100%로 증가하더라도 FN-정밀도가 안정적으로 유지되어 잘못 분류된 정상 삼항관계에 대한 강건성을 입증한다.
• KGClean은 오류 비율 변화(10%에서 50%)에 민감하지 않으며, 성능이 주로 임베딩 모델의 일반화 능력에 의해 결정되므로 테스트 세트의 오류 분포에 영향을 받지 않는다.
• 희소성 문제로 인해 WN18RR 데이터셋에서는 성능이 떨어지며, 이는 신뢰할 수 없는 이웃 정보와 낮은 인-degree 노드로 인해 임베딩 품질과 전파 능력 추정이 저하되기 때문이다.
• 이러한 한계에도 불구하고 KGClean은 UMLS, Kinship, WN18에서 강력한 성능을 유지함으로써 다양한 지식 그래프 구조와 희소성 수준에 적응 가능함을 입증한다.