[논문 리뷰] Data Augmentation for Personal Knowledge Graph Population.

Lingraj S. Vannur, Lokesh Nagalapatti외 2명|arXiv (Cornell University)|2020. 02. 23.

Advanced Graph Neural Networks참고 문헌 25인용 수 5

한 줄 요약

이 논문은 규칙 기반 애너테이터와 그래프 신경망을 조합한 하이브리드 접근법을 제안하여 비구조화된 텍스트에서 개인 지식 그래프를 보다 효과적으로 구성함으로써 데이터 부족 및 개인정보 보호 문제를 해결한다. TACRED 데이터셋을 활용함으로써 기준 방법에 비해 링크 예측 정확도를 향상시키고, 더 완전하고 공정하며 다양한 지식 기반을 생성한다.

ABSTRACT

Cold start knowledge base population (KBP) is the problem of populating a knowledge base from unstructured documents. While artificial neural networks have led to significant improvements in the different tasks that are part of KBP, the overall F1 of the end-to-end system remains quite low. This problem is more acute in personal knowledge bases, which present additional challenges with regard to data protection, fairness and privacy. In this work, we present a system that uses rule based annotators and a graph neural network for missing link prediction, to populate a more complete, fair and diverse knowledge base from the TACRED dataset.

연구 동기 및 목표

• 비구조화된 문서에서 지식 기반 구성(KBP)의 콜드 스타트 문제를 해결한다.
• 엄격한 개인정보 보호 및 공정성 제약 조건이 존재하는 개인 지식 기반에서 종합적인 F1 성능을 향상시킨다.
• 지식 그래프 구축 과정에서 완전성, 공정성, 다양성을 향상시키는 시스템을 개발한다.
• 규칙 기반 애너테이션과 그래프 신경망을 통합하여 대규모 레이블링 데이터에 대한 의존도를 줄인다.

제안 방법

• TACRED 데이터셋의 비구조화된 텍스트에서 초기 사실을 추출하기 위해 규칙 기반 애너테이터를 활용한다.
• 규칙 기반 추출 결과를 바탕으로 지식 그래프를 구성하여 엔터티 간의 관계를 표현한다.
• 지식 그래프의 누락된 링크를 예측하기 위해 그래프 신경망(GNN)을 적용한다.
• GNN의 메시지 전달 메커니즘을 활용하여 구조적 및 의미적 그래프 패턴을 기반으로 예측을 정밀하게 보정한다.
• 규칙 기반 사실과 GNN에 의한 예측 링크를 통합하여 더 완전하고 다양한 지식 기반을 생성한다.
• 민감한 개인 데이터에 대한 의존도를 최소화함으로써 공정성 및 개인정보 보호를 최적화한다.

실험 결과

연구 질문

• RQ1 규칙 기반 애너테이터와 GNN이 함께 개인 지식 그래프의 완전성을 향상시킬 수 있는가?
• RQ2 규칙 기반 사실과 GNN 예측의 통합이 KBP에서 F1 성능에 어떤 영향을 미치는가?
• RQ3 제안된 방법이 지식 기반 구축 과정에서 공정성과 다양성을 얼마나 향상시키는가?
• RQ4 개인 지식 기반에서 일반적인 개인정보 보호 제약 조건 하에서 이 시스템의 성능은 어떠한가?

주요 결과

• 하이브리드 시스템은 TACRED 데이터셋에서 기준 방법에 비해 더 높은 F1 스코어를 기록하여 종합적인 성능 향상을 입증한다.
• 규칙 기반 사실과 GNN 예측 링크의 통합은 지식 기반의 완전성을 크게 향상시킨다.
• 이 방법은 엔터티 및 관계 분포의 편향을 줄이며 더 다양하고 균형 잡힌 지식 기반을 생성한다.
• 민감한 학습 데이터가 필요한 것을 최소화함으로써 강력한 개인정보 보호 및 공정성 특성을 유지한다.