[논문 리뷰] Double Graph Based Reasoning for Document-level Relation Extraction

Shuang Zeng, Runxin Xu외 2명|arXiv (Cornell University)|2020. 09. 29.

Topic Modeling참고 문헌 35인용 수 12

한 줄 요약

이 논문은 문서 수준 관계 추출을 위한 이중 그래프 접근법인 그래프 집합 및 추론 네트워크(GAIN)를 제안한다. 이는 문맥 인식 문서 표현을 캡처하기 위해 이질적 언급 수준 그래프(hMG)와 다중 힙 관계를 추론하기 위한 새로운 경로 추론 메커니즘을 갖춘 실체 수준 그래프(EG)를 사용한다. GAIN은 DocRED 벤치마크에서 이전 최고 성능 모델 대비 F1 점수 2.85 포인트 향상시켜 문장 간 관계와 논리적으로 추론된 관계에서 뛰어난 성능을 입증한다.

ABSTRACT

Document-level relation extraction aims to extract relations among entities within a document. Different from sentence-level relation extraction, it requires reasoning over multiple sentences across a document. In this paper, we propose Graph Aggregation-and-Inference Network (GAIN) featuring double graphs. GAIN first constructs a heterogeneous mention-level graph (hMG) to model complex interaction among different mentions across the document. It also constructs an entity-level graph (EG), based on which we propose a novel path reasoning mechanism to infer relations between entities. Experiments on the public dataset, DocRED, show GAIN achieves a significant performance improvement (2.85 on F1) over the previous state-of-the-art. Our code is available at https://github.com/DreamInvoker/GAIN .

연구 동기 및 목표

• 문장 수준 관계 추출의 한계를 해결하여 문장 간 및 논리적으로 추론된 관계를 효과적으로 포착하고자 한다.
• 장거리 종속성, 실체 공통지칭, 암시적 관계 추론 등의 과제를 해결하여 문서 수준 RE의 도전 과제를 극복하고자 한다.
• 구조화된 그래프 표현을 활용해 실체 간 다중 힙 경로를 명시적으로 추론할 수 있는 모델을 설계하고자 한다.
• 문서 수준 관계 추출에서 복잡한 문장 간 관계 및 논리적으로 의존적인 관계 인스턴스에서의 성능 향상을 도모하고자 한다.

제안 방법

• 언급 및 문서 노드를 포함한 이질적 언급 수준 그래프(hMG)를 구성하고, 내부 실체, 외부 실체, 문서 간 세 가지 간선 유형을 사용하여 문장 간 문맥을 모델링한다.
• hMG에 그래프 컬러션 네트워크(GCN)를 적용하여 각 언급에 대해 문서 인식 표현을 생성한다.
• hMG에서 동일한 실체를 가리키는 언급들을 융합하여 실체 수준 그래프(EG)를 구축함으로써 실체 수준 추론을 가능하게 한다.
• 모든 가능한 경로에서 정보를 선택적으로 융합하는 데 주목하는 메커니즘을 사용한 경로 추론 메커니즘을 제안한다.
• 그래프 기반 표현과 BERT 기반 문맥 임베딩을 통합하여 기능 학습을 향상시킨다.
• DocRED 데이터셋에서 관계 분류를 위한 교차 엔트로피 손실을 사용하여 엔드 투 엔드 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 이중 그래프 아키텍처는 문서 수준 관계 추출에서 장거리 종속성과 문서 수준 문맥을 효과적으로 모델링할 수 있는가?
• RQ2 실체 수준 그래프에서의 명시적 경로 추론은 다중 힙 및 논리적으로 의존적인 관계 추론에 어떤 영향을 미치는가?
• RQ3 제안된 방법은 문장 간 관계 및 추론 중심 관계 인스턴스에서 기존 모델보다 얼마나 뛰어나게 성능을 향상시키는가?
• RQ4 문서 인식 언급 표현과 경로 추론의 기여도는 전체 성능 향상에 얼마나 기여하는가?

주요 결과

• GAIN은 DocRED 벤치마크에서 이전 최고 성능 모델 대비 F1 점수 2.85 포인트 향상시켰다.
• 기존 오류의 53.5%가 발생했던 문장 간 관계 추출에서 모델이 기준 모델을 크게 앞서나갔다.
• 논리적 추론 작업에서 GAIN은 BiLSTM 대비 추론 중심 케이스에서 오류율을 21.0% 감소시켜 뛰어난 성능을 보였다.
• 제거 실험 결과, 이질적 언급 수준 그래프와 경로 추론 메커니즘이 성능 향상에 필수적임을 확인하였다.
• 주목하는 경로 융합을 사용한 경로 추론 메커니즘은 워크 기반 방법보다 성능이 뛰어나며, 초모수 튜닝의 부담을 피할 수 있었다.
• 모델는 문장 간 다중 힙 추론을 통해 'Without Me'와 'The Eminem Show'가 동일한 공연자와 발매일을 공유한다는 것을 성공적으로 추론했다.