[논문 리뷰] Document-level Event Extraction via Heterogeneous Graph-based Interaction Model with a Tracker

Runxin Xu, Tianyu Liu외 2명|arXiv (Cornell University)|2021. 05. 31.

Topic Modeling참고 문헌 16인용 수 5

한 줄 요약

이 논문은 문서 수준 이벤트 추출을 위한 이질적 그래프 기반 상호작용 모델인 Git을 제안한다. 이는 산산이 흩어진 이벤트 인자와 상호의존적인 이벤트 문제를 해결하기 위해 이질적 그래프를 통해 전반적인 문장-언급 상호작용을 모델링하고, 추출된 기록을 추적하여 이벤트 간 종속성을 포착한다. 이로 인해 대규모 데이터셋에서 이전 방법 대비 2.8 F1 향상률을 달성한다.

ABSTRACT

Document-level event extraction aims to recognize event information from a whole piece of article. Existing methods are not effective due to two challenges of this task: a) the target event arguments are scattered across sentences; b) the correlation among events in a document is non-trivial to model. In this paper, we propose Heterogeneous Graph-based Interaction Model with a Tracker (GIT) to solve the aforementioned two challenges. For the first challenge, GIT constructs a heterogeneous graph interaction network to capture global interactions among different sentences and entity mentions. For the second, GIT introduces a Tracker module to track the extracted events and hence capture the interdependency among the events. Experiments on a large-scale dataset (Zheng et al., 2019) show GIT outperforms the previous methods by 2.8 F1. Further analysis reveals GIT is effective in extracting multiple correlated events and event arguments that scatter across the document. Our code is available at https://github.com/RunxinXu/GIT.

연구 동기 및 목표

• 문서 수준 이벤트 추출에서 문장 간 산산이 흩어진 이벤트 인자를 다루는 데 도전한다.
• 문서 내 다수의 관련 이벤트 간 상호의존성을 모델링한다.
• 다양한 이벤트 유형과 문장 간 인자를 포함한 긴 복잡한 문서에서의 이벤트 추출 성능을 향상시킨다.
• 전반적인 맥락과 이벤트 상호관계를 동시에 모델링할 수 있는 확장성 있고 효과적인 아키텍처를 설계한다.

제안 방법

• 문장 노드와 언급 노드를 포함하는 이질적 그래프를 구성하여 문장과 엔터티 간의 전반적 상호작용을 모델링한다.
• 문장-문장, 문장-언급, 내부 언급-언급, 외부 언급-언급의 네 가지 유형의 간선을 정의하여 다양한 관계 패턴을 포착한다.
• 맥락 기반 인코딩을 위해 이질적 그래프를 통해 표현을 집계하는 그래프 신경망을 활용한다.
• 이전에 추출된 이벤트 기록의 전역 메모리를 유지하는 트래커 모듈을 도입한다.
• 디코딩 중에 동일하거나 다른 유형의 이벤트 기록 간 상호의존 신호를 트래커를 통해 전파한다.
• 입력 특징으로 사전 훈련된 맥락 기반 임bedding을 활용하고, 전체 모델을 엔드 투 엔드로 미세조정한다.

실험 결과

연구 질문

• RQ1 이질적 그래프는 산산이 흩어진 이벤트 인자를 위한 문장 간 상호작용을 효과적으로 모델링할 수 있는가?
• RQ2 이전에 추출된 이벤트 기록을 추적하는 방식이 문서 수준 EE에서 상호의존적인 이벤트를 모델링하는 데 도움이 되는가?
• RQ3 제안된 모델은 이전 방법 대비 문장 간 및 다중 이벤트 추출에서 어떻게 성능을 발휘하는가?
• RQ4 트래커가 복잡하고 다중 이벤트를 포함한 문서에서 성능 향상에 얼마나 기여하는가?

주요 결과

• Git은 Zheng et al. (2019) 데이터셋에서 이전 최고 성능 방법 대비 2.8 절대 F1 향상률을 기록한다.
• 문장 간 이벤트 추출에서는 3.7 F1 향상되고, 다중 이벤트 시나리오에서는 4.9 F1 향상된다.
• 제거 실험 결과 트래커가 상당한 기여를 한다는 것이 확인되었으며, 제거 시 F1이 1.2 포인트 감소하며 특히 다중 이벤트 설정에서 두드러진다.
• 문서 복잡성이 증가할수록 트래커의 효과가 커지며, 이벤트 기록 수가 많을수록 성능 격차가 커진다.
• 사례 연구를 통해 Git은 이전에 트래킹된 이벤트의 정보를 활용하여 문장 간 거리가 먼 인자를 정확히 연결할 수 있음을 보여준다.
• 특히 문장 간 산산이 흩어진 인자를 추출하는 데서 Doc2EDAG와 같은 강력한 베이스라인에 비해 더 뛰어난 성능을 발휘한다.