[논문 리뷰] MLBiNet: A Cross-Sentence Collective Event Detection Network

Dongfang Lou, Zhilin Liao외 3명|arXiv (Cornell University)|2021. 05. 20.

Topic Modeling참고 문헌 42인용 수 4

한 줄 요약

이 논문은 집단적 사건 탐지를 위해 문서 수준의 의미 정보와 문장 간 사건 상호의존성을 동시에 모델링하는 다층 순환 양방향 신경망인 MLBiNet을 제안한다. 양방향 디코더, 정보 집약 모듈, 스택형 디코딩 레이어를 활용함으로써 MLBiNet은 문장 내 및 문장 간 의존성을 포괄적으로 포착하여 ACE 2005 벤치마크에서 기존 최고 성능보다 1.9점 높은 새로운 최고의 F1 스코어 85.7을 달성한다.

ABSTRACT

We consider the problem of collectively detecting multiple events, particularly in cross-sentence settings. The key to dealing with the problem is to encode semantic information and model event inter-dependency at a document-level. In this paper, we reformulate it as a Seq2Seq task and propose a Multi-Layer Bidirectional Network (MLBiNet) to capture the document-level association of events and semantic information simultaneously. Specifically, a bidirectional decoder is firstly devised to model event inter-dependency within a sentence when decoding the event tag vector sequence. Secondly, an information aggregation module is employed to aggregate sentence-level semantic and event tag information. Finally, we stack multiple bidirectional decoders and feed cross-sentence information, forming a multi-layer bidirectional tagging architecture to iteratively propagate information across sentences. We show that our approach provides significant improvement in performance compared to the current state-of-the-art results.

연구 동기 및 목표

• 기존의 사건 탐지 모델이 문서 수준의 의미 정보 및 사건 간 상호의존성 정보를 간과하는 한계를 해결하기 위해.
• 특히 사건 트리거가 여러 문장에 산재해 있는 경우에도 문장 내 및 문장 간 사건 의존성을 명시적으로 모델링하기 위해.
• 문서 수준의 의미 집약과 사건 간 상호의존성 모델링을 하나의 종단 간 훈련 가능한 프레임워크로 통합하기 위해.
• 스택형 디코딩 아키텍처를 통해 문장 간 정보를 반복적으로 전파함으로써 집단적 사건 탐지 성능을 향상시키기 위해.

제안 방법

• 각 문장 내에서 이벤트 태그 시퀀스의 전방 및 후방 의존성을 포착함으로써 사건 간 상호의존성을 모델링하기 위해 양방향 디코더를 설계함.
• 풀링 연산(예: 평균, 최대값, 또는 LSTM 기반 집약)을 사용하여 문장 수준의 의미 정보 및 이벤트 태그 정보를 요약하는 정보 집약 모듈을 설계함.
• 여러 개의 양방향 디코더 레이어를 스택하여 인접한 문장 간 정보 전파를 가능하게 하여 반복적 정련을 통해 장거리 맥락 모델링을 실현함.
• 입력이 문서이고 출력이 이벤트 태그 시퀀스인 Seq2Seq 작업으로서 사건 탐지를 간주함으로써 다수의 사건을 동시에 예측할 수 있도록 함.
• 문장 간 정보 전파를 위해 한 레이어의 출력을 다음 레이어에 입력함으로써 계층적으로 맥락 신호가 문장 간 흐르도록 함.
• 예측된 이벤트 태그 시퀀스에 대한 교차 엔트로피 손실을 사용하여 아키텍처를 종단 간으로 훈련함.

실험 결과

연구 질문

• RQ1 통합된 딥러닝 프레임워크가 집단적 사건 탐지의 문서 수준 의미 정보와 사건 간 상호의존성을 효과적으로 모델링할 수 있는가?
• RQ2 단방향 또는 비순환 태깅 구조에 비해 문장 내에서의 양방향 디코딩이 사건 의존성 모델링에 어떤 개선을 이끌어내는가?
• RQ3 스택형 양방향 디코딩 레이어는 문장 간 정보 전파를 얼마나 향상시키고 정확도를 높이는가?
• RQ4 제안된 정보 집약 모듈이 각 문장의 관련 의미 정보 및 이벤트 신호를 하류 레이어에 효과적으로 요약하는가?
• RQ5 ACE 2005 벤치마크에서 MLBiNet은 F1 스코어와 강건성 측면에서 최고 수준의 모델들과 비교해 어떻게 성능을 내는가?

주요 결과

• MLBiNet은 ACE 2005 벤치마크에서 이전 최고 기록보다 1.9점 높은 새로운 최고의 F1 스코어 85.7을 달성함.
• 제거 실험을 통해 양방향 디코더와 다층 스택 구조가 성능 향상에 기여하는 것이 확인됨.
• LSTM 기반 집약이 평균 및 최대 풀링보다 우수한 성능을 보이며, 이벤트 신호의 순차적 모델링이 탐지 성능 향상에 기여함을 시사함.
• 이웃 문장의 맥락이 제공될 경우 'firing' 및 'death'와 같은 사건 트리거의 탐지가 향상되어 문장 간 의존성을 효과적으로 포착함을 입증함.
• 공존 사건이 포함된 경우 성능 향상이 특히 두드러지며, ACE 2005 코퍼스에서 44.4%의 트리거가 이러한 구성에서 발생함.
• 문장 간 맥락을 활용함으로써 모호한 트리거(예: 'firing'이 'Attack' 또는 'End_Position'을 의미할 수 있음)를 효과적으로 처리함으로써 강건성을 입증함.