[논문 리뷰] Text2Event: Controllable Sequence-to-Structure Generation for End-to-end Event Extraction

Yaojie Lu, Hongyu Lin외 7명|arXiv (Cornell University)|2021. 06. 17.

Topic Modeling참고 문헌 50인용 수 14

한 줄 요약

Text2Event는 자연어 토큰으로서의 구조적 이벤트 레코드(유형, 트리거, 인자)를 직접 생성하는 순서에서 구조로의 생성 프레임워크를 제안한다. 제약 조건이 있는 디코딩과 커리큘럼 학습을 통해 높은 수준의 성능을 달성하며, 정밀한 토큰 수준의 레이블링이 필요로 하지 않고도 근본적인 텍스트-레코드 레이블링만으로도 이루어진다. 이는 데이터 효율성과 모델 일반화 능력을 향상시킨다.

ABSTRACT

Event extraction is challenging due to the complex structure of event records and the semantic gap between text and event. Traditional methods usually extract event records by decomposing the complex structure prediction task into multiple subtasks. In this paper, we propose Text2Event, a sequence-to-structure generation paradigm that can directly extract events from the text in an end-to-end manner. Specifically, we design a sequence-to-structure network for unified event extraction, a constrained decoding algorithm for event knowledge injection during inference, and a curriculum learning algorithm for efficient model learning. Experimental results show that, by uniformly modeling all tasks in a single model and universally predicting different labels, our method can achieve competitive performance using only record-level annotations in both supervised learning and transfer learning settings.

연구 동기 및 목표

• 세분화된 다중 작업 레이블링이 필요로 하며 오류 전파 문제가 발생하는 분해 기반 이벤트 추출 방법의 한계를 해결하기 위해.
• 트리거 탐지, 인자 분류, 이벤트 유형 예측 등의 모든 이벤트 추출 하위 작업을 하나의 종단 간 순서에서 구조로의 생성 프레임워크로 통합하기 위해.
• 톆크너 레이블링이 아닌 근본적인 텍스트-레코드 쌍만으로 학습함으로써 데이터 효율성을 향상시키기 위해.
• 학습 중 커리큘럼 학습과 실시간 이벤트 스키마 주입을 통해 모델 학습과 일반화 능력을 향상시키기 위해.

제안 방법

• 이벤트 레이블(예: 'Transport', 'Arg1')을 토큰으로 간주하여 자연어 시퀀스로 이벤트 레코드를 생성하는 순서에서 구조로의 신경망을 제안한다.
• 이벤트 스키마를 사용하여 생성 과정을 안내하는 제약 조건이 있는 디코딩 알고리즘을 도입하여 추론 중 구조적 정확성을 보장한다.
• 전체 이벤트 구조 생성 학습 이전에 하위 구조 작업(예: 트리거 또는 인자 생성)부터 시작하는 커리큘럼 학습 전략을 적용한다.
• 사전 학습된 언어 모델(PLMs)을 초기화로 사용하고, 레이블을 자연어 단어로 인코딩하여 지식을 전이한다.
• 이벤트 유형, 트리거, 인자를 동시에 모델링하기 위해 통합 아키텍처를 활용하여 구성 요소 간 공유 표현 학습을 가능하게 한다.
• 이벤트 구조 예측을 텍스트 생성 과제로 간주하여 출력으로 전체 이벤트 레코드를 나타내는 토큰의 구조적 시퀀스를 생성한다.

실험 결과

연구 질문

• RQ1 최소한의 감독 정보로도 통합된 순서에서 구조로의 생성 모델이 분해 기반 방법보다 종단 간 이벤트 추출에서 뛰어난 성능을 내는가?
• RQ2 추론 중 이벤트 스키마 지식을 주입하기 위해 제약 조건이 있는 디코딩이 얼마나 효과적인가?
• RQ3 커리큘럼 학습이 저자원 환경에서 특히 모델 수렴과 성능 향상에 얼마나 기여하는가?
• RQ4 이벤트 레이블을 자연어로 인코딩하는 것이 기호적 레이블 표현보다 사전 학습된 모델로부터 더 나은 지식 전이를 가능하게 하는가?

주요 결과

• Text2Event는 ACE05-EN 및 ERE 데이터셋에서 오직 레코드 수준의 레이블링만을 사용하여 최고 성능(SOTA)을 달성했으며, 지도 학습 및 전이 학습 설정 모두에서 이전의 SOTA 방법을 능가했다.
• 1%의 데이터로 학습할 때 제약 조건이 있는 디코딩은 Trig-C F1을 평균 6.7 포인트 향상시켜 저자원 환경에서의 강력한 효과를 입증했다.
• 커리큘럼 학습은 Trig-C F1을 평균 4.7 포인트, Arg-C F1을 평균 5.8 포인트 향상시켜 모델 최적화에서의 가치를 입증했다.
• 제약 조건이 없는 디코딩을 제거하면 성능이 크게 떨어지며, 특히 저자원 환경에서 이는 구조적 정확성 유지에 있어 그 역할을 확인한다.
• 레이블을 자연어 단어로(예: 'Transport', 'Arg1') 인코딩하면 사전 학습된 모델로부터 효과적인 지식 전이가 가능하지만, 기호 레이블(예: 'T', 'A1')을 사용할 경우 성능이 열악해진다.
• 모델은 전체 ACE05-EN 개발 세트에서 71.4 Trig-C F1과 53.3 Arg-C F1을 기록하여 강력한 일반화 능력과 견고성을 입증했다.