[논문 리뷰] Event Extraction as Natural Language Generation

I-Hung Hsu, Kuan-Hao Huang외 5명|arXiv (Cornell University)|2021. 08. 29.

Topic Modeling참고 문헌 26인용 수 6

한 줄 요약

이 논문은 자연어 생성(NLG)으로 작업을 재정의함으로써, 자동회귀 생성을 통해 레이블의 의미를 활용함으로써 예측할 수 없는 또는 희귀한 이벤트 유형으로의 일반화를 향상시키는 새로운 이벤트 추출 모델인 GenEE를 제안한다. GenEE는 이벤트 템플릿에 기반하여 자연어 문장을 생성하며, 이를 디코딩하여 트리거와 인자로 변환한다. 이는 고자원 환경에서 최신 기술 성능을 달성하고, 강력한 제로샷 및 피처샷 일반화 성능을 보여준다.

ABSTRACT

Event extraction (EE), the task that identifies event triggers and their arguments in text, is usually formulated as a classification or structured prediction problem. Such models usually reduce labels to numeric identifiers, making them unable to take advantage of label semantics (e.g. an event type named Arrest is related to words like arrest, detain, or apprehend). This prevents the generalization to new event types. In this work, we formulate EE as a natural language generation task and propose GenEE, a model that not only captures complex dependencies within an event but also generalizes well to unseen or rare event types. Given a passage and an event type, GenEE is trained to generate a natural sentence following a predefined template for that event type. The generated output is then decoded into trigger and argument predictions. The autoregressive generation process naturally models the dependencies among the predictions -- each new word predicted depends on those already generated in the output sentence. Using carefully designed input prompts during generation, GenEE is able to capture label semantics, which enables the generalization to new event types. Empirical results show that our model achieves strong performance on event extraction tasks under all zero-shot, few-shot, and high-resource scenarios. Especially, in the high-resource setting, GenEE outperforms the state-of-the-art model on argument extraction and gets competitive results with the current best on end-to-end EE tasks.

연구 동기 및 목표

• 기존의 이벤트 추출 모델이 레이블을 숫자 식별자로 축소시켜 의미 정보를 상실하고, 새로운 이벤트 유형으로의 일반화를 어렵게 하는 문제를 해결하기 위해.
• 이벤트 유형과 그 어휘적 실현(예: 'arrest', 'detain') 간의 의미 관계를 포착함으로써 희귀하거나 새로운 이벤트 유형으로의 일반화를 향상시키기 위해.
• 특정 작업에 맞게 재학습이 필요 없이 제로샷, 피처샷, 고자원 설정 전반에서 우수한 성능을 내는 통합 프레임워크를 개발하기 위해.
• 문장 생성의 자동회귀적 성격을 활용하여 이벤트 트리거와 인자 간의 복잡한 의존 관계를 모델링하기 위해.
• 의미 인식 기반 생성을 통해 인자 추출 성능 향상과 함께 종단 간 이벤트 추출을 가능하게 하기 위해.

제안 방법

• 이벤트 추출을 자연어 생성 작업으로 재정의: 주어진 문장과 이벤트 유형에 대해, 해당 이벤트 유형에 대한 사전 정의된 템플릿에 따라 자연어 문장을 생성한다.
• 이전에 생성된 단어들에 의존하는 자동회귀 시퀀스 모델(예: T5 또는 유사 모델)을 사용하여 출력 문장을 생성함으로써 예측 간 의존 관계를 모델링한다.
• 이벤트 유형과 맥락을 명시적으로 인코딩한 입력 프롬프트를 설계하여, 모델이 관련 의미적 신호(예: 'arrest'는 'arrested', 'detained', 'apprehended' 등으로 연결됨)에 주목할 수 있도록 한다.
• 규칙 기반 또는 신경망 기반 정렬 방법을 사용하여 생성된 문장에서 트리거와 인자에 해당하는 구간을 식별함으로써, 문장을 트리거 및 인자 예측으로 디코딩한다.
• 템플릿가 이벤트 유형의 의미를 유지하도록 설계된 시퀀스 투 시퀀스 목표를 사용하여 표준 이벤트 추출 데이터셋에서 모델을 미세조정한다.
• 사전 학습된 언어 모델을 활용하여 의미 일반화를 위한 인덕티브 바이어스를 통합함으로써, 재학습 없이도 새로운 이벤트 유형으로의 제로샷 및 피처샷 전이가 가능하도록 한다.

실험 결과

연구 질문

• RQ1 이벤트 추출을 자연어 생성 작업으로 효과적으로 재정의함으로써, 새로운 또는 희귀한 이벤트 유형으로의 일반화를 향상시킬 수 있는가?
• RQ2 생성 기반 모델이 이벤트 유형과 그 어휘적 실현(예: 'arrest'와 'detain') 간의 의미 관계를 얼마나 잘 포착할 수 있는가?
• RQ3 자동회귀 생성 과정이 구조적 예측보다 이벤트 트리거와 인자 간의 의존 관계를 더 효과적으로 모델링하는가?
• RQ4 기존의 분류 기반 접근 방식과 비교했을 때, 제로샷, 피처샷, 고자원 설정 전반에서 모델의 성능은 어떠한가?
• RQ5 특정 작업에 맞게 적응하지 않고도, 인자 추출 및 종단 간 이벤트 추출에서 최신 기술 성능을 달성할 수 있는가?

주요 결과

• GenEE는 고자원 설정에서 인자 추출 성능에서 현재 최고 성능 모델를 능가하며 최신 기술 성능을 달성했다.
• GenEE는 종단 간 이벤트 추출 작업에서 경쟁적인 성능을 기록하여, 전체적인 효과성을 입증했다.
• 프롬프트 기반 생성을 통해 레이블 의미를 활용할 수 있기 때문에, 새로운 또는 희귀한 이벤트 유형으로의 일반화가 잘 이루어진다.
• 제로샷 및 피처샷 환경에서 GenEE는 강력한 성능을 보이며, 의미 인식 기반 생성을 통한 효과적인 전이 학습이 가능함을 시사한다.
• 자동회귀 생성 과정이 이벤트 트리거와 인자 간의 의존 관계를 효과적으로 모델링하여, 공동 예측 품질을 향상시킨다.
• 철저히 설계된 입력 프롬프트의 사용은 이벤트 유형의 의미적 뉘앙스를 포착할 수 있도록 하여, 숫자 레이블 인코딩을 넘어서는 일반화 능력을 향상시킨다.