[논문 리뷰] Unified Structure Generation for Universal Information Extraction

Yaojie Lu, Qing Liu외 6명|arXiv (Cornell University)|2022. 03. 23.

Advanced Text Analysis Techniques인용 수 9

한 줄 요약

이 논문은 다양한 정보 추출 작업—엔티티, 관계, 이벤트, 감성 추출 등을 하나의 아키텍처로 모델링하는 통합 텍스트-구조 생성 프레임워크인 UIE를 제안한다. 구조적 추출 언어와 스키마 기반 프롬프트 메커니즘(구조적 스키마 인스트럭터)을 사용함으로써 UIE는 작업별로 적응적으로 출력을 생성하고, 지도 학습, 소수 샘플, 저자원 설정에서 13개 데이터셋 전반에 걸쳐 최고 성능을 기록하며 강력한 일반화 및 전이 능력을 입증한다.

ABSTRACT

Information extraction suffers from its varying targets, heterogeneous structures, and demand-specific schemas. In this paper, we propose a unified text-to-structure generation framework, namely UIE, which can universally model different IE tasks, adaptively generate targeted structures, and collaboratively learn general IE abilities from different knowledge sources. Specifically, UIE uniformly encodes different extraction structures via a structured extraction language, adaptively generates target extractions via a schema-based prompt mechanism - structural schema instructor, and captures the common IE abilities via a large-scale pre-trained text-to-structure model. Experiments show that UIE achieved the state-of-the-art performance on 4 IE tasks, 13 datasets, and on all supervised, low-resource, and few-shot settings for a wide range of entity, relation, event and sentiment extraction tasks and their unification. These results verified the effectiveness, universality, and transferability of UIE.

연구 동기 및 목표

• 지식 공유와 교차 도메인 적응을 방해하는 작업 특화 모델의 문제를 해결하기 위해.
• 엔티티, 관계, 이벤트, 감성 추출과 같은 다양한 IE 작업을 하나의 일반화 가능한 프레임워크로 통합하기 위해.
• 스키마 인식 프롬프트를 통해 이질적인 추출 구조의 적응적 생성을 가능하게 하기 위해.
• 다양한 작업과 데이터 소스 간의 공통된 IE 능력을 포괄하는 대규모 텍스트-구조 모델을 사전 학습하기 위해.
• 효과적인 전이 학습을 통해 저자원 및 소수 샘플 설정에서 성능을 향상시키기 위해.

제안 방법

• 다양한 IE 구조—스팬, 트리플릿, 레코드 등—를 통일된 형식으로 표현할 수 있는 구조적 추출 언어(SEL)를 제안한다.
• UIE에서 무엇을 식별하고, 어떤 요소를 연관시키며, 어떤 출력을 생성할지를 제어하는 스키마 기반 프롬프트 메커니즘인 구조적 스키마 인스트럭터(SSI)를 도입한다.
• 이질적인 웹 기반 데이터셋에서 학습된 대규모 사전 학습된 텍스트-구조 모델을 활용하여 일반적인 IE 능력을 학습한다.
• 입력은 원시 텍스트이고 출력은 SEL 형식의 구조적 추출인 시퀀스 투 시퀀스 생성 프레임워크를 사용한다.
• 최소한의 레이블된 데이터로 새로운 작업에 적응하기 위해 소수 샘플 및 제로 샘플 프롬프트 전략을 적용한다.
• 최소한의 아키텍처 변경으로 사전 학습된 모델을 최적화하여 하류 IE 작업에 적용한다.

실험 결과

연구 질문

• RQ1 이질적인 출력 구조를 가진 다양한 정보 추출 작업을 하나의 통합 아키텍처로 효과적으로 모델링할 수 있는가?
• RQ2 아키텍처 재학습 없이도 스키마 기반 프롬프트 메커니즘이 작업별로 구조를 동적으로 제어할 수 있는가?
• RQ3 대규모 이질적 데이터에서의 사전 학습이 정보 추출에서 일반화 능력과 소수 샘플 적응 능력을 향상시키는가?
• RQ4 통합 프레임워크는 지도 학습, 저자원, 소수 샘플 설정에서 작업 특화 모델에 비해 어떻게 성능을 내는가?
• RQ5 엔티티, 관계, 이벤트, 감성 추출 작업 간에 공통된 IE 능력을 얼마나 효과적으로 학습하고 전이할 수 있는가?

주요 결과

• UIE는 엔티티, 관계, 이벤트, 감성 추출의 네 가지 주요 IE 작업에서 13개 데이터셋 전반에 걸쳐 최고 성능을 기록했다.
• 지도 학습 설정에서 UIE는 최고의 작업 특화 기반 모델 대비 평균 F1 점수를 1.42% 향상시켰다.
• 소수 샘플 및 저자원 설정에서 UIE는 기반 모델들을 크게 능가했으며, 요구에 따라 적응하고 전이 가능한 능력을 입증했다.
• 사전 학습된 UIE 모델은 공통된 IE 능력을 효과적으로 포착하여, 최소한의 레이블된 데이터로 새로운 작업에 빠르게 적응할 수 있도록 했다.
• 구조적 스키마 인스트럭터 메커니즘은 작업 스키마에 기반해 무엇을 추출하고 어떻게 이를 구조화할지를 정밀하고 동적으로 제어할 수 있도록 했다.
• 통합 프레임워크는 작업 특화 아키텍처와 고립된 모델의 필요성을 줄였으며, IE 작업 간 지식 공유를 가능하게 했다.