[논문 리뷰] OntoED: Low-resource Event Detection with Ontology Embedding

Shumin Deng, Ningyu Zhang외 6명|arXiv (Cornell University)|2021. 05. 23.

Topic Modeling참고 문헌 34인용 수 9

한 줄 요약

OntoED는 이벤트 유형 간 상호 유형 상관관계를 모델링하기 위해 온톨로지 임베딩을 활용하는 새로운 저자원 이벤트 검출 프레임워크를 제안한다. 이는 자료가 부족한 상황과 제로샷 설정에서 성능을 향상시킨다. BERT 기반 인스턴스 인코딩과 프로토타입 학습에 기반한 상징적 규칙 기반 상관관계 추론을 통합함으로써 OntoED는 우수한 강건성과 일반화 능력을 확보하며, 특히 제안된 OntoEvent 데이터셋에서 소수의 샘플과 제로샷 설정에서 이전 방법들을 능가한다.

ABSTRACT

Event Detection (ED) aims to identify event trigger words from a given text and classify it into an event type. Most of current methods to ED rely heavily on training instances, and almost ignore the correlation of event types. Hence, they tend to suffer from data scarcity and fail to handle new unseen event types. To address these problems, we formulate ED as a process of event ontology population: linking event instances to pre-defined event types in event ontology, and propose a novel ED framework entitled OntoED with ontology embedding. We enrich event ontology with linkages among event types, and further induce more event-event correlations. Based on the event ontology, OntoED can leverage and propagate correlation knowledge, particularly from data-rich to data-poor event types. Furthermore, OntoED can be applied to new unseen event types, by establishing linkages to existing ones. Experiments indicate that OntoED is more predominant and robust than previous approaches to ED, especially in data-scarce scenarios.

연구 동기 및 목표

• 많은 이벤트 유형이 훈련 인스턴스가 부족한 저자원 이벤트 검출 문제를 해결하기 위해.
• 기존 방법들이 이벤트 유형 간 상호 유형 상관관계를 忽시하는 한계를 극복하기 위해.
• 새로운, 볼 수 없었던 이벤트 유형에 대해 기존 이벤트 온톨로지와 연결함으로써 제로샷 검출을 가능하게 하기 위해.
• 고자원 이벤트 유형에서 저자원 이벤트 유형으로 지식을 전파함으로써 자료가 부족한 상황에서 모델의 일반화 능력을 향상시키고 과적합을 줄이기 위해.
• 딥 러닝과 상징적 추론을 이벤트 온톨로지 임베딩를 통해 통합한 신경-상징 프레임워크를 개발하기 위해.

제안 방법

• 각 프로토타입을 인스턴스 임베딩의 평균으로 정의함으로써 BERT 임베딩과 프로토타입 학습을 사용하여 사전 정의된 유형에 이벤트 인스턴스를 연결함으로써 初기 이벤트 온톨로지를 구성한다.
• 이벤트 인스턴스에서 관계를 추출하고 이웃 프로토타입을 집계하여 임베딩 학습을 위한 임베딩을 얻기 위해 시간적, 인과적, 계층적 관계를 포함한 이벤트 유형 간 관계를 강화한다.
• 이벤트 유형 간 상관관계 지식을 전파함으로써 온톨로지 임베딩을 학습하여 의미적으로 유사한 유형들이 벡터 공간에서 가까워지도록 한다.
• 기존 관계에서 새로운 이벤트-이벤트 관계(예: 전후 관계인 이행성 관계)를 유도하기 위해 상징적 규칙 기반 추론 기반을 설계한다. 이는 온톨로지를 추가로 풍부하게 한다.
• 소수의 샘플 학습 설정과 온톨로지 임베딩 모듈을 통합하여 제로샷 및 소수의 샘플 설정에서의 이벤트 검출을 가능하게 한다.
• 딥 뉴럴 네트워크(BERT)와 온톨로지 규칙 기반 상징적 추론을 통합한 하이브리드 신경-상징 아키텍처를 설계하여 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 이벤트 유형 간 상호 유형 상관관계를 모델링하면 저자원 이벤트 검출 성능이 향상되는가?
• RQ2 온톨로지 기반 상관관계 전파를 통해 자료가 많은 이벤트 유형에서 자료가 적은 이벤트 유형으로 지식을 얼마나 효과적으로 전이할 수 있는가?
• RQ3 OntoED는 훈련 중에 볼 수 없었던 제로샷 이벤트 유형으로 얼마나 잘 일반화되는가?
• RQ4 상징적 규칙 기반 상관관계 추론은 이벤트 검출 모델의 강건성과 확장성에 어떻게 기여하는가?
• RQ5 저자원 환경에서 딥 러닝과 상징적 온톨로지 추론을 결합하면 순수 신경망 또는 순수 상징적 접근보다 더 나은 성능을 내는가?

주요 결과

• OntoED는 전체, 소수의 샘플, 제로샷 평가 설정에서 최신 기술 수준의 성능을 달성하며, 특히 저자원 환경에서 이전 방법들을 능가한다.
• 제거 실험에서 상관관계 추론을 제거하면 소수의 샘플 설정에서 F1 점수가 10.9% 하락함을 확인하여, 이는 지식 전이에 있어 상관관계 추론의 핵심적 역할을 입증한다.
• 제로샷 평가에서 상관관계 추론을 제거하면 F1 점수가 15.9% 하락함을 확인하여, 이는 새로운 유형으로의 일반화에 있어 상관관계 추론의 중요성을 강조한다.
• 상관관계 추론을 제거했을 때의 성능 저하(10.9% ↓)가 온톨로지 학습을 제거했을 때의 저하(6.6% ↓)보다 더 심각함을 통해 상관관계 모델링이 더 큰 영향을 미친다는 것을 입증한다.
• OntoED는 제로샷 검출에서 강력한 강건성을 보이며, 공유된 상관관계를 통해 기존 온톨로지 구조에 새로운 이벤트 유형을 연결함으로써 성공적으로 일반화한다.
• 모델의 성공은 상징적 규칙과 딥 러닝의 효과적인 통합 덕분이며, 의미적으로 관련된 이벤트 유형 간 지식 전파를 가능하게 한다.