[논문 리뷰] Supervised Neural Models Revitalize the Open Relation Extraction.

Shengbin Jia, E Shijia외 1명|arXiv (Cornell University)|2018. 09. 25.

Natural Language Processing Techniques인용 수 9

한 줄 요약

이 논문은 대규모 자동으로 주석 처리된 데이터셋을 사용하여 ORE를 순차 태깅 작업으로 프레임화함으로써, 감독형 신경 순차 태깅 모델을 제안한다. BiLSTM, CNN, CRF를 단어 및 품사 태깅 임베딩과 결합함으로써, 모델은 문맥, 공간적, 전역적 순차 정보를 포착하여, 여러 벤치마크에서 대부분의 패턴 기반 및 신경 기반 ORE 방법보다 뛰어난 성능을 보인다.

ABSTRACT

Open relation extraction (ORE) remains a challenge to obtain a semantic representation by discovering arbitrary relation tuples from the un-structured text. However, perhaps due to limited data, previous extractors use unsupervised or semi-supervised methods based on pattern matching, which heavily depend on manual work or syntactic parsers and are inefficient or error-cascading. Their development has encountered bottlenecks. Although a few people try to use neural network based models to improve the ORE task performance recently, it is always intractable for ORE to produce supervised systems based on various neural architectures. We analyze and review the neural ORE methods. Further, we construct a large-scale automatically tagging training set and design a tagging scheme to frame ORE as a supervised sequence tagging task. A hybrid neural sequence tagging model (NST) is proposed which combines BiLSTM, CNN and CRF to capture the contextual temporal information, local spatial information, and sentence level tag information of the sequence by using the word and part-of-speech embeddings. Experiments on multiple datasets show that our method is better than most of the existing pattern-based methods and other neural networks based models.

연구 동기 및 목표

• 수동 패턴이나 문법 분석기 의존도가 높은 비감독 및 준감독 ORE 방법의 한계를 극복하기 위해.
• 기존 패턴 기반 ORE 시스템에서 효율성 부족 및 오류 전파 문제를 해결하기 위해.
• 대규모 주석 처리된 데이터 부족으로 인해 구현이 어려웠던 감독형 신경 ORE 모델의 개발을 가능하게 하기 위해.
• 감독 학습을 위한 대규모 자동 주석 처리 훈련 데이터셋을 구축하기 위해.
• 문맥, 국소적, 전역적 순차 정보를 효과적으로 포착하는 하이브리드 신경 아키텍처를 설계하기 위해.

제안 방법

• 새로운 태깅 체계를 사용하여 대규모 자동 주석 처리 훈련 데이터셋을 구축하여, ORE를 감독형 순차 태깅 작업으로 프레임화하기 위해.
• 문맥, 국소적, 전역적 순차 표현을 공동 학습하는 하이브리드 신경 순차 태깅 모델(NST)을 설계하여 BiLSTM, CNN, CRF를 통합하기 위해.
• 순차 표현을 풍부하게 하기 위해 단어 임베딩과 품사(POS) 임베딩을 입력 특징으로 활용하기 위해.
• 입력 텍스트의 장거리 종속성과 순차적 문맥을 모델링하기 위해 BiLSTM를 사용하기 위해.
• 단어 및 POS 임베딩 시퀀스에서 국소적 n-그램 수준의 특징을 추출하기 위해 CNN를 적용하기 위해.
• 라벨 간 종속성을 모델링하고 전역적으로 일관된 순차 태깅을 보장하기 위해 위에 CRF 층을 통합하기 위해.

실험 결과

연구 질문

• RQ1 대규모 자동 주석 처리 데이터셋은 개방형 관계 추출을 위한 효과적인 감독 학습을 가능하게 하는가?
• RQ2 BiLSTM, CNN, CRF를 통합한 하이브리드 신경 순차 태깅 모델은 기존 패턴 기반 및 신경 기반 ORE 방법을 초월하는가?
• RQ3 단어 및 POS 임베딩은 감독형 순차 태깅 프레임워크 내에서 관계 추출 성능을 어느 정도 향상시키는가?
• RQ4 문맥, 국소적, 전역적 모델링 구성 요소의 통합은 ORE 작업에서 더 나은 일반화를 이끄는가?

주요 결과

• 제안된 감독형 신경 순차 태깅 모델은 대부분의 기존 패턴 기반 ORE 방법보다 뛰어난 성능을 달성한다.
• 모델은 여러 벤치마크 데이터셋에서 다른 신경망 기반 ORE 접근 방식보다 뛰어난 성능을 보인다.
• BiLSTM, CNN, CRF 구성 요소의 통합은 다양한 순차 정보를 포착함으로써 추출 정확도 향상에 기여한다.
• 자동 생성된 훈련 데이터의 사용은 수동 주석 처리 및 문법 분석기 의존도를 감소시킨다.
• 단어 및 POS 임베딩의 조합은 다양한 맥락에서 관계 튜플을 구분하는 데 모델의 능력을 향상시킨다.
• 순차 태깅 프레임워크는 엔드 투 엔드 학습을 가능하게 하며, 파이프라인 기반 접근 방식에서 흔히 발생하는 오류 전파를 방지한다.