[논문 리뷰] Improving Neural Relation Extraction with Positive and Unlabeled Learning

Zhengqiu He, Wenliang Chen외 4명|arXiv (Cornell University)|2019. 11. 28.

Natural Language Processing Techniques참고 문헌 21인용 수 5

한 줄 요약

이 논문은 신경 관계 추출을 위한 새로운 양성 및 미레이블(PU) 학습 프레임워크를 제안하며, 강화학습을 활용해 양성 문장을 선택하고, 백 단위에서 양성 및 미레이블 인스턴스를 함께 모델링한다. 관계 임베딩을 강화학습 상태에 통합하고, 양성 및 미레이블 백의 표현을 융합함으로써 실제 세계 데이터셋에서 강력한 기준 모델보다 뚜렷하고 일관된 성능 향상을 달성한다.

ABSTRACT

We present a novel approach to improve the performance of distant supervision relation extraction with Positive and Unlabeled (PU) Learning. This approach first applies reinforcement learning to decide whether a sentence is positive to a given relation, and then positive and unlabeled bags are constructed. In contrast to most previous studies, which mainly use selected positive instances only, we make full use of unlabeled instances and propose two new representations for positive and unlabeled bags. These two representations are then combined in an appropriate way to make bag-level prediction. Experimental results on a widely used real-world dataset demonstrate that this new approach indeed achieves significant and consistent improvements as compared to several competitive baselines.

연구 동기 및 목표

• 원거리 감독 기반 관계 추출에서의 노이즈가 있는 레이블 문제를 양성 및 미레이블 문장들을 활용하여 해결하고자 한다.
• 이전 연구에서 자주 기각되거나 잘못된 음성으로 간주되는, 미레이블 인스턴스를 완전히 활용하여 백 수준의 관계 분류 성능을 향상시키고자 한다.
• 문장, 관계, 그리고 이전에 선택된 양성 인스턴스의 임베딩을 포함한 상태 표현을 사용해 양성 문장을 선택하는 강화학습 에이전트를 설계하고자 한다.
• 양성 및 미레이블 백 표현을 통합하는 공동 표현 학습 메커니즘을 제안하여 관계 분류 성능을 향상시키고자 한다.
• 강화학습 상태 표현에 관계 임베딩을 통합하는 것의 효과와 PU 학습에서 미레이블 데이터를 사용하는 것이 관계 추출에 미치는 이점을 입증하고자 한다.

제안 방법

• 강화학습 에이전트는 문장 임베딩, 관계 임베딩, 이전에 선택된 양성 인스턴스의 임베딩를 포함한 상태 표현을 사용하여 각 실체-관계 쌍에 대해 문장을 양성 또는 미레이블로 분류하도록 훈련된다.
• RL 에이전트는 고품질의 양성 문장을 선택하여 양성 백을 구성하고, 나머지 문장들은 미레이블 백으로 묶는다.
• 양성 및 미레이블 백에 대해 별도의 인코더를 사용하여 두 개의 독립적인 신경 표현을 학습하여 각기 고유한 특성을 반영한다.
• 양성 및 미레이블 백의 표현을 연결하여 최종 분류기로 전달하여 백 수준의 관계 예측을 수행한다.
• 문장 선택기와 관계 분류기를 함께 훈련시켜 선택 정확도와 최종 관계 분류 성능를 모두 향상시킨다.
• 강화학습 상태 표현에 관계 임베딩을 명시적으로 통합하여 선택 과정을 안내하고, 모델 성능을 향상시킨다.

실험 결과

연구 질문

• RQ1 PU 학습 프레임워크에서 양성 및 미레이블 문장을 함께 모델링하면, 양성 인스턴스만을 사용하는 경우보다 관계 추출 성능이 향상되는가?
• RQ2 강화학습 에이전트의 상태 표현에 관계 임베딩을 통합하면 더 나은 문장 선택과 후속 관계 분류 성능를 달성하는가?
• RQ3 미레이블 문장을 음성 인스턴스로 간주하지 않고 처리할 경우, 성능 향상이 실제로 유의미한가?
• RQ4 강화학습 기반 선택기와 관계 분류기의 공동 훈련이 전체 시스템 성능에 어떤 영향을 미치는가?
• RQ5 적절히 표현되고 통합된 경우, 미레이블 데이터가 최종 관계 분류에 기여하는 정도는 어느 정도인가?

주요 결과

• 제안된 방법은 널리 사용되는 실제 세계 관계 추출 데이터셋에서 여러 강력한 기준 모델보다 뚜렷하고 일관된 성능 향상을 달성한다.
• 강화학습 상태 표현에 관계 임베딩을 통합하면, 추론 분석 및 그림 4와 5에서 보듯이 성능 향상이 뚜렷하게 나타난다.
• 미레이블 문장을 기각하거나 음성으로 간주하는 대신 훈련 과정에 포함시키면 일반화 성능이 향상되고 F1 점수가 높아진다.
• 추론 분석을 통해, 미레이블 데이터의 사용과 강화학습 상태 표현에 관계 임베딩를 포함시키는 것이 최적 성능 달성에 필수적임을 확인한다.
• 문장 선택기와 관계 분류기의 공동 훈련은 더 나은 정렬을 이끌어내고 최종 예측 정확도를 향상시킨다.
• 기존 방법들이 미레이블 데이터를 무시하거나 음성으로 잘못 분류하는 것에 비해, 제안된 PU 학습 전략이 유의미한 이점을 보여주며, 성능 우수성을 입증한다.