[논문 리뷰] Incorporating Relation Paths in Neural Relation Extraction

Wenyuan Zeng, Yankai Lin외 2명|arXiv (Cornell University)|2016. 09. 23.

Topic Modeling참고 문헌 29인용 수 16

한 줄 요약

이 논문은 직접 문장 외에도 간접 추론 체인(중간 엔티티를 통해 유도된 관계)을 통합함으로써 관계 예측 성능을 향상시키는 PathNRE라는 신경 관계 추출 모델을 제안한다. 다단계 경로를 통해 관계적 의미를 모델링하기 위해 CNN을 사용하는 경로 기반 인코더를 활용함으로써, 강력한 기준 모델 대비 유의미하고 일관된 성능 향상을 달성하며, 특히 노이즈가 많은 조건에서도 뛰어난 내성과 효과성을 입증한다. 이는 제로샷 설정에서도 성능을 발휘한다.

ABSTRACT

Distantly supervised relation extraction has been widely used to find novel relational facts from plain text. To predict the relation between a pair of two target entities, existing methods solely rely on those direct sentences containing both entities. In fact, there are also many sentences containing only one of the target entities, which provide rich and useful information for relation extraction. To address this issue, we build inference chains between two target entities via intermediate entities, and propose a path-based neural relation extraction model to encode the relational semantics from both direct sentences and inference chains. Experimental results on real-world datasets show that, our model can make full use of those sentences containing only one target entity, and achieves significant and consistent improvements on relation extraction as compared with baselines. The source code of this paper can be obtained from https: //github.com/thunlp/PathNRE.

연구 동기 및 목표

• 기존의 신경 관계 추출 모델이 목표 엔티티가 모두 포함된 문장에만 의존하는 한계를 해결하기 위해.
• 중간 엔티티를 통해 유도된 추론 체인을 구성함으로써 목표 엔티티 중 하나만 포함된 문장을 활용하기 위해.
• 간접적인 관계 증거를 통합함으로써 원거리 감독에서의 노이즈에 대한 강인성을 향상시키기 위해.
• 학습된 경로 표현을 활용해 문장에서 함께 등장하지 않는 엔티티 간의 제로샷 관계 예측을 가능하게 하기 위해.

제안 방법

• 직접 문장과 간접 문장에서 문장 수준의 의미를 인코딩하기 위해 합성곱 신경망(CNNs)을 사용한다.
• 중간 엔티티의 체인을 기반으로 주어진 관계의 확률을 계산하는 관계 경로 인코더를 구축한다.
• 최종 예측을 위해 직접 문장의 표현과 유추된 경로의 표현을 가중치 기반 융합 기법으로 통합한다.
• 최대 풀링과 무작위 초기화(rand/max) 전략을 사용하여 특징 학습과 모델 일반화 능력을 향상시킨다.
• 원거리 감독 데이터에서 교차 엔트로피 손실을 사용해 모델을 엔드 투 엔드로 훈련한다.
• 다단계 추론 체인에서의 불확실성을 모델링하기 위해 소프트맥스를 적용하여 경로 기반 확률적 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 간접 관계 경로를 모델링하면 직접 문장 감독 외에도 신경 관계 추출 성능을 향상시킬 수 있는가?
• RQ2 추론 체인을 통합할 경우 원거리 감독에서 노이즈 수준이 증가함에 따라 모델의 강인성은 어떻게 변화하는가?
• RQ3 학습된 경로 표현은 문장에서 함께 등장하지 않는 관계에 대해 제로샷 관계 예측에 일반화될 수 있는가?
• RQ4 관계 상관관계를 포괄하는 경로 기반 특징은 단일 문장 특징에 비해 얼마나 더 우수한 성능을 보이는가?
• RQ5 모델은 확률적 경로 추론을 통해 불확실하거나 명시되지 않은 관계를 얼마나 잘 포착할 수 있는가?

주요 결과

• Path+rand/max 모델은 모든 테스트 설정에서 최고의 성능을 기록하며, 실제 세계 데이터셋에서 강력한 기준 모델을 압도한다.
• 노이즈 수준이 증가함에 따라 Path+rand/max는 동반 모델 대비 성능 저하가 유의미하게 적어 강인성을 입증한다.
• 제로샷 평가에서 Path+max 특징는 60.4%의 정확도를 기록하여 CNN+max(57.3%)와 CNN+rand(56.9%)를 모두 앞서며 뛰어난 일반화 능력을 입증한다.
• 사례 연구를 통해 모델은 '배우자'나 '공유 국경'과 같은 관계를 명시적으로 기재하지 않은 경우에도 간접 추론 체인을 통해 정확히 예측함을 확인했다.
• 소프트맥스 기반 경로 확률 추정을 통해 다단계 추론에서의 불확실성을 효과적으로 포착하여 모호한 경우에도 신뢰할 수 있는 예측을 가능하게 했다.
• 결과적으로 경로를 따라 관계 상관관계를 모델링할 경우 단일 문장 인코딩만으로는 달성할 수 없는 더 정보가 풍부하고 이식 가능한 특징을 도출할 수 있음을 검증했다.