[논문 리뷰] More Data, More Relations, More Context and More Openness: A Review and Outlook for Relation Extraction

Xu Han, Tianyu Gao외 8명|arXiv (Cornell University)|2020. 04. 07.

Topic Modeling참고 문헌 129인용 수 41

한 줄 요약

관계 추출(RE) 방법에 대한 포괄적 리뷰로, 더 많은 데이터, 더 효율적인 학습, 더 복잡한 맥락, 그리고 더 큰 개방성을 포함한 네 가지 발전 방향과 도전 과제 및 향후 연구 방향을 제시한다.

ABSTRACT

Relational facts are an important component of human knowledge, which are hidden in vast amounts of text. In order to extract these facts from text, people have been working on relation extraction (RE) for years. From early pattern matching to current neural networks, existing RE methods have achieved significant progress. Yet with explosion of Web text and emergence of new relations, human knowledge is increasing drastically, and we thus require "more" from RE: a more powerful RE system that can robustly utilize more data, efficiently learn more relations, easily handle more complicated context, and flexibly generalize to more open domains. In this paper, we look back at existing RE methods, analyze key challenges we are facing nowadays, and show promising directions towards more powerful RE. We hope our view can advance this field and inspire more efforts in the community.

연구 동기 및 목표

• 패턴 기반 및 통계적 방법에서 신경망 모델에 이르기까지 관계 추출의 진화를 조망한다.
• 데이터 품질, 롱테일 관계, 맥락 복잡성, 오픈 도메인 확장 등 실제 RE에서의 핵심 도전과제를 식별한다.
• RE를 향상시키기 위한 네 가지 미래 방향을 제시한다: 더 많은 데이터, 효율적인 학습, 복합 맥락 처리, 오픈 도메인 개방성.

제안 방법

• 패턴 기반, 통계적, 신경망 접근 방식을 아우르는 기존 RE 문헌을 검토한다.
• 감독 학습, 원거리 감독, 샘플 적은 학습, 문서 수준 RE에서 데이터 세트, 벤치마크, 평가 트렌드를 요약한다.
• 실증 실험과 데이터 세트 분석을 뒷받침하여 네 가지 미래 방향을 분석한다.
• 경험적 증거와 재현을 위한 오픈 소스 도구 키트(OpenNRE)를 담아 두 가지 주요 도전과제를 강조한다.

실험 결과

연구 질문

• RQ1 현실 세계 시나리오에서 현재 RE 방법의 주요 한계는 무엇인가?
• RQ2 RE가 더 많은 데이터, 효율적인 학습, 복잡한 맥락, 오픈 도메인을 활용하여 견고성 및 확장성을 어떻게 개선할 수 있을까?
• RQ3 원거리 감독, 소수 샷, 문서 수준 RE가 오픈 도메인으로 확장될 때 어떤 도전과제가 발생하는가?
• RQ4 이 방향과 도전과제를 밝히는 가장 적합한 공개 데이터 세트와 도구는 무엇인가?

주요 결과

• 신경망 기반 RE 모델은 이전 방법들에 비해 성능을 크게 향상시켰지만 여전히 현실 세계의 복잡성에 직면한다.
• 원거리 감독은 라벨 노이즈를 도입하며, 이 노이즈를 완화하는 것이 강건한 추출에 매우 중요하다.
• 소수 샷 및 롱테일 관계는 표준 감독 RE를 넘는 효율적 학습과 도메인 전이 능력이 필요하다.
• 문서 수준의 맥락과 문장 간 추론은 많은 사실에 필수적이지만 아직 개발이 미진하다.
• 개방형 정보 추출(Open information extraction)과 관계 발견은 오픈 도메인 RE의 길을 열지만 표준화와 NOTA 처리 문제가 해결되지 않았다.
• 엔터티 이름과 텍스트 둘 다 RE 성능에 크게 기여하며, 현재 모델에서 이름만으로 텍스트를 능가하는 경우도 있다.