[논문 리뷰] Complex Relation Extraction: Challenges and Opportunities

Haiyun Jiang, Qiaoben Bao외 4명|arXiv (Cornell University)|2020. 12. 09.

Topic Modeling참고 문헌 23인용 수 4

한 줄 요약

이 논문은 전통적인 이항 관계 추출을 초월하여 복잡한 관계 추출(CRE) 작업에 대한 종합적인 설문 조사를 제공하며, 핵심 과제와 기회를 규명한다. 이는 소수의 샘플, 문서 수준, 다국어, 다중 모odal, N-항, 다중 해상도, 조건부, 내재된, 겹치는 관계 추출과 같은 새로운 작업들을 분류하고 분석하며, 각 작업의 정의, 최근 진전, 핵심 과제, 향후 연구 방향을 강조한다.

ABSTRACT

Relation extraction aims to identify the target relations of entities in texts. Relation extraction is very important for knowledge base construction and text understanding. Traditional binary relation extraction, including supervised, semi-supervised and distant supervised ones, has been extensively studied and significant results are achieved. In recent years, many complex relation extraction tasks, i.e., the variants of simple binary relation extraction, are proposed to meet the complex applications in practice. However, there is no literature to fully investigate and summarize these complex relation extraction works so far. In this paper, we first report the recent progress in traditional simple binary relation extraction. Then we summarize the existing complex relation extraction tasks and present the definition, recent progress, challenges and opportunities for each task.

연구 동기 및 목표

• 기존의 이항 관계 추출을 초월하는 복잡한 관계 추출(CRE) 작업을 체계적으로 설문 조사하고 분류하는 것.
• 각 CRE 하위 작업의 진전을 저해하는 핵심 과제를 규명하고 분석하는 것, 예를 들어 데이터 부족, 구조적 복잡성, 조건 모델링 등.
• 특히 소수의 샘플, 다중 모달, 내재된, 겹치는, 조건부 관계 추출에서 아직 탐색되지 않은 연구 기회를 부각하는 것.
• 단순한 이항 관계 추출에서 더 복잡하고 현실 적용 가능한 관계 추출 작업으로의 진화를 이해하기 위한 통합 프레임워크를 제공하는 것.
• 최근 진전, 열린 문제, 그리고 단순한 BiRE에서 복잡한 CRE 작업으로의 방법 전이 가능성 요약을 통해 향후 연구를 이끌어내는 것.

제안 방법

• 복잡한 관계 추출을 소수의 샘플, 문서 수준, 다국어, 다중 모달, N-항, 다중 해상도, 조건부, 내재된, 겹치는 관계 추출의 아홉 가지 별도의 하위 작업으로 분류한다.
• 각 하위 작업에 대한 기존 접근 방식을 검토하며, 패턴 기반 방법, 신경망(예: BERT, Transformers), 복사 메커니즘을 갖춘 엔드 투 엔드 모델을 포함한다.
• 복잡한 종속성, 암시적 참조, 구조적 모호성, annotation 데이터 부족 등의 과제를 사례 연구와 이전 연구를 통해 분석한다.
• 정의적 복잡성, 입력 모odal, 구조적 제약 조건을 기반으로 CRE 작업의 분류 체계를 제안한다.
• 감독 학습, 준감독 학습, 거리 감독 학습 기반의 이항 관계 추출 기술이 복잡한 CRE 환경으로 전이 가능한지 평가한다.
• 겹치는 엔티티 쌍 처리 및 자유 텍스트 내 조건부 제약 조건 모델링과 같은 핵심 아키텍처 및 학습 과제를 규명한다.

실험 결과

연구 질문

• RQ1 왜 기존의 이항 관계 추출의 한계가 복잡한 관계 추출 작업의 개발이 필요하게 만들었는가?
• RQ2 소수의 샘플, 문서 수준, 다국어, 다중 모달 관계 추출 등의 다양한 복잡한 관계 추출 작업은 정의, 과제, 현재 방법론적 접근에서 어떻게 다를까?
• RQ3 조건부 및 내재된 관계 추출에서 핵심적인 기술적 과제와 데이터 관련 과제는 무엇이며, 기존 모델로는 왜 이를 해결하기 어려운가?
• RQ4 겹치는 관계 추출은 표준 이항 관계 추출과 어떻게 다를까? 지식 그래프 구축에서 겹치는 관계를 간과할 경우 어떤 영향을 미칠까?
• RQ5 기존의 이항 관계 추출 기술이 복잡한 관계 추출 작업에 얼마나 적응 가능한가?

주요 결과

• 복잡한 관계 추출 작업은 특히 저자원 환경, 다중 문장 맥락, 복잡한 의미적 구조를 다루는 데에 한계를 가진 기존의 이항 관계 추출을 보완하기 위해 등장했다.
• 소수의 샘플 관계 추출은 거리 기반 학습과 메타 학습을 통해 유망한 성과를 보이고 있으나, 여전히 데이터 부족이 주요 과제이다.
• 문서 수준, 다국어, 다중 모달 관계 추출은 점점 인기를 끌고 있지만, 대규모 annotation 데이터셋 부족과 복잡한 종속성 모델링 문제로 어려움을 겪고 있다.
• N-항 및 다중 해상도 관계 추출은 지식 기반 구축과 질의 응답에 핵심적이지만, 현재 모델들은 전체 관계 맥락을 포착하지 못하는 경향이 있다.
• 조건부 관계 추출은 조건 표현의 형식화 부족과 annotation 데이터 부족으로 인해 개발이 부진한 편이지만, 시간적 및 공간적 추론에 있어 중요성이 높다.
• 겹치는 관계 추출은 엔티티 경계의 모호성과 엔티티 쌍당 다중 관계로 인해 특히 도전적이며, 최근의 CopyR 및 계층적 강화 학습 프레임워크와 같은 모델들이 초도 성공을 거두고 있다.