[논문 리뷰] Dialogue Relation Extraction with Document-level Heterogeneous Graph Attention Networks

Hui Chen, Pengfei Hong외 3명|arXiv (Cornell University)|2020. 09. 10.

Topic Modeling인용 수 13

한 줄 요약

이 논문은 대화 관계 추출을 위한 이종 그래프 어텐션 네트워크(HGAT)를 제안한다. 이는 통합된 그래프 구조에서 화자, 개체, 발화, 유형 정보를 모델링한다. 이종 노드 간의 다단계 메시지 전파를 활용하여 장거리 종속성과 화자 간 관계를 포착하며, DialogRE 벤치마크에서 테스트 세트에서 매크로-F1이 56.1%로 최신 기술을 초월하는 성능을 달성한다.

ABSTRACT

Dialogue relation extraction (DRE) aims to detect the relation between two entities mentioned in a multi-party dialogue. It plays an important role in constructing knowledge graphs from conversational data increasingly abundant on the internet and facilitating intelligent dialogue system development. The prior methods of DRE do not meaningfully leverage speaker information-they just prepend the utterances with the respective speaker names. Thus, they fail to model the crucial inter-speaker relations that may give additional context to relevant argument entities through pronouns and triggers. We, however, present a graph attention network-based method for DRE where a graph, that contains meaningfully connected speaker, entity, entity-type, and utterance nodes, is constructed. This graph is fed to a graph attention network for context propagation among relevant nodes, which effectively captures the dialogue context. We empirically show that this graph-based approach quite effectively captures the relations between different entity pairs in a dialogue as it outperforms the state-of-the-art approaches by a significant margin on the benchmark dataset DialogRE. Our code is released at: https://github.com/declare-lab/dialog-HGAT

연구 동기 및 목표

• 기존 대화 관계 추출 방법의 한계를 해결하기 위해 화자 정보를 효율적으로 활용하지 못하고 화자 간 관계를 모델링하지 못하는 문제를 해결한다.
• 공식 문서보다 더 복잡하고 정보 밀도가 낮은 대화 텍스트에서 장거리 종속성 학습을 향상시키기 위해 노력한다.
• 비용이 많이 드는 행렬 연산 없이도 새로운 대화 그래프에 일반화할 수 있는 인덕티브이자 경량의 그래프 신경망을 개발한다.
• 다자 대화에서 관계 추론을 위한 핵심 신호로 화자 신원과 트리거 단어를 통합한다.

제안 방법

• 화자, 개체, 개체 유형, 발화를 나타내는 노드로 구성된 이종 그래프를 구축하며, 의미적 및 문법적 관계로 연결한다.
• 특정 메타패스 순서(발화 → 유형 → 개체 → 발화)에 따라 다양한 노드 유형 간에 컨텍스트를 전파하는 다층 그래프 어텐션 메커니즘을 적용한다.
• 노드 표현을 반복적으로 업데이트하기 위해 다섯 단계의 메시지 전달 전략(A-B-C-D-A)을 사용하여 장거리 컨텍스트 학습을 강화한다.
• 메시지 전달 중 이웃 노드의 중요도를 동적으로 가중치를 부여하는 어텐션 메커니즘을 활용하여 표현 학습을 향상시킨다.
• 인덕티브이자 비용이 많이 드는 행렬 연산을 피하는 이종 그래프 모듈을 설계하여 새로운 그래프로의 일반화를 가능하게 한다.

Figure 1: An example adapted from DialogRE dataset. Words with red and blue background represent subject and object entities. Words with yellow background represent triggers that facilitate the relation inference. Solid and dash lines stand for intra- and inter-utterance relations.

실험 결과

연구 질문

• RQ1 대화 관계 추출에서 화자 정보를 효과적으로 모델링하여 관계 추론 성능을 향상시킬 수 있는가?
• RQ2 다양한 노드 유형 간 전파를 갖는 이종 그래프 신경망이 기존 방법보다 대화 관계 추출에서 뛰어난 성능을 낼 수 있는가?
• RQ3 대화에서 장거리 종속성을 포착하기 위해 메시지 전달 메커니즘의 최적의 깊이와 구조는 무엇인가?
• RQ4 개체 유형 편향이 모델 예측에 미치는 영향은 무엇이며, 다중 소스 컨텍스트 집약을 통해 이를 완화할 수 있는가?

주요 결과

• 제안된 HGAT 모델은 DialogRE 벤치마크의 테스트 세트에서 매크로-F1 점수 56.1%를 기록하여 최신 기술을 크게 앞서 간다.
• 제거 실험 결과, 단일층 그래프 모듈은 성능이 열악하게 나타나(48.4% F1) 깊은 메시지 전달이 복잡한 종속성을 포착하는 데 필수적임을 입증한다.
• 일곱 단계 모듈(전략2)은 다섯 단계 모델 대비 테스트 세트에서 성능이 1.7% 저하되었으며, 깊이 증가가 과도하게 노드 표현을 평균화시켜 성능 저하를 유도할 수 있음을 시사한다.
• 아홉 단계 모듈(전략3)은 가장 큰 성능 저하(52.2% F1)를 보이며, 너무 복잡한 구조가 모델 성능을 떨어뜨린다는 것을 확인한다.
• 오류 분석 결과, 다른 컨텍스트 신호가 약할 경우 개체 유형 편향이 잘못된 예측을 유도하며, 특히 'per:alumni'와 같은 희귀 관계에서 두드러진다.

Figure 2: An overview of the proposed model.