[논문 리뷰] ECQED: Emotion-Cause Quadruple Extraction in Dialogs

Zheng Li, Donghong Ji외 6명|arXiv (Cornell University)|2023. 06. 06.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 대화에서 정서 및 원인 유형까지 포함한 엔드 투 엔드 정서-원인 4중추출을 위한 새로운 작업인 ECQED를 소개한다. 제안된 모델은 구조적이고 의미적인 이종 그래프(SSHG)와 병렬 격자 태깅을 사용하여 대화 맥락을 포착하고 겹치는 4중추출 문제를 해결하며, 9.21%의 F1 향상과 5 ROUGE 포인트의 공감적 응답 생성 향상으로 최신 기술 수준의 성능을 달성한다.

ABSTRACT

The existing emotion-cause pair extraction (ECPE) task, unfortunately, ignores extracting the emotion type and cause type, while these fine-grained meta-information can be practically useful in real-world applications, i.e., chat robots and empathic dialog generation. Also the current ECPE is limited to the scenario of single text piece, while neglecting the studies at dialog level that should have more realistic values. In this paper, we extend the ECPE task with a broader definition and scenario, presenting a new task, Emotion-Cause Quadruple Extraction in Dialogs (ECQED), which requires detecting emotion-cause utterance pairs and emotion and cause types. We present an ECQED model based on a structural and semantic heterogeneous graph as well as a parallel grid tagging scheme, which advances in effectively incorporating the dialog context structure, meanwhile solving the challenging overlapped quadruple issue. Via experiments we show that introducing the fine-grained emotion and cause features evidently helps better dialog generation. Also our proposed ECQED system shows exceptional superiority over baselines on both the emotion-cause quadruple or pair extraction tasks, meanwhile being highly efficient.

연구 동기 및 목표

• 기존 정서-원인 쌍 추출(ECPE)의 한계를 해결하기 위해 이를 대화 맥락으로 확장하고 세분화된 정서 및 원인 유형 레이블을 통합한다.
• 현재 ECPE 연구가 단일 텍스트 입력에만 집중함에 따라 대화 수준의 분석 부족 문제를 해결한다.
• 한 발언이 여러 정서의 원인이 될 수 있는 대화에서 흔히 발생하는 겹치는 4중추출 문제를 해결한다.
• 다단계 파ip라인 모델에서 흔히 발생하는 오류 전파 문제를 줄이기 위해 단일 통합 엔드 투 엔드 추출 프레임워크를 사용한다.
• 정서-원인 4중추출 정보가 공감적 대화 생성에 기여함을 입증한다.

제안 방법

• 대화에서 (정서 발언, 원인 발언, 정서 유형, 원인 유형) 4중추출을 수행하는 새로운 작업인 대화 내 정서-원인 4중추출(ECQED)을 제안한다.
• 화자 신원, 발언 순서, 응답 관계를 포함한 대화 구조를 모델링하기 위해 구조적이고 의미적인 이종 그래프(SSHG)를 구축한다.
• 모든 정서 유형에 대해 동시에 정서-원인 쌍을 추출하기 위해 병렬 격자 태깅 방식을 활용하여 겹치는 4중추출 문제를 효과적으로 처리한다.
• 화자 및 대화 수준의 표현을 SSHG에 통합하며, 화자 노드는 사전 정의된 임베딩으로 초기화하고 대화 노드는 발언 임베딩 평균을 통해 초기화한다.
• 다단계 파이프라인 모델에서 흔히 발생하는 오류 전파 문제를 방지하기 위해 엔드 투 엔드 통합 추출 프레임워크를 사용한다.
• 1,106개의 인간 레이블링 대화를 포함한 RECCON 데이터셋을 벤치마크로 활용한다.

실험 결과

연구 질문

• RQ1 정서 및 원인 유형 정보를 통합함으로써 생성된 대화 응답의 품질과 공감 능력이 향상되는가?
• RQ2 단일 텍스트 환경과 비교해 대화 맥락에서 겹치는 정서-원인 4중추출을 모델이 얼마나 효과적으로 처리하는가?
• RQ3 화자 신원, 발언 순서 등의 대화 구조를 모델링함으로써 4중추출 성능 향상에 어느 정도 기여하는가?
• RQ4 제안된 SSHG 및 병렬 격자 태깅 프레임워크가 기존의 파이프라인 또는 순차적 모델보다 ECQED에서 우수한 성능을 내는가?
• RQ5 4중추출에서 단계별 방법과 비교해 통합 추출 접근법이 오류 전파를 얼마나 줄이는가?

주요 결과

• 제안된 ECQED 모델은 ECPE 또는 RECCON에서 유도된 7개의 최신 기술 수준 기준 모델을 초월하는 최신 기술 수준의 성능을 달성한다.
• 구조적이고 의미적인 이종 그래프(SSHG)의 통합으로 기준 모델 대비 절대 F1 점수 9.21% 향상이 이루어졌다.
• 겹치는 4중추출에 대해 모델은 최고의 기준 모델 대비 F1 점수 6.35% 향상하여 복잡한 대화 구조 처리의 효과성을 입증했다.
• 정서 및 원인 유형 정보의 포함으로 공감적 대화 생성에서 ROUGE 점수 평균 5포인트 향상되었다.
• 절단 실험 결과, SSHG와 병렬 격자 태깅 모듈 모두 성능 향상에 기여하는 필수 구성 요소임을 확인했으며, 각각이 성능 향상에 기여했다.
• 사례 연구 결과, SSHG 없이 모델은 충분한 맥락과 화자 상태 추론가 부족해 정서 및 원인 유형을 정확히 예측하지 못함을 보였다.