[논문 리뷰] Directed Acyclic Graph Network for Conversational Emotion Recognition

Weizhou Shen, Siyue Wu외 2명|arXiv (Cornell University)|2021. 05. 27.

Sentiment Analysis and Opinion Mining참고 문헌 32인용 수 14

한 줄 요약

이 논문은 화자 및 위치 제약 조건을 가진 간선을 갖는 방향성 비순환 그래프(DAG)로 표현된 대화 문맥을 모델링하는 새로운 DAG-ERC라는 방향성 비순환 그래프(DAG) 기반 신경망을 제안한다. 순환성과 그래프 기반 메시지 전파를 결합함으로써 DAG-ERC는 과도한 스무딩 없이 장거리 의존성을 포착하며, 네 가지 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성한다. 특히 화자 신원이 중요한 다중 화자 설정에서 뛰어난 성능을 보인다.

ABSTRACT

The modeling of conversational context plays a vital role in emotion recognition from conversation (ERC). In this paper, we put forward a novel idea of encoding the utterances with a directed acyclic graph (DAG) to better model the intrinsic structure within a conversation, and design a directed acyclic neural network, namely DAG-ERC, to implement this idea. In an attempt to combine the strengths of conventional graph-based neural models and recurrence-based neural models, DAG-ERC provides a more intuitive way to model the information flow between long-distance conversation background and nearby context. Extensive experiments are conducted on four ERC benchmarks with state-of-the-art models employed as baselines for comparison. The empirical results demonstrate the superiority of this new model and confirm the motivation of the directed acyclic graph architecture for ERC.

연구 동기 및 목표

• 대화 정서 인식을 위한 기존 그래프 기반 및 순환 기반 모델의 맥락 모델링 한계를 해결하기 위해.
• 그래프 모델링과 순차적 모델링의 장점을 통합한 새로운 DAG 기반 아키텍처를 제안하여 더 나은 맥락 표현을 달성하기 위해.
• 다중 화자 대화에서 화자 신원과 위치 제약 조건이 맥락 모델링에 미치는 영향을 조사하기 위해.
• DAG-ERC의 과도한 스무딩에 대한 내성과 정서 변화 및 유사 정서 오분류 처리 능력을 평가하기 위해.

제안 방법

• 화자 신원과 발화 위치를 제약 조건으로 사용하여 대화에서 방향성 비순환 그래프(DAG)를 구성한다.
• DAGNN을 백본으로 활용하여 단일 레이어에서 조상 노드로의 순환적 메시지 전파를 가능하게 하여 과도한 스무딩을 방지한다.
• 화자 신원을 인코딩하여 상호 화자 간 및 내부 화자 간 메시지 흐름을 구분하는 관계 인식 특징 변환을 도입한다.
• 각 발화의 역사적 맥락 표현을 향상시키기 위해 맥락 정보 유닛을 통합한다.
• 모든 조상 노드로부터의 정보 집합을 허용하는 단일 레이어 메시지 전파 메커니즘을 사용하여 깊은 스태킹 없이 장거리 맥락 인코딩을 가능하게 한다.
• 발화 인코딩에 RoBERTa를 사용하고, 네 개인 공개 ERC 벤치마크에서 전체 DAG-ERC 모델을 엔드 투 엔드로 미세조정한다.

실험 결과

연구 질문

• RQ1 기존 그래프 기반 또는 RNN 기반 방법보다 방향성 비순환 그래프(DAG) 구조가 정서 인식을 위한 대화 맥락 모델링에 더 효과적인가?
• RQ2 화자 신원과 위치 제약 조건을 통합할 경우 DAG 구축 및 모델 성능에 어떤 영향을 미치는가?
• RQ3 표준 GNN과 비교해 레이어 수를 늘일 때 DAG-ERC는 과도한 스무딩 문제를 완화하는가?
• RQ4 DAG-ERC는 정서 변화 및 유사 정서 오분류 처리에 얼마나 효과적인가?
• RQ5 관계 인식 특징 변환과 맥락 정보 유닛이 전체 성능에 기여하는 정도는 어떠한가?

주요 결과

• IEMOCAP 및 DailyDialog 데이터셋에서 DAG-ERC는 최신 기술 수준(SOTA) 성능을 달성했으며, 정서 변화가 없는 테스트 샘플에서 74.25%의 정확도, 정서 변화가 있는 샘플에서는 57.98%의 정확도를 기록했다.
• MELD 및 EmoryNLP에서 DAG-ERC는 SOTA 대비 약간의 성능 하락이 있었지만, 다중 화자 설정에서의 효과성을 입증했다.
• 화자 및 위치 제약 조건을 포함한 DAG 구조는 이러한 제약 조건이 없는 변형보다 유의미하게 뛰어난 성능을 보였으며, 이는 이러한 제약 조건의 중요성을 입증한다.
• IEMOCAP에서 1~12개 레이어에 걸쳐 안정적인 성능을 유지함으로써 DAG-ERC는 레이어 수 증가에도 불구하고 과도한 스무딩을 겪지 않는 것으로 나타났다.
• 제거 실험 결과, 노드 정보 유닛과 맥락 정보 유닛 모두 성능 향상에 기여하며, 둘을 함께 사용할 경우 가장 우수한 성능을 기록했다.
• 모델은 특히 유사 정서(예: 분노 vs 좌절, 기쁨 vs 흥분)를 구분하는 데 어려움을 겪으며, 중립 비율이 높은 데이터셋에서는 비중립 정서를 중립으로 잘못 분류하는 경향을 보였다.