[논문 리뷰] DialogXL: All-in-One XLNet for Multi-Party Conversation Emotion Recognition

Weizhou Shen, Junqing Chen외 2명|arXiv (Cornell University)|2020. 12. 16.

Sentiment Analysis and Opinion Mining참고 문헌 24인용 수 17

한 줄 요약

이 논문은 다자간 대화 감정 인식을 위한 전용 XLNet 기반의 통합형 모델인 DialogXL을 소개한다. XLNet에 발화 수준의 순환성과 대화 인식 자기주의 어텐션을 통합하여 내·외부 발화자 간의 의존성을 효과적으로 포착한다. 계층적 아키텍처 없이도 장거리 맥락과 발화자 역할을 효과적으로 모델링함으로써 네 가지 ERC 벤치마크에서 최고 성능을 기록한다.

ABSTRACT

This paper presents our pioneering effort for emotion recognition in conversation (ERC) with pre-trained language models. Unlike regular documents, conversational utterances appear alternately from different parties and are usually organized as hierarchical structures in previous work. Such structures are not conducive to the application of pre-trained language models such as XLNet. To address this issue, we propose an all-in-one XLNet model, namely DialogXL, with enhanced memory to store longer historical context and dialog-aware self-attention to deal with the multi-party structures. Specifically, we first modify the recurrence mechanism of XLNet from segment-level to utterance-level in order to better model the conversational data. Second, we introduce dialog-aware self-attention in replacement of the vanilla self-attention in XLNet to capture useful intra- and inter-speaker dependencies. Extensive experiments are conducted on four ERC benchmarks with mainstream models presented for comparison. The experimental results show that the proposed model outperforms the baselines on all the datasets. Several other experiments such as ablation study and error analysis are also conducted and the results confirm the role of the critical modules of DialogXL.

연구 동기 및 목표

• 다자간, 다턴 대화의 감정 인식에서 XLNet과 같은 사전 훈련된 언어 모델의 한계를 해결하기 위해.
• 장거리 및 발화자 의존성의 포착에 있어 세그먼트 수준의 순환성과 일반 자기주의 어텐션의 제약를 극복하기 위해.
• 사전 훈련된 모델을 직접 적용할 수 있는 통합형 비계층적 프레임워크를 설계하기 위해.
• 발화 수준의 순환성과 대화 인식 자기주의 어テン션의 효과를 광범위한 추상화 및 오류 분석을 통해 검증하기 위해.

제안 방법

• 기존 XLNet의 세그먼트 수준 순환성을 발화 수준 순환성으로 대체하여 기억 저장소에 이전 발화의 은닉 상태를 저장하고 재사용함으로써 더 긴 맥락 모델링을 가능하게 하였다.
• 로컬, 글로벌, 발화자, 청취자 자기주의 어텐션의 네 가지 유형을 고려한 대화 인식 자기주의 어텐션을 도입하여 발화자 간 내·외부 의존성을 모델링하였다.
• 기존의 패딩 오버헤드를 줄이고 이전 발화 표현의 저장 효율성을 향상시키기 위해 메모리 메커니즘을 개선하였다.
• 복잡한 계층적 모델링을 피하기 위해 전체 대화를 하나의 입력 시퀀스로 처리하는 통합 아키텍처를 설계하였다.
• 외부 임베딩에 의존하지 않고, 직접 어텐션 계산에 발화자 역할 인식을 통합하였다.
• 감정 분류를 위한 엔드 투 엔드 미세조정을 통해 네 가지 공개 ERC 벤치마크에 모델을 적용하였다.

실험 결과

연구 질문

• RQ1 계층적 모델링 없이도 XLNet과 같은 사전 훈련된 언어 모델이 다자간 대화 감정 인식에 효과적으로 적용될 수 있는가?
• RQ2 장거리 대화 맥락 유지에 있어 발화 수준의 순환성은 세그먼트 수준의 순환성보다 어떻게 비교되는가?
• RQ3 내·외부 발화자 간 의존성을 모델링함으로써 대화 인식 자기주의 어텐션은 성능 향상에 어느 정도 기여하는가?
• RQ4 DialogXL의 개별 구성 요소(예: 발화자 vs. 청취자 어텐션)는 전체 성능에 어떻게 기여하는가?
• RQ5 모델의 실패 유형은 무엇이며, 어텐션 메커니즘만으로 감정 맥락을 신뢰성 있게 포착할 수 있는가?

주요 결과

• DialogXL은 네 가지 ERC 벤치마크에서 모든 베이스라인을 압도하며, IEMOCAP에서 F1 점수 65.94, DailyDialog에서 54.93의 최고 성능을 기록하였다.
• 추상화 분석 결과, 대화 인식 자기주의 어텐션의 어떤 구성 요소라도 제거할 경우 성능 저하가 심각하게 발생하였으며, 특히 청취자 자기주의 어텐션 제거 시 IEMOCAP에서 F1 점수가 3.07 포인트 감소하였다.
• 발화 수준의 순환성 메커니즘이 세그먼트 수준의 순환성 대비 메모리 패딩을 60% 이상 감소시켜 효율성과 맥락 유지 능력을 향상시켰다.
• 대화 인식 자기주의 어텐션은 IEMOCAP에서 발화자 역할 임베딩보다 2.63 F1 포인트 높은 성능을 기록하여 발화자 역학을 모델링하는 데서의 우수성을 입증하였다.
• 오류 분석 결과, 모델은 질문과 이전 발화 간 의미 유사성에 과도하게 민감하여 감정 변화 사례의 45%에서 잘못 분류되는 경향을 보였다.
• 감정 맥락의 변화가 발생할 경우 어텐션 메커니즘만으로는 잘못된 해석을 유도할 수 있으므로, 향후 연구에서는 보완적인 메커니즘이 필요하다는 점을 시사하였다.