[논문 리뷰] Constructing Emotion Consensus and Utilizing Unpaired Data for Empathetic Dialogue Generation

Lei Shen, Jinchao Zhang외 3명|arXiv (Cornell University)|2021. 09. 16.

Topic Modeling참고 문헌 41인용 수 5

한 줄 요약

이 논문은 감정 공감을 위한 이중 생성 모델인 Dual-Emp를 제안한다. 이 모델은 이산 잠재 변수를 통해 감정 일치를 모델링하면서, 전방(컨텍스트 → 응답) 및 후방(응답 → 컨텍스트) 대화 생성을 동시에 학습한다. 오픈 도메인 대화에서 수집한 쌍이 없는 감정 데이터를 활용해 가짜 레이블이 부여된 훈련 쌍을 생성함으로써, 감정 공감 대화 생성 성능을 향상시켰으며, EmpatheticDialogues 벤치마크에서 어휘성, 일관성, 공감 능력 측면에서 최신 기술 수준의 성능을 달성하였다.

ABSTRACT

Researches on dialogue empathy aim to endow an agent with the capacity of accurate understanding and proper responding for emotions. Existing models for empathetic dialogue generation focus on the emotion flow in one direction, that is, from the context to response. We argue that conducting an empathetic conversation is a bidirectional process, where empathy occurs when the emotions of two interlocutors could converge on the same point, i.e., reaching an emotion consensus. Besides, we also find that the empathetic dialogue corpus is extremely limited, which further restricts the model performance. To address the above issues, we propose a dual-generative model, Dual-Emp, to simultaneously construct the emotion consensus and utilize some external unpaired data. Specifically, our model integrates a forward dialogue model, a backward dialogue model, and a discrete latent variable representing the emotion consensus into a unified architecture. Then, to alleviate the constraint of paired data, we extract unpaired emotional data from open-domain conversations and employ Dual-Emp to produce pseudo paired empathetic samples, which is more efficient and low-cost than the human annotation. Automatic and human evaluations demonstrate that our method outperforms competitive baselines in producing coherent and empathetic responses.

연구 동기 및 목표

• 감정 공감 대화 생성에서 단방향 모델링의 한계를 해결하기 위해, 감정 공감을 컨텍스트에서 응답으로 향하는 한 방향의 흐름으로 간주하는 것을 방지한다.
• 감정 일치를 중심으로 하는 이중성 과정으로서의 감정 공감을 정식화하여, 화자와 청자가 감정적으로 공명하는 방식을 모델링한다.
• 쌍이 맞는 감정 공감 대화 데이터의 부족함을 해결하기 위해, 오픈 도메인 대화에서 수집한 대규모 쌍이 없는 감정 발언을 효과적으로 활용한다.
• 전방 및 후방 생성을 동시에 최적화하면서도, 이산 잠재 변수를 통해 공유된 감정 이해를 모델링하는 통합 생성 프레임워크를 개발한다.

제안 방법

• Dual-Emp는 단일 아키텍처 내에서 전방 대화 모델(컨텍스트 → 응답)과 후방 대화 모델(응답 → 컨텍스트)을 통합한다.
• 컨텍스트와 응답 간에 공유되는 감정 일치를 나타내기 위해 이산 잠재 변수 $ z_e $ 를 도입하여 고수준의 감정 일치를 포착한다.
• 감정 일치 $ z_e $ 는 감정 강화 주의 메커니즘을 통해 두 디코더에 모두 사용되어 공감 능력 있는 응답을 생성한다.
• Reddit와 Twitter에서 사전 학습된 32개 감정 클래스 분류기를 사용해 쌍이 없는 감정 데이터를 추출한 후, 이를 가짜 쌍 샘플 생성에 활용한다.
• 쌍이 맞는 데이터와 가짜 쌍 데이터를 모두 포함하는 공동 훈련 목표 함수를 사용하며, 노이즈가 있는 쌍이 없는 레이블에 대한 훈련 안정성을 높이기 위해 온도 조절 손실을 적용한다.
• 쌍이 맞는 데이터와 가짜 쌍 데이터에 대해 각각 다른 최적화 전략을 적용하여 효과적인 지식 전이를 가능하게 한다.

실험 결과

연구 질문

• RQ1 공유된 감정 일치를 갖는 이중성 과정으로서의 감정 공감을 모델링할 경우, 응답 생성 품질이 향상되는가?
• RQ2 쌍이 맞는 데이터가 제한적인 상황에서 쌍이 없는 감정 데이터를 활용할 경우, 감정 공감 대화 생성에 얼마나 효과적인가?
• RQ3 감정 일치를 위한 이산 잠재 변수를 통합할 경우, 더 일관성 있고 감정적으로 정확한 응답이 생성되는가?
• RQ4 쌍이 없는 데이터 레이블의 신뢰도 수준에 따라 모델 성능은 어떻게 변하는가?

주요 결과

• Dual-Emp는 EmpatheticDialogues 벤치마크에서 자동 평가 및 인간 평가 모두에서 경쟁 모델들을 능가하는 최신 기술 수준의 성능을 달성하였다.
• 모델은 32개 감정 카테고리 전반에서 감정 정확도를 향상시켰으며, 단방향 모델 대비 더 균형 잡힌 분포를 보였다.
• 인간 평가 결과, Dual-Emp는 MoEL, Emp-DG, MIME 등의 베이스라인 대비 더 유창하고 일관성 있으며 공감 능력이 뛰어난 응답을 생성하였다.
• 모델은 맥락에 적합한 응답을 생성하며, '일자리를 失했을 때'에서 '새로운 직장을 찾고 있다'는 것과 같은 미묘한 감정 변화도 정확히 식별하고 반영하였다.
• 쌍이 없는 발언에서 유도된 가짜 쌍 데이터는 노이즈가 있는 레이블이 있음에도 불구하고 모델 성능을 크게 향상시켰으며, 이는 데이터 증강 전략의 효과를 입증한다.
• 쌍이 없는 데이터의 양을 늘릴수록 성능 향상이 항상 이루어지는 것은 아니며, 이는 데이터 선택 시 레이블의 품질과 신뢰도가 핵심 요소임을 시사한다.