[논문 리뷰] Think Twice: A Human-like Two-stage Conversational Agent for Emotional Response Generation

Yushan Qian, Bo Wang외 6명|arXiv (Cornell University)|2023. 01. 12.

Topic Modeling인용 수 6

한 줄 요약

이 논문은 감정 주석이 없는 의미적으로 일관된 원형 응답을 먼저 생성한 후, 공감 기반 감정 검출에 의해 안내되는 제어 가능한 감정 보완기를 사용해 이를 개선하는 이단계적 대화형 에이전트를 제안한다. 이 방법은 대규모 감정 주석 데이터셋에 대한 의존도를 줄이며, 자동 평가 및 인간 평가 모두에서 기존 모델을 능가하는 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Towards human-like dialogue systems, current emotional dialogue approaches jointly model emotion and semantics with a unified neural network. This strategy tends to generate safe responses due to the mutual restriction between emotion and semantics, and requires rare emotion-annotated large-scale dialogue corpus. Inspired by the "think twice" behavior in human dialogue, we propose a two-stage conversational agent for the generation of emotional dialogue. Firstly, a dialogue model trained without the emotion-annotated dialogue corpus generates a prototype response that meets the contextual semantics. Secondly, the first-stage prototype is modified by a controllable emotion refiner with the empathy hypothesis. Experimental results on the DailyDialog and EmpatheticDialogues datasets demonstrate that the proposed conversational outperforms the comparison models in emotion generation and maintains the semantic performance in automatic and human evaluations.

연구 동기 및 목표

• 의존도가 높은 희귀 감정 주석 코퍼스에 의해 영향을 받는 엔드 투 엔드 감정 대화 모델의 한계를 해결하기 위해.
• ‘두 번 생각하기’인지 전략을 영감으로 삼아 의미 생성과 감정 보완을 분리함으로써 인간과 유사한 대화 행동을 모방하기 위해.
• 검출된 맥락적 감정에 기반해 ‘다시 작성하기’와 ‘추가하기’ 전략을 적용하는 제어 가능한 감정 보완기를 통해 감정 응답 품질을 향상시키기 위해.
• 첫 번째 단계 모델을 감정 주석이 없는 대화 데이터로 훈련시켜 대규모 감정 주석 데이터셋에 대한 의존도를 줄이기 위해.
• 공감 가설을 기반으로 맥락의 감정 상태와 일치하는 최종 감정을 설정함으로써 생성된 응답의 일관성과 공감 능력을 향상시키기 위해.

제안 방법

• 이중 단계 아키텍처: 첫 번째 단계는 감정 주석이 없는 대화 데이터에서 미세조정된 사전 훈련된 언어 모델을 사용해 원형 응답을 생성한다.
• 대화 감정 검출기가 이전 대화 문장들로부터 맥락적 감정 상태를 식별하며, 이는 개선 과정의 대상 감정으로 기능한다.
• 두 번째 단계는 두 모듈을 활용한다: ‘다시 작성하기’ 모듈은 원형 응답의 감정 어휘를 대상 감정에 맞게 수정하고, ‘추가하기’ 모듈은 감정적으로 표현력 있는 문장을 삽입한다.
• GLEU 점수를 기반으로 ‘다시 작성하기’와 ‘추가하기’ 모듈의 출력 중 최종 응답을 선택하여 유창성과 관련성 확보.
• 감정 보완기는 제어 가능한 생성 기법으로 훈련되어 핵심 의미를 유지하면서도 감정 톤을 동적으로 조정할 수 있도록 한다.
• 공감 가설은 전체 과정의 기반이다: 최종 응답의 감정이 맥락의 감정 상태와 일치하도록 설정되어 공감적 일관성을 확보한다.

실험 결과

연구 질문

• RQ1 의미 생성과 감정 보완을 분리하는 이단계적 접근 방식이 엔드 투 엔드 모델 대비 감정 응답의 품질을 향상시키는가?
• RQ2 '다시 작성하기'와 '추가하기' 전략을 기반으로 한 제어 가능한 감정 보완기의 사용이 감정 표현력 향상에 얼마나 효과적인가?
• RQ3 제안된 모델이 대규모 감정 주석 대화 코퍼스에 대한 의존도를 어느 정도 줄일 수 있는가?
• RQ4 공감 기반 감정 검출이 응답 감정과 맥락 감정 간의 일치도를 향상시키는가?
• RQ5 감정적으로 적절한 응답을 생성하면서도 높은 의미 일관성을 유지할 수 있는가?

주요 결과

• 제안된 이단계 대화형 에이전트는 DailyDialog 및 EmpatheticDialogues 데이터셋에서 자동 평가 및 인간 평가 모두에서 기존 모델을 능가한다.
• 인간 평가 지표로 확인된 바, 감정 생성 성능는 최신 기술 수준에 도달했으며, 의미적 관련성 또한 강력하게 유지된다.
• 주석이 없는 사전 훈련 단계의 활용으로 대규모 감정 주석 데이터셋에 대한 의존도가 크게 감소한다.
• GLEU 기반 선택기의 효과적인 작동으로 인해 ‘다시 작성하기’와 ‘추가하기’ 전략 간의 선택이 응답 품질 향상에 기여하면서도 유창성은 손상되지 않는다.
• 사례 연구 결과, 모델은 감정적으로 풍부하고 맥락적으로 일관된 응답을 생성하는 것으로 나타났으며, 예를 들어 중립적인 문장을 감정 표현을 추가함으로써 공감 어조로 전환하는 데 성공했다.
• 대화 감정 검출기가 맥락을 연결하거나 단일 문장을 분류하는 방법보다 우수한 성능을 보이며, 동적 감정 인식에서의 효과성을 입증했다.