[논문 리뷰] Affect-Driven Dialog Generation

Pierre Colombo, Wojciech Witoń외 3명|arXiv (Cornell University)|2019. 04. 04.

Topic Modeling참고 문헌 24인용 수 7

한 줄 요약

이 논문은 연속적인 정서 표현을 사용하여 정서적으로 제어된 응답을 생성하는 신경 대화 시스템인 EMOTICONS을 소개한다. 정서 임베딩, 정서 정규화 기법, 그리고 인간이 참여하는 재순서 정렬 프로세스를 통합함으로써, 기준 모델 대비 응답 다양성은 최대 52% 향상되고 BLEU 점수는 7.7% 향상되며, 문법적 정확성을 유지하면서도 정서적으로 적절한 출력에 대한 사용자 선호도가 높아진다.

ABSTRACT

The majority of current systems for end-to-end dialog generation focus on response quality without an explicit control over the affective content of the responses. In this paper, we present an affect-driven dialog system, which generates emotional responses in a controlled manner using a continuous representation of emotions. The system achieves this by modeling emotions at a word and sequence level using: (1) a vector representation of the desired emotion, (2) an affect regularizer, which penalizes neutral words, and (3) an affect sampling method, which forces the neural network to generate diverse words that are emotionally relevant. During inference, we use a reranking procedure that aims to extract the most emotionally relevant responses using a human-in-the-loop optimization process. We study the performance of our system in terms of both quantitative (BLEU score and response diversity), and qualitative (emotional appropriateness) measures.

연구 동기 및 목표

• 엔드 투 엔드 대화 시스템에서 명시적인 정서 제어의 부족으로 인해 중립적이거나 관련 없는 응답을 생성하는 문제를 해결하기 위해.
• 이산적인 정서 레이블이 아닌 연속적인 정서 표현(조절-각성-지배력)을 사용하여 정서적으로 풍부한 응답을 제어적으로 생성하기 위해.
• 문법적 정확성이나 일관성 손실 없이 응답 다양성과 정서적 적절성을 향상시키기 위해.
• 정량적 지표와 정성적 사용자 연구를 통한 정서 표현력과 사용자 선호도 평가를 통해 시스템 성능을 평가하기 위해.

제안 방법

• 응답 생성을 위해 게이트드 순환 단위(GRUs)와 어텐션 메커니즘을 사용하는 시퀀스 투 시퀀스 아키텍처를 사용한다.
• 정서 제어는 디코더에 삽입된 목표 정서의 연속 벡터 표현(VAD: 조절, 각성, 지배력)을 통해 달성된다.
• 학습 중에 중립적 단어를 페널티 처리하는 정서 정규화 기법을 통해 생성된 응답에서 정서 표현을 장려한다.
• 다중 디코딩 경로를 통해 정서적으로 관련 있는 단어를 생성하도록 유도함으로써 다양성을 증진시키는 새로운 정서 샘플링 방법을 도입한다.
• 추론 단계에서 인간이 참여하는 최적화 프로세스에 기반한 정서 분류기 피드백을 활용하여 가장 정서적으로 관련성이 높은 응답을 재순서 정렬하여 선택한다.
• 유창성과 정서적 관련성의 균형을 맞추기 위해 교차 엔트로피 손실과 정서 정규화를 조합하여 모델을 피지테이닝한다.

실험 결과

연구 질문

• RQ1 연속적인 정서 표현을 사용하여 신경 대화 시스템이 제어적으로 정서적으로 적절한 응답을 생성할 수 있는가?
• RQ2 정서 정규화 및 샘플링의 포함이 응답 다양성과 정서적 표현력에 어떤 영향을 미치는가?
• RQ3 사용자가 참여하는 재순서 정렬 프로세스가 생성된 응답의 정서적 관련성에 어느 정도 향상시키는가?
• RQ4 사용자들은 EMOTICONS가 생성한 응답의 문법적 정확성과 정서적 적절성에 대해 기준 모델 대비 어떻게 평가하는가?

주요 결과

• EMOTICONS는 기준 seq2seq 모델 대비 BLEU 점수를 최대 7.7% 향상시켜 응답의 자연스러움과 관련성 향상을 보였다.
• 기준 모델 대비 응답 다양성이 최대 52% 향상되어 정서 샘플링 및 정규화 기법의 효과를 입증했다.
• 사용자 선호도 연구에서 EMOTICONS는 96개 비교 중 37개에서 선호 응답으로 선택되어 기준 모델을 뚜렷이 능가했다.
• 모든 정서 유형에서 문법적 정확성이 유지되었으며, 어원어 사용자 평가 기준 79–84%의 응답이 문법적으로 정확하다고 평가되었다.
• 사용자 연구를 통해 EMOTICONS는 정서적으로 적절한 응답을 성공적으로 생성했으며, 평균 VAD 벡터가 의도한 정서와 매우 유사하게 나타났다. 특히 공포, 분노, 기쁨의 경우 높은 일치도를 보였다.
• 놀람을 표현하는 데에는 낮은 성능을 보였는데, 주로 사용자가 놀람과 기쁨을 혼동하기 때문이며, 이는 정서 인식 및 레이블링의 과제를 드러낸다.