[논문 리뷰] MojiTalk: Generating Emotional Responses at Scale

Xianda Zhou, William Yang Wang|arXiv (Cornell University)|2017. 11. 11.

Topic Modeling참고 문헌 25인용 수 16

한 줄 요약

이 논문은 트위터 데이터에서 자연스럽게 발생하는 이모티콘을 암묵적 감정 레이블로 활용하여 대규모로 감정적으로 표현력 있는 대화 응답을 생성하는 MojiTalk을 제안한다. 50만 개의 이모티콘 레이블이 부여된 트위터 대화 데이터를 기반으로 훈련된 강화된 조건부 변동형 오토에코더(CVAE) 모델은 특정 감정과 일치하는 고품질의 개성 있는 응답을 생성하며, 인간 평가에서 27%의 평가자가 기계가 생성한 응답과 인간이 작성한 응답을 구분하지 못해 우수한 인간 유사성 성능을 보였다.

ABSTRACT

Generating emotional language is a key step towards building empathetic natural language processing agents. However, a major challenge for this line of research is the lack of large-scale labeled training data, and previous studies are limited to only small sets of human annotated sentiment labels. Additionally, explicitly controlling the emotion and sentiment of generated text is also difficult. In this paper, we take a more radical approach: we exploit the idea of leveraging Twitter data that are naturally labeled with emojis. More specifically, we collect a large corpus of Twitter conversations that include emojis in the response, and assume the emojis convey the underlying emotions of the sentence. We then introduce a reinforced conditional variational encoder approach to train a deep generative model on these conversations, which allows us to use emojis to control the emotion of the generated text. Experimentally, we show in our quantitative and qualitative analyses that the proposed models can successfully generate high-quality abstractive conversation responses in accordance with designated emotions.

연구 동기 및 목표

• 신경 대화형 에이전트를 훈련하기 위한 대규모 수동 주석이 부여된 감정 응답 데이터셋의 부족 문제를 해결하기 위해.
• 이모티콘을 자연스러운 감정 레이블로 활용하여 고비용 수동 주석 없이 제어 가능한 감정 표현 응답 생성을 가능하게 하기 위해.
• 임의의 이모티콘 타겟에 조건화된 다양한, 개성 있는, 감정적으로 일관된 응답을 생성할 수 있는 신경 생성 모델을 개발하기 위해.
• 아마존 메카니컬 터크를 통해 자동 분류 및 인간 평가를 통한 생성 응답의 품질과 감정 정확성 평가를 수행하기 위해.

제안 방법

• 세부적인 이모티콘으로 레이블이 부여된 50만 개의 트위터 대화 쌍으로 구성된 대규모 데이터셋을 수집하며, 이모티콘을 기반 감정의 대리자로 간주한다.
• 기본 모델로 시퀀스-투-시퀀스 어텐션 메커니즘을 갖춘 조건부 변동형 오토에코더(CVAE)를 훈련하며, 생성 과정을 대상 이모티콘에 따라 조건화한다.
• 변동형 하한 경계(VLB)와 정책 그래디언트(강화 학습)를 조합한 하이브리드 훈련 목표를 적용하여 감정 표현력과 응답 품질을 향상시킨다.
• 생성된 응답의 감정 정확성을 자동으로 평가하기 위해 사전 훈련된 문장-이모티콘 분류기(DeepMoji)를 사용한다.
• 아마존 메카니컬 터크를 통해 인간 평가를 실시하여 모델 출력 결과를 기준선 seq2seq 모델과 비교하여 관련성과 감정 일치도를 평가한다.
• 생성된 응답의 인간 유사성을 평가하기 위해 단순화된 튜링 테스트를 수행하며, 인간 평가자가 기계가 생성한 출력을 인간이 작성한 것으로 잘못 식별하는 빈도를 측정한다.

실험 결과

연구 질문

• RQ1 소셜 미디어에서 자연스럽게 발생하는 이모티콘이 대규모 감정 응답 생성을 위한 약한 감독으로 효과적으로 활용될 수 있는가?
• RQ2 이모티콘 레이블에 조건화된 조건부 변동형 오토에코더가 대규모로 다양하고 개성 있으며 감정적으로 일관된 응답을 생성할 수 있는가?
• RQ3 제안된 모델의 성능은 관련성과 감정 정확성 측면에서 강력한 기준선 seq2seq 모델과 비교해 어떻게 다른가?
• RQ4 인간 평가 환경에서 생성된 응답이 얼마나 자주 인간이 작성한 텍스트로 오인되는가?

주요 결과

• 50만 개의 이모티콘 레이블이 부여된 트위터 대화 데이터를 기반으로 훈련된 제안된 MojiTalk 모델은 제어된 감정을 가진 고품질의 개성 있는 응답을 성공적으로 생성한다.
• 인간 평가 결과, 27%의 평가자가 기계가 생성한 응답과 인간이 작성한 응답을 구분하지 못해 높은 인간 유사성을 보였다.
• 모델는 강력한 감정 정확도를 달성하여 문장-이모티콘 분류기가 생성된 응답에서 목표 감정을 정확히 식별했다.
• 강화된 CVAE 모델은 인간 평가자들의 평가 결과 기준선 seq2seq 모델보다 관련성과 감정 일치도 측면에서 뛰어난 성능을 보였다.
• 모델는 응답 생성에서 다양성을 보였으며, 기준선 seq2seq 모델에서 관찰된 반복적인 패tern을 피했다.
• 강화된 CVAE는 길이 과잉 생성 문제를 약간 겪었지만, 자연스러움은 유지되었고, 하이퍼파라미터 튜닝에 대해 강건함을 보였다.