[논문 리뷰] An Affect-Rich Neural Conversational Model with Biased Attention and Weighted Cross-Entropy Loss

Peixiang Zhong, Di Wang외 1명|arXiv (Cornell University)|2018. 11. 17.

Mental Health via Writing인용 수 10

한 줄 요약

이 논문은 전반적인 정서 차원인 밸런스(Valence), 각성(Arousal), 지배력(Dominance, VAD)을 고려한 영향력 있는 응답을 생성하는 엔드 투 엔드 신경 대화 모델인 Affect-Rich Seq2Seq(AR-S2S)를 제안한다. 이 모델은 VAD 단어 임베딩을 통합하고, 부정어와 강조어의 영향을 증폭시키기 위한 편향된 어텐션 메커니즘을 도입하며, 정서적으로 풍부한 단어 생성을 장려하기 위해 가중치가 부여된 크로스 엔트로피 손실 함수를 적용한다. 이로 인해 최신 기준 모델 대비 정서적 품질과 내용 면에서 뛰어난 인간 선호도를 달성한다.

ABSTRACT

Affect conveys important implicit information in human communication. Having the capability to correctly express affect during human-machine conversations is one of the major milestones in artificial intelligence. In recent years, extensive research on open-domain neural conversational models has been conducted. However, embedding affect into such models is still under explored. In this paper, we propose an end-to-end affect-rich open-domain neural conversational model that produces responses not only appropriate in syntax and semantics, but also with rich affect. Our model extends the Seq2Seq model and adopts VAD (Valence, Arousal and Dominance) affective notations to embed each word with affects. In addition, our model considers the effect of negators and intensifiers via a novel affective attention mechanism, which biases attention towards affect-rich words in input sentences. Lastly, we train our model with an affect-incorporated objective function to encourage the generation of affect-rich words in the output responses. Evaluations based on both perplexity and human evaluations show that our model outperforms the state-of-the-art baseline model of comparable size in producing natural and affect-rich responses.

연구 동기 및 목표

• 오픈 도메인 신경 대화 모델에서 정서적으로 풍부한 응답 생성의 부족을 해결하기 위해.
• 입력 문장에서 부정어와 강조어가 정서적 의미에 미치는 영향을 모델링하기 위해.
• 응답 생성 시 언어적 유창성을 유지하면서 정서적으로 표현력 있는 단어의 생성을 장려하기 위해.
• 정서적 풍부성와 문법적 정확성의 균형을 이루는 학습 목표를 개발하기 위해.
• 자동 평가 지표와 인간 선호도 연구를 통한 모델 성능 평가를 위해.

제안 방법

• 모델은 외부 코퍼스로부터 각 단어에 대해 밸런스, 각성, 지배력 점수의 트리플릿을 할당하는 VAD 기반 단어 임베딩 레이어를 Seq2Seq 아키텍처에 확장한다.
• 새로운 편향된 어텐션 메커니즘이 정서적으로 풍부한 단어, 특히 부정어와 강조어의 영향을 받는 단어를 우선적으로 고려하도록 동적으로 어텐션 가중치를 조정한다.
• 어텐션 메커니즘은 사용자, 전역, 局소 중요도 함수를 통합하여 정서적 단어의 영향력을 맥락에 따라 가중치를 매긴다.
• 가중치가 부여된 크로스 엔트로피 손실 함수를 도입하여 학습 중 정서적으로 풍부한 단어에 더 높은 손실 가중치를 할당함으로써 그들의 생성을 장려한다.
• 표준 크로스 엔트로피와 정서를 통합한 가중치가 부여된 크로스 엔트로피 목표를 조합하여 엔드 투 엔드로 모델을 훈련시킨다.
• 감도 분석을 통해 영향력 임베딩 강도(λ), 어텐션 편향(γ), 손실 가중치(δ) 등의 하이퍼파라미터를 조정한다.

실험 결과

연구 질문

• RQ1 신경 대화 모델은 언어적으로 유창하면서도 정서적으로 풍부한 응답을 생성할 수 있는가?
• RQ2 부정어와 강조어는 어떻게 효과적으로 모델링되어 정서 표현의 극성과 강도를 유지할 수 있는가?
• RQ3 임베딩 및 어텐션 메커니즘에 정서 지식을 통합함으로써 기준 모델 대비 응답 품질이 향상되는가?
• RQ4 가중치가 부여된 크로스 엔트로피 손실은 유창성 저하 없이 정서적으로 풍부한 단어의 생성을 향상시킬 수 있는가?
• RQ5 정서 강도, 어텐션 편향, 손실 가중치를 제어하는 하이퍼파라미터는 모델 성능에 어떤 영향을 미치는가?

주요 결과

• 인간 선호도 테스트에서 AR-S2S 모델은 최신 기준 모델 대비 내용 품질에서 25.0% 상대적 향상과 정서 품질에서 88.5% 상대적 향상을 달성했다.
• 인간 평가 결과, AR-S2S는 기준 모델보다 유의미하게 선호되었으며, 내용 품질과 정서 품질에 대해 각각 Kappa 점수 0.619 및 0.704를 기록했다.
• 정서적 목표를 추가한 후에도 퍼플렉서티가 유지되거나 약간 향상되어 언어적 유창성에 영향을 주지 않았다.
• 감도 분석 결과, 정서적 손실 가중치(δ)를 증가시킬수록 생성된 응답 내 정서적으로 풍부한 단어의 수가 지속적으로 증가함을 확인했다.
• λ와 γ의 중간 값에서 정서적으로 풍부한 단어의 수가 최고조합을 이루었으며, 이는 정서 강도와 디코딩 안정성 간의 최적 균형을 의미한다.
• 특히 어텐션의 국소 중요도 가중치에서, 모델은 광범위한 하이퍼파라미터 값에 대해 뛰어난 내성성을 보였다.