[논문 리뷰] Emotional Neural Language Generation Grounded in Situational Contexts

Sashank Santhanam, Samira Shaikh|arXiv (Cornell University)|2019. 11. 25.

Topic Modeling참고 문헌 32인용 수 7

한 줄 요약

이 논문은 상황적 정서 레이블에 조건화된 미세조정된 GPT-2 언어 모델을 제안하여 대화형 AI에서 정서적으로 적절한 응답을 생성한다. 에피제틱 대화 데이터셋으로 미세조정함으로써, 이전 최고 성능 방법보다 5점 낮은 퍼플리티 및 더 높은 BLEU 점수를 달성하여 전이 학습을 통한 정서적 관련성과 응답 품질 향상을 입증한다.

ABSTRACT

Emotional language generation is one of the keys to human-like artificial intelligence. Humans use different type of emotions depending on the situation of the conversation. Emotions also play an important role in mediating the engagement level with conversational partners. However, current conversational agents do not effectively account for emotional content in the language generation process. To address this problem, we develop a language modeling approach that generates affective content when the dialogue is situated in a given context. We use the recently released Empathetic-Dialogues corpus to build our models. Through detailed experiments, we find that our approach outperforms the state-of-the-art method on the perplexity metric by about 5 points and achieves a higher BLEU metric score.

연구 동기 및 목표

• 대화의 맥락과 정서를 기반으로 신경 대화 응답 생성의 정서적 관련성을 향상시키기 위해.
• seq2seq 기반 대화 에이전트에서 일반적이고 지루한 응답의 한계를 해결하기 위해.
• 사전 훈련된 언어 모델을 정서 조건화된 대화 데이터로 미세조정함으로써 응답 품질 향상 여부를 조사하기 위해.
• 동일한 데이터셋에서 엔드 투 엔드 미세조정과 프롬프트 기반 조건화(예: 정서 접두어 추가) 방식을 비교하기 위해.

제안 방법

• 117M 파라미터를 가진 사전 훈련된 GPT-2 모델을 전이 학습을 통해 에피제틱 대화 데이터셋으로 미세조정한다.
• 특수 토큰을 사용해 입력 시퀀스에 정서 레이블을 접두어로 추가함으로써 언어 모델을 정서 레이블에 조건화한다.
• 빔 서치에서 관찰되는 반복성과 다양성 부족을 방지하기 위해 핵심 샘플링(nucleus sampling, p=0.9)을 사용하여 디코딩한다.
• PyTorch Transformers와 BPE 토크나이저를 사용해 단일 Titan V GPU에서 약 2시간 동안 훈련한다.
• 자동 평가 지표(BLEU, 퍼플리티)와 독해성, 일관성, 정서 적절성에 대한 인간 평가를 통해 성능을 평가한다.
• 미세조정 모델과 정서 접두어 모델의 두 변형을 비교하며, 성능에 대한 아블레이션 분석을 수행한다.

실험 결과

연구 질문

• RQ1 사전 훈련된 언어 모델을 정서 기반 대화 데이터로 미세조정하면 기준 seq2seq 모델 대비 응답 품질 향상이 가능한가?
• RQ2 동일한 데이터셋에서 정서 접두어 추가 방식으로 조건화한 모델이 엔드 투 엔드 미세조정 모델보다 더 좋은 성능을 내는가?
• RQ3 퍼플리티 및 BLEU와 같은 자동 평가 지표가 인간 평가의 정서 적절성 및 일관성과 얼마나 상관관계가 있는가?
• RQ4 큰 사전 훈련된 모델에서의 전이 학습이 더 작은 정서 특화 대화 데이터셋에서 성능 향상에 얼마나 기여하는가?
• RQ5 왜 미세조정 방식이 단순한 정서 접두어 추가 방식보다 정서적으로 적절한 응답 생성에서 더 우수한 성능을 내는가?

주요 결과

• 미세조정된 모델은 최고 성능 방법 대비 검증 세트에서 5점 낮은 퍼플리티를 기록하여 언어 모델링 성능 향상을 시사한다.
• 미세조정된 모델은 현재 최고 성능 방법보다 더 높은 BLEU 점수를 확보하여 생성 품질 향상을 입증한다.
• 인간 평가 결과, 미세조정된 모델은 독해성(4.14 vs. 3.54), 일관성(3.50 vs. 3.40), 정서 적절성(3.70 vs. 3.19) 전반에서 정서 접두어 모델을 압도한다.
• 참고 응답은 정서 적절성에서 최고 평가(4.00)를 기록하여, 미세조정된 모델이 정서 접두어 변형보다 인간 수준의 성능에 더 가까이 있음을 시사한다.
• 정서 접두어 모델은 구조적 단순성에도 불구하고 미세조정된 모델에 비해 성능이 열 劣함을 보이며, 이는 미세조정이 맥락-정서 의존성을 더 잘 포착함을 시사한다.
• 미래 연구를 위해 생성된 응답의 정서적 내용을 검증하기 위해 정서 분류를 생성 파ipeline에 통합할 필요성이 제기된다.