[논문 리뷰] Affect-LM: A Neural Language Model for Customizable Affective Text Generation

Sayan Ghosh, Mathieu Chollet외 3명|arXiv (Cornell University)|2017. 04. 22.

Topic Modeling참고 문헌 20인용 수 22

한 줄 요약

Affect-LM는 영향 카테고리와 사용자 정의 가능한 영향 강도 파rameter β를 조건으로 삼아 감정적으로 색깔이 도는 대화형 텍스트를 생성하는 새로운 LSTM 기반 신경 언어 모델이다. 이 모델은 평균 퍼플렉서티 감소율 1.94%를 기록하며 언어 모델링 성능을 향상시키고, 다섯 가지 영향 카테고리에서 문법적으로 올바르고 감정적으로 표현력 있는 문장을 생성한다. 이는 커뮤니티 기반의 인식 연구와 영향 구별 가능한 단어 임베딩을 통해 검증되었다.

ABSTRACT

Human verbal communication includes affective messages which are conveyed through use of emotionally colored words. There has been a lot of research in this direction but the problem of integrating state-of-the-art neural language models with affective information remains an area ripe for exploration. In this paper, we propose an extension to an LSTM (Long Short-Term Memory) language model for generating conversational text, conditioned on affect categories. Our proposed model, Affect-LM enables us to customize the degree of emotional content in generated sentences through an additional design parameter. Perception studies conducted using Amazon Mechanical Turk show that Affect-LM generates naturally looking emotional sentences without sacrificing grammatical correctness. Affect-LM also learns affect-discriminative word representations, and perplexity experiments show that additional affective information in conversational text can improve language model prediction.

연구 동기 및 목표

• 사용자 정의 가능한 감정 강도를 갖춘 감정적으로 표현력 있는 대화형 텍스트를 생성하는 신경 언어 모델을 개발하는 것.
• 문맥 단어로부터의 감정 정보가 언어 모델 예측 성능을 향상시키는지 조사하는 것.
• 감정적 표현력과 문법적 정확성 측면에서 생성된 문장의 인지 품질을 평가하는 것.
• 모델이 감정 의미를 반영하는 감정 구별 가능한 단어 표현을 학습하는지 탐구하는 것.

제안 방법

• 모델는 LIWC 사전를 사용한 키워드 스캐닝을 통해 유도된 추가적인 영향 카테고리 임베딩 벡터 et−1를 갖춘 LSTM 언어 모델을 확장한다.
• 사용자 정의 가능한 영향 강도 파rameter β는 생성된 텍스트의 감정 표현 강도를 제어한다.
• 모델는 문맥 히든 상태 ht와 영향 카테고리 임베딩 et−1를 사용하여 다음 단어 wt를 예측하며, 영향-단어 상관관계를 포괄하는 공유 출력 가중치 행렬 V를 사용한다.
• 모델는 Fisher 대화 코퍼스에서 훈련되고, DAIC, SEMAINE, CMU-MOSI 감정성 말 코퍼스에서 미세조정된다.
• 감정 카테고리는 LIWC 기반 키워드 스캐닝 시스템을 통해 문맥의 감정적으로 색깔이 도는 단어에서 자동으로 유추된다.
• 각 단어의 임베딩이 감정 카테고리를 반영하는지 평가하기 위해 단어 임베딩을 시각화한다.

실험 결과

연구 질문

• RQ1 Affect-LM는 사용자 정의 가능한 모델 파rameter β를 통해 목표 감정에 대해 다양한 정도의 영향 강도를 갖는 감정 문장을 생성할 수 있는가?
• RQ2 커뮤니티 기반 인식 연구에서 생성된 문장들이 감정적으로 표현력 있고 문법적으로 올바른 것으로 평가되는가?
• RQ3 문맥 단어로부터의 감정 카테고리 자동 유추가 퍼플렉서티 측정 기준으로 언어 모델링 성능 향상에 기여하는가?
• RQ4 Affect-LM에서 학습된 단어 표현이 감정 카테고리 간 감정 차이를 반영하는가?

주요 결과

• 아마존 메카니컬 터크에서 수행한 인식 연구는 Affect-LM가 β가 증가함에 따라 다섯 가지 감정 카테고리(행복, 슬픔, 분노, 불안, 긍정)에 대해 감정적으로 표현력 있는 문장을 생성함을 확인했다.
• 높은 β 값에서 문법적 정확도가 감소했지만 여전히 수용 가능했으며, 슬픔과 불안 카테고리에서 β=3일 때에만 유의미한 감소가 관찰되었다.
• Fisher 코퍼스에서 Affect-LM는 평균 퍼플렉서티 감소율 1.94% (73.98에서 72.54로)를 기록했고, 적응된 코퍼스에서는 1.31% (60.05에서 59.26로)를 기록하여 언어 모델링 성능 향상을 확인했다.
• Pillai의 Trace F(4,421)=6.44, p<.0001로 확인된 바와 같이, β에 의해 영향의 정서적 성향과 불안 수준이 유의미하게 조작됨을 확인했다.
• 그림 4에 시각화된 단어 임베딩은 긍정적 감정이 부정적 감정(슬픔, 분노, 불안)과 명확히 분리되어 클러스터링되어 있음을 보여주며, 감정 구별 가능한 학습을 확인한다.
• 감정 단어 밀도가 높은 코퍼스(예: CMU-MOSI 및 SEMAINE)에서 더 큰 퍼플렉서티 감소가 관찰되었으며, 각각 3.55점과 2.06점 감소를 기록했다.