[논문 리뷰] Decision support with text-based emotion recognition: Deep learning for affective computing

Bernhard Kratzwald, Suzana Ilić외 3명|arXiv (Cornell University)|2018. 03. 16.

Sentiment Analysis and Opinion Mining참고 문헌 65인용 수 18

한 줄 요약

이 논문은 의사결정 지원을 위한 정서 컴퓨팅에서 텍스트 기반 정서 인식을 향상시키기 위해 전이 학습을 활용한 순환 신경망(RNN)을 사용하는 딥러닝 접근법을 제안한다. 기존 방법에 비해 최대 21% 높은 F1-스코어와 6% 낮은 예측 오차를 기록하여 정서 분류 및 정서 강도 예측에서 뛰어난 성능을 입증한다.

ABSTRACT

Emotions widely affect the decision-making of humans and, hence, affective computing takes emotional states into account with the goal of tailoring decision support to individuals. However, the accurate recognition of emotions within narrative materials presents a challenging undertaking due to the complexity and ambiguity of language. Even though deep learning has evolved as the state-of-the-art in various tasks from text mining, its benefits with regard to affective computing are not yet understood. We thus propose the following innovations: (1) we adapt recurrent neural networks from the field of deep learning to affective computing. (2) We extend these networks for predicting the score of different affective dimensions. (3) We implement transfer learning for pre-training word embeddings. Analyzing the results, we find that deep learning consistently outperforms traditional machine learning with improvements of up to 21% in F1-score when labeling emotions and 6% in forecast errors when rating the intensity of emotions. Altogether, the findings have considerable implications for the use of affective computing in providing decision support.

연구 동기 및 목표

• 언어적 뉘앙스로 인해 복잡하고 모호한 서사 텍스트에서 정서를 정확하게 인식하는 데 도전하는 것.
• 특히 순환 신경망을 활용한 딥러닝 기법을 정서 컴퓨팅 분야에 적응시켜 정서 탐지 성능을 향상시키는 것.
• 정서 강도 및 밸런스와 같은 다중 정서 차원에 걸쳐 연속적인 점수를 예측하도록 RNN을 확장하는 것.
• 모델의 일반화 능력과 성능 향상을 위해 사전 학습된 단어 임베딩을 위한 전이 학습을 구현하는 것.
• 기존 기계 학습 방법과 비교하여 딥러닝의 효과성을 정서 컴퓨팅 작업에서 평가하는 것.

제안 방법

• 딥러닝에서 유도된 순환 신경망(RNN)이 텍스트 정서 데이터의 순차적 의존성을 모델링하는 데 사용된다.
• RNN 아키텍처가 정서 강도 및 밸런스와 같은 다중 정서 차원에 걸쳐 연속적인 점수를 예측하도록 확장되어 정교한 정서 강도 추정이 가능해진다.
• 대규모 텍스트 코퍼스를 사용하여 사전 학습된 단어 임베딩을 위해 전이 학습이 적용되어 정서 분류를 위한 표현 학습이 향상된다.
• 입력 시퀀스를 정서 차원 점수로 매핑하기 위해 서사 텍스트에서 엔드 투 엔드로 모델을 훈련시킨다.
• 정서 레이블링의 F1-스코어 및 강도 예측의 예측 오차와 같은 표준 지표를 사용해 성능을 평가한다.
• 딥러닝 모델과 기존 기계 학습 기반 모델 간의 비교 실험을 통해 상대적 성능 향상을 평가한다.

실험 결과

연구 질문

• RQ1 순환 신경망은 서사 텍스트에서 정서를 효과적으로 인식할 수 있으며, 기존 기계 학습 방법보다 뛰어난 성능을 보일 수 있는가?
• RQ2 단어 임베딩 사전 학습을 위한 전이 학습이 정서 인식 성능 향상에 얼마나 기여하는가?
• RQ3 딥러닝 모델은 정서 강도 및 밸런스와 같은 다중 정서 차원에 걸쳐 연속적인 점수를 얼마나 잘 예측할 수 있는가?
• RQ4 정서 컴퓨팅 작업에서 딥러닝 접근법이 기존 방법에 비해 F1-스코어와 예측 오차에서 얼마나 향상되는가?

주요 결과

• 딥러닝 모델은 기존 기계 학습 방법에 비해 정서 분류에서 최대 21% 높은 F1-스코어를 기록한다.
• 제안된 방법은 정서 강도 예측 시 예측 오차를 6% 감소시켜 회귀 성능 향상이 뚜렷하게 나타난다.
• 단어 임베딩 사전 학습을 위한 전이 학습이 모델 일반화 능력과 정확도 향상에 크게 기여한다.
• 확장된 RNN 아키텍처는 텍스트 내 순차적 패턴을 효과적으로 포착하여 다차원 정서 상태를 예측하는 데 성공했다.
• 정서 레이블링 및 강도 예측 작업 전반에 걸쳐 일관된 성능 향상이 관찰되어 본 접근법의 견고성을 입증한다.