[논문 리뷰] Learning Emoji Embeddings using Emoji Co-occurrence Network Graph

Anurag Illendula, Manish Reddy Yedulla|arXiv (Cornell University)|2018. 06. 20.

Sentiment Analysis and Opinion Mining참고 문헌 23인용 수 9

한 줄 요약

이 논문은 147만 건의 이모지가 포함된 트윗에서 유저가 생성한 대규모 이모지 공존 네트워크를 구축하고, 네트워크 임베딩 모델을 적용하여 저차원 벡터 표현을 학습함으로써 이모지 임베딩을 학습하는 방법을 제안한다. 이 방법은 감성 분석에서 최신 기술 수준의 성능을 달성하며, 인간이 평가한 이모지 유사도와 강한 상관관계를 보이며, 공존 패턴을 의미적 및 정서적 유사도의 대체 지표로 활용하여 이전 방법들을 능가한다.

ABSTRACT

Usage of emoji in social media platforms has seen a rapid increase over the last few years. Majority of the social media posts are laden with emoji and users often use more than one emoji in a single social media post to express their emotions and to emphasize certain words in a message. Utilizing the emoji co-occurrence can be helpful to understand how emoji are used in social media posts and their meanings in the context of social media posts. In this paper, we investigate whether emoji co-occurrences can be used as a feature to learn emoji embeddings which can be used in many downstream applications such sentiment analysis and emotion identification in social media text. We utilize 147 million tweets which have emojis in them and build an emoji co-occurrence network. Then, we train a network embedding model to embed emojis into a low dimensional vector space. We evaluate our embeddings using sentiment analysis and emoji similarity experiments, and experimental results show that our embeddings outperform the current state-of-the-art results for sentiment analysis tasks.

연구 동기 및 목표

• 소셜 미디어에서의 이모지 공존 패턴이 의미 있는 이모지 임베딩을 학습하는 데 있어 강력한 특징으로 기능할 수 있는지 조사하기 위해.
• 감성 분석과 이모지 유사도와 같은 후행 NLP 작업을 위한 이모지 표현 학습을 향상시키는 도전 과제를 해결하기 위해.
• 실제 소셜 미디어 데이터에서 유도된 대규모 이모지 공존 그래프를 기반으로 확장 가능한 네트워크 임베딩 모델을 개발하기 위해.
• 감성 분류 및 이모지 유사도에 대한 골드 표준 벤치마크에서 학습된 임베딩의 효과성을 평가하기 위해.

제안 방법

• 147만 건의 이모지가 포함된 트윗 코퍼스에서 같은 트윗 안에 함께 나타나는 모든 이모지 쌍을 추출하여 대규모 이모지 공존 네트워크를 구축하기 위해.
• 이모지의 공존 네트워크 내에서의 구조적 역할에 기반해 저차원 벡터 표현을 학습하기 위해 네트워크 임베딩 모델(특히 node2vec)을 적용하기 위해.
• 직접 공존(1차)과 고차원 근접성(2차)을 고려한 두 가지 유형의 임베딩을 학습하여 다양한 수준의 의미 관계를 포착하기 위해.
• 학습된 이모지 임베딩을 사용하여 표준 벤치마크를 기반으로 감성 분류 및 이모지 유사도 작업에서 성능을 평가하기 위해.
• 기존 최신 기술 수준의 이모지 임베딩 방법(예: EmojiNet의 의미 임베딩 포함)과의 성능 비교를 수행하기 위해.
• 인간이 평가한 골드 표준 데이터와의 비교를 위해 스피어만 순위 상관관계를 활용하여 이모지 유사도 예측의 질을 평가하기 위해.

실험 결과

연구 질문

• RQ1 소셜 미디어 게시물에서의 이모지 공존이 의미 있는 이모지 표현을 학습하는 데 신뢰할 수 있는 신호로 기능할 수 있는가?
• RQ2 공존 네트워크에서 학습된 이모지 임베딩이 기존 방법 대비 감성 분석 성능 향상에 기여하는가?
• RQ3 인간이 평가한 순위 기반으로 측정했을 때, 학습된 임베딩이 이모지 간 의미 유사성을 얼마나 잘 포착하는가?
• RQ4 1차 근접성과 2차 근접성 중 어느 것이 이모지 의미를 더 잘 포착하는가?
• RQ5 EmojiNet의 외부 지식을 통합함으로써 공존 기반 임베딩 모델의 성능을 추가로 향상시킬 수 있는가?

주요 결과

• 제안된 이모지 임베딩은 감성 분석 작업에서 최신 기술 수준의 성능을 달성하였으며, 기존 SOTA 방법들을 능가하였다.
• 1차 임베딩은 골드 표준 이모지 유사도 순위와 74%의 스피어만 순위 상관관계를 보였으며, 인간의 인식과 강력한 일치를 보였다.
• 모델이 식별한 가장 유사한 이모지 쌍은 (🔥, 💥)로 유사도 점수 0.921을 기록하였으며, 이는 둘이 강렬함이나 흥분을 표현하는 데 공통적으로 사용된다는 점을 반영한다.
• 2차 임베딩은 66%의 상관관계를 기록하여 고차원 근접성이 의미 있는 의미 관계를 포착할 수 있음을 보여주었다.
• 모델은 (🔔, 🎉)처럼 축하 분위기에서 공통적으로 사용되는 이모지 쌍을 유사하게 인식함으로써 맥락적이고 정서적인 유사성을 성공적으로 포착하였다.
• 결과적으로, 트윗 내에서 공존하는 이모지들은 종종 유사한 감성을 공유하므로, 공존 패턴은 정서적 및 의미적 유사도의 강력한 대체 지표가 된다는 것이 제안된다.