[논문 리뷰] Tweet Insights: A Visualization Platform to Extract Temporal Insights from Twitter

Daniel Loureiro, Kiamehr Rezaee외 5명|arXiv (Cornell University)|2023. 08. 04.

Complex Network Analysis TechniquesPhysics and Astronomy인용 수 3

한 줄 요약

이 논문은 2018–2022년 동안 2억 2천만 건의 영어 트윗에서 시간적 언어적 통찰을 추출하는 시각화 플랫폼인 Tweet Insights를 소개한다. 이 플랫폼은 사전 계산된 단어 빈도, 임베딩 유사도, 감성, 주제 분포의 시계열 데이터를 활용한다. 정교하게 튜닝된 언어 모델과 단어 임베딩을 활용해, 영화 개봉이나 정치적 사건과 같은 이벤트와 연관된 의미의 변화를 단순한 인기 추세를 넘어서 탐지할 수 있다.

ABSTRACT

This paper introduces a large collection of time series data derived from Twitter, postprocessed using word embedding techniques, as well as specialized fine-tuned language models. This data comprises the past five years and captures changes in n-gram frequency, similarity, sentiment and topic distribution. The interface built on top of this data enables temporal analysis for detecting and characterizing shifts in meaning, including complementary information to trending metrics, such as sentiment and topic association over time. We release an online demo for easy experimentation, and we share code and the underlying aggregated data for future work. In this paper, we also discuss three case studies unlocked thanks to our platform, showcasing its potential for temporal linguistic analysis.

연구 동기 및 목표

• 트위터의 노이즈가 많고 비공식적이며 동적인 특성으로 인해 장기적이고 대규모 언어적 변화를 분석하는 데 도전하는 데에 대비하기 위해.
• 기본적인 빈도 수치를 넘어서 단어 수준 통계의 실시간 시간적 분석을 비전문가 사용자가 접근할 수 있는 도구를 제공하기 위해.
• 감성, 주제, 임베딩 등 다양한 NLP 신호를 통합함으로써 트렌드 이벤트와 연관된 의미 변화 탐지 기능을 제공하기 위해.
• 재현 가능성을 높이고 향후 계산 사회과학 및 NLP 분야의 연구를 지원하기 위해 공개된 데모, 코드, 집계 데이터를 배포하기 위해.

제안 방법

• 2018–2022년 기간 동안 트위터 학술 API를 통해 2억 2천만 건의 영어 트윗을 수집하였으며, 재트윗, 미디어 포함 트윗, 콘텐츠가 풍부하지 않은 게시물을 제외하였다.
• 비검증 사용자 언급을 익명화하고 URL을 제거한 후, NLTK의 TweetTokenizer를 사용해 토크나이징하였다.
• 통계적 공존 점수(Mikolov 등, 2013)를 활용해 n-그램(일반형, 이중형, 삼중형)을 식별하였으며, 낮은 빈도나 노이즈가 많은 어구를 걸러내기 위해 임계값을 설정하였다.
• 시간 간격에 걸쳐 단어 의미의 변화를 포착하기 위해, 미세조정된 BERT 기반 모델을 사용해 역사적 단어 임베딩을 계산하였다.
• 감성 분류를 위해 미세조정된 RoBERTa 모델을 적용하여, 각 단어에 대해 시간 시계열 기반의 감성 점수를 생성하였다.
• 주제 모델링 기법(LDA 또는 유사한 방법)을 사용해 시간에 따라 변화하는 주제 분포를 각 단어와 연관지어 추출하였다.

실험 결과

연구 질문

• RQ1 트위터에서 단어 빈도 급증이 단순한 인기 이벤트가 아니라 의미 변화와 관련이 있는 정도는 어느 정도인가?
• RQ2 영화 개봉이나 선거와 같은 고영향력 문화적 또는 정치적 사건에 대해 단어 임베딩과 주제 분포는 어떻게 변화하는가?
• RQ3 감성과 주제 신호는 일시적인 인기와 지속적인 의미 변화를 구분하는 데에 얼마나 유용한가?
• RQ4 기존 도구인 구글 트랜드가 다면적 NLP 분석에 비해 미세한 의미 변화를 얼마나 잘 포착하지 못하는가?
• RQ5 트렌드 이벤트가 단어 의미에 장기적으로 미치는 영향은 임베딩 유사도와 주제 지배도 측정을 통해 어떻게 드러나는가?

주요 결과

• 'parasite'라는 단어는 2020년 2월 영화 *Parasite*의 개봉 이후 급격한 빈도 급증을 보였으며, 이는 이전 의미 프로파일과의 코사인 거리가 크게 증가함으로써 의미적 연관성의 일시적 변화를 나타내었다.
• 'parasite'의 감성 점수는 오스카 시즌 동안 상승했지만, 몇 달 내로 기준 수준으로 회복되었으며, 이는 단어가 원래의 부정적 의미(병원균)로 되돌아갔음을 반영한다.
• 오스카 시상 기간 동안 'parasite'의 주제 분포는 '뉴스 및 사회적 우려'에서 '영화 TV 및 영상'으로 일시적으로 이동했으며, 이는 문화적 사건이 의미 변화의 원인임을 확인한다.
• 'folklore'의 경우, 코사인 거리가 지속적으로 증가하고 주제 카테고리가 '음악'으로 영구적으로 전환된 것으로 관찰되어, 인기 급상승이 일시적이더라도 의미 변화가 지속됨을 시사한다.
• 'macron'은 2022년 프랑스 대선 기간에 정점에 이르렀지만, 임베딩 유사도, 감성, 주제 분포에 유의미한 변화가 관찰되지 않아, 높은 노출에도 불구하고 의미 변화가 없음을 나타낸다.
• 플랫폼은 빈도, 감성, 주제, 임베딩 신호를 통합함으로써 일시적이고 지속적인 의미 변화를 성공적으로 탐지하였으며, 빈도 기반 지표만을 사용하는 것보다 다모달 시간 분석의 가치를 입증하였다.