[論文レビュー] Monitoring Depression Trend on Twitter during the COVID-19 Pandemic

Yipeng Zhang, Hanjia Lyu+4 more|arXiv (Cornell University)|Jul 1, 2020

Mental Health via Writing参考文献 34被引用数 29

ひとこと要約

本研究では、COVID-19パンデミック期における抑うつ傾向の変化を監視するため、2,575名のユーザーが特定された、公開可能な最大規模の英語圏Twitter抑うつデータセットを紹介し、BERT、RoBERTa、XLNetといったトランスフォーマー基盤モデルを用いて分析を行った。心理的特徴量と人口統計的データを深層学習と組み合わせることで分類精度が向上し、集団レベルおよび人口レベルの分析において、特にパンデミックの重要な出来事の時期に抑うつ信号が上昇していることが明らかになった。

ABSTRACT

The COVID-19 pandemic has severely affected people's daily lives and caused tremendous economic loss worldwide. However, its influence on people's mental health conditions has not received as much attention. To study this subject, we choose social media as our main data resource and create by far the largest English Twitter depression dataset containing 2,575 distinct identified depression users with their past tweets. To examine the effect of depression on people's Twitter language, we train three transformer-based depression classification models on the dataset, evaluate their performance with progressively increased training sizes, and compare the model's "tweet chunk"-level and user-level performances. Furthermore, inspired by psychological studies, we create a fusion classifier that combines deep learning model scores with psychological text features and users' demographic information and investigate these features' relations to depression signals. Finally, we demonstrate our model's capability of monitoring both group-level and population-level depression trends by presenting two of its applications during the COVID-19 pandemic. We hope this study can raise awareness among researchers and the general public of COVID-19's impact on people's mental health.

研究の動機と目的

• COVID-19パンデミックのような世界的な危機期における、ソーシャルメディア上での抑うつを研究するための、大規模かつ公開可能なデータセットの不足に対処すること。
• 5,150名のユーザーから構成される大規模で洗練されたデータセットを用いて、Twitterユーザーの抑うつ状態を検出するトランスフォーマー基盤モデルの開発と評価を行うこと。
• 深層学習に加えて、心理的、言語的、人口統計的特徴量が、単独での深層学習に比べて抑うつ分類精度をどの程度向上させるかを調査すること。
• モデルを用いて、パンデミック期における集団レベル（例：抑うつユーザー vs. 非抑うつユーザー）および人口レベル（例：米国州ごと）の抑うつ傾向のリアルタイム監視を実施すること。
• ソーシャルメディア上の公共の感情のデータ駆動型でスケーラブルな監視を通じて、パンデミックの精神的健康への影響についての認識を高めること。

提案手法

• 5,150名のユーザー（抑うつと特定された2,575名、対照群2,575名）を含む大規模なTwitter抑うつデータセットを構築し、250語ずつの32,420個のツイート・チャンクを収集した。
• 性能スケーリングを評価するために、段階的に増加するトレーニングサブセットを用いて、最先端の3つのトランスフォーマー・モデル（BERT、RoBERTa、XLNet）を訓練および評価した。
• ツイートレベルおよびユーザー単位の分類を可能にするためのチャンク化および再グループ化手法を実装し、モデルの頑健性と評価の正確性を向上させた。
• 深層学習モデルの出力を心理的特徴量（LIWC、センチメント）、性格特性、および人口統計的データと統合する統合分類器を開発し、予測精度を向上させた。
• 米国非常事態宣言のような重要なパンデミックイベントの前後におけるツイートの主なトピックを分析するため、潜在ディリクレ配分（LDA）を適用した。
• 米国の地理的に位置特定されたユーザーの抑うつスコアを集計し、州レベルおよび全国レベルの傾向を追跡した。ニューヨーク州、カリフォルニア州、フロリダ州を比較した。

実験結果

リサーチクエスチョン

• RQ1 大規模で洗練されたTwitterデータセット上で、トレーニングデータ量の増加に伴い、トランスフォーマー基盤モデルの抑うつ検出性能はどのように変化するか？
• RQ2 心理的および人口統計的特徴量は、単独の深層学習モデルに比べて、ソーシャルメディア上の抑うつ分類精度をどの程度向上させるか？
• RQ3 抑うつ（DP）と非抑うつ（ND）ユーザーという異なるユーザー集団の抑うつレベルは、パンデミック期を通じて、特に公衆衛生関連の重要な発表の前後でどのように変化するか？
• RQ4 米国非常事態宣言の前後におけるユーザーのツイートの主なトピックは何か？また、それらのトピックは抑うつ信号の変化とどのように関連しているか？
• RQ5 モデルは米国各州における集団レベルの抑うつ傾向を検出・追跡できるか？また、感情やトピックの焦点における地域差は、これらの傾向とどのように相関しているか？

主な発見

• BERT、RoBERTa、XLNetの3つのトランスフォーマー・モデルの性能は、トレーニングデータ量の増加に伴い顕著に向上し、大規模データセットの価値を裏付けた。
• LIWC、センチメント、人口統計的特徴量と深層学習モデル出力を統合した統合分類器は、単独の深層学習モデルよりも高い精度を達成し、心理的および文脈的特徴量の追加的価値を示した。
• 米国非常事態宣言の発表後、非抑うつ（ND）ユーザーの抑うつレベルが顕著に上昇した一方、抑うつ（DP）ユーザーの抑うつレベルはわずかに低下した。これは、外部のストレス要因に対する感受性の差を示唆している。
• 米国非常事態宣言の発表後、DPユーザーおよびNDユーザーの両方において、「COVID-19期における抑うつと不安」が最も頻出するトピックとなった。これは、パンデミック関連の議論と抑うつ信号の上昇の間に強い相関があることを示している。
• ニューヨーク州、カリフォルニア州、フロリダ州の3州とも、同じような抑うつ傾向のパターンを示した：非常事態宣言前には低下、その後上昇、一時的な低下、5月10日以降に急激な上昇。フロリダ州は一貫して全体的な抑うつスコアが低かった。
• 州レベルのトピックモデリングの結果、ニューヨーク州のユーザーは病院関連の話題を最も多く取り上げていたが、フロリダ州およびカリフォルニア州のユーザーは、全国平均よりも政府の政策やパンデミックに伴う生活の変化に注目する傾向が高かった。