[論文レビュー] A Multitask Deep Learning Approach for User Depression Detection on Sina Weibo

Yiding Wang, Zhenyi Wang+3 more|arXiv (Cornell University)|Aug 26, 2020

Mental Health via Writing参考文献 38被引用数 15

ひとこと要約

本稿では、XLNetからのテキスト埋め込みと、ユーザー投稿のテキスト、ソーシャル行動、画像からの手作業で作成された統計的特徴量を統合するマルチタスク深層学習モデル、FusionNetを提案する。この手法は、新たに構築されたWU3DデータセットにおいてF1スコア0.9772を達成し、従来のモデルと比較して、不均衡データに対して優れた性能と頑健性を示している。

ABSTRACT

In recent years, due to the mental burden of depression, the number of people who endanger their lives has been increasing rapidly. The online social network (OSN) provides researchers with another perspective for detecting individuals suffering from depression. However, existing studies of depression detection based on machine learning still leave relatively low classification performance, suggesting that there is significant improvement potential for improvement in their feature engineering. In this paper, we manually build a large dataset on Sina Weibo (a leading OSN with the largest number of active users in the Chinese community), namely Weibo User Depression Detection Dataset (WU3D). It includes more than 20,000 normal users and more than 10,000 depressed users, both of which are manually labeled and rechecked by professionals. By analyzing the user's text, social behavior, and posted pictures, ten statistical features are concluded and proposed. In the meantime, text-based word features are extracted using the popular pretrained model XLNet. Moreover, a novel deep neural network classification model, i.e. FusionNet (FN), is proposed and simultaneously trained with the above-extracted features, which are seen as multiple classification tasks. The experimental results show that FusionNet achieves the highest F1-Score of 0.9772 on the test dataset. Compared to existing studies, our proposed method has better classification performance and robustness for unbalanced training samples. Our work also provides a new way to detect depression on other OSN platforms.

研究の動機と目的

• 中国語SNSにおけるユーザー単位のうつ病検出のための、大規模かつ手動ラベル付けされたデータセットの不足に対処すること。
• テキスト、ソーシャル行動、画像からの多様なユーザー特徴を統合することで、うつ病検出の分類性能と頑健性を向上させること。
• うつ病検出データセットにおけるクラス不均衡を効果的に処理できる深層学習モデルを開発すること。
• 他のオンラインSNSプラットフォームにおけるうつ病検出に一般化可能なフレームワークを提供すること。

提案手法

• 精神保健専門家による検証を経て、正常ユーザー20,000名、うつ病と診断されたユーザー10,000名を含む30,000件を超える手動ラベル付きユーザーを有するWeibo User Depression Detection Dataset (WU3D) を構築した。
• テキスト、ソーシャル行動、画像コンテンツから10の統計的特徴量を抽出し、正常ユーザーとうつ病ユーザーの間で顕著な分布差が確認された。
• 文脈に応じた単語埋め込みを生成するために事前学習済み言語モデルXLNetを活用し、長文分類に最適化した。
• 単語ベクトル分類と統計的特徴量分類を同時に学習するマルチタスク深層ニューラルネットワークであるFusionNetを設計し、特徴表現を強化した。
• タスク間で表現を共有することで、転移学習における情報損失を低減し、一般化性能を向上させるマルチタスク学習を適用した。
• 収束性と安定性を向上させるために、適応的学習率を用いたNadam最適化手法を採用し、特にクラス不均衡下でも有効であった。

実験結果

リサーチクエスチョン

• RQ1 大規模かつ手動ラベル付けされたデータセットは、Sina Weiboにおけるうつ病検出モデルの性能向上に寄与するか？
• RQ2 テキスト、行動、視覚的特徴を統合することで、うつ病ユーザーと非うつ病ユーザーを区別する上での寄与度はどの程度か？
• RQ3 共有表現を用いたマルチタスク学習は、不均衡データセットにおける分類精度と頑健性をどの程度向上させるか？
• RQ4 XLNetのような事前学習言語モデルを用いることで、うつ病検出における長文ユーザー投稿の処理性能が向上するか？
• RQ5 FusionNetは、データ不均衡下でのF1スコアと安定性において、従来の分類器と比較してどのように差をつけるか？

主な発見

• FusionNetはWU3Dテストセットで最高のF1スコア0.9772を達成し、LR、SVM、RF、GBDTなどのベースラインモデルを著しく上回った。
• FusionNetのグループ内F1スコア分散（IFV）は1.01×10⁻⁵であり、全分類器の中で最小で、クラス不均衡に対する優れた頑健性を示した。
• 10のすべての手作業特徴量が、正常ユーザーとうつ病ユーザーの間で顕著な分布差を示し、うつ病検出に有効であることが確認された。
• XLNetは最適な埋め込み長さと組み合わせることで、長文シーケンス処理において優れた性能を示し、本研究の他の埋め込み戦略を上回った。
• FusionNetにおけるマルチタスク学習フレームワークは、転移学習中の特徴情報損失を効果的に低減し、全体のモデル一般化性能を向上させた。
• 30,000件を超えるラベル付きユーザー標本を有する本研究で提案されたWU3Dデータセットは、今後のオンラインうつ病検出研究における貴重なベンチマークを提供する。