[論文レビュー] Detecting Reddit Users with Depression Using a Hybrid Neural Network SBERT-CNN

Ziyi Chen, Ren Yang+4 more|arXiv (Cornell University)|Feb 3, 2023

Mental Health via Writing参考文献 42被引用数 6

ひとこと要約

本稿では、自己報告による精神的健康データを用いてRedditユーザーのうつ病を検出するため、ハイブリッドなSBERT-CNNニューラルネットワークを提案する。SBERTによる文脈的な文の埋め込みと、CNNによる時間的パターン学習を組み合わせることで、モデルは86%の精度と86%のF1スコアを達成し、先行する最先端手法を上回った。

ABSTRACT

Depression is a widespread mental health issue, affecting an estimated 3.8% of the global population. It is also one of the main contributors to disability worldwide. Recently it is becoming popular for individuals to use social media platforms (e.g., Reddit) to express their difficulties and health issues (e.g., depression) and seek support from other users in online communities. It opens great opportunities to automatically identify social media users with depression by parsing millions of posts for potential interventions. Deep learning methods have begun to dominate in the field of machine learning and natural language processing (NLP) because of their ease of use, efficient processing, and state-of-the-art results on many NLP tasks. In this work, we propose a hybrid deep learning model which combines a pretrained sentence BERT (SBERT) and convolutional neural network (CNN) to detect individuals with depression with their Reddit posts. The sentence BERT is used to learn the meaningful representation of semantic information in each post. CNN enables the further transformation of those embeddings and the temporal identification of behavioral patterns of users. We trained and evaluated the model performance to identify Reddit users with depression by utilizing the Self-reported Mental Health Diagnoses (SMHD) data. The hybrid deep learning model achieved an accuracy of 0.86 and an F1 score of 0.86 and outperformed the state-of-the-art documented result (F1 score of 0.79) by other machine learning models in the literature. The results show the feasibility of the hybrid model to identify individuals with depression. Although the hybrid model is validated to detect depression with Reddit posts, it can be easily tuned and applied to other text classification tasks and different clinical applications.

研究の動機と目的

• Redditの投稿を用いて、うつ病を有する人々を同定できる深層学習モデルの開発を目的とする。
• ソーシャルメディアのテキストからうつ病を検出する既存の機械学習モデルを改善することを目的とする。
• SBERTによる意味的表現とCNNによる順序的行動パターン検出の組み合わせの有効性を検証することを目的とする。
• 実世界での適用可能性を検証するため、Self-reported Mental Health Diagnoses (SMHD) データセット上でモデルを検証することを目的とする。
• モデルの臨床的NLPおよびテキスト分類タスクへの広範な応用可能性を示すこと。

提案手法

• モデルは、個々のReddit投稿から文脈的な文の埋め込みを生成するために事前学習済みのSentence BERT (SBERT) エンコーダーを用いる。
• これらのSBERT埋め込みは、ユーザーの投稿行動における局所的かつ順序的なパターンを抽出するために畳み込みニューラルネットワーク（CNN）に供給される。
• CNNは、異なるサイズのフィルタを用いて埋め込み系列全体にわたるn-gramレベルの特徴を捉え、時間的パターン認識を可能にする。
• 最終的な分類ヘッドは、グローバルマックスプーリングと全結合層を用い、プールされた特徴からうつ病状態を予測する。
• モデルは、バイナリクロスエントロピー損失とAdam最適化を用いてSMHDデータセット上でエンドツーエンドに訓練される。
• ハイパーパrameterはグリッドサーチにより調整され、F1スコアや精度などの標準的なNLP指標を用いてモデルのパフォーマンスが評価される。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドなSBERT-CNNモデルは、Redditユーザーのテキスト投稿に基づいて、うつ病を効果的に検出できるか？
• RQ2 SBERT-CNNモデルの性能は、ソーシャルメディアからのうつ病検出における既存の最先端手法と比較してどうか？
• RQ3 意味的表現（SBERT）と順序的パターン学習（CNN）の組み合わせが、検出精度をどの程度向上させるか？
• RQ4 提案されたモデルは、他の臨床的NLPにおけるテキスト分類タスクにも一般化可能か？

主な発見

• ハイブリッドなSBERT-CNNモデルは、SMHDデータセット上で86%の精度を達成し、強力な予測性能を示した。
• モデルはF1スコア86%を達成し、先行する最先端手法の79%を著しく上回った。
• SBERTによる意味的表現とCNNによる順序的特徴学習の統合により、モデルの頑健性と検出能力が向上した。
• モデルのパフォーマンスは、ソーシャルメディアプラットフォームにおける早期うつ病検出への実用的適用可能性を示している。
• アーキテクチャは柔軟であり、うつ病検出を越えて、他の臨床的NLPタスクに対しても微調整可能である。