[論文レビュー] Deteksi Depresi dan Kecemasan Pengguna Twitter Menggunakan Bidirectional LSTM

Kuncahyo Setyo Nugroho, Ismail Akbar+2 more|arXiv (Cornell University)|Jan 11, 2023

Edcuational Technology Systems被引用数 6

ひとこと要約

本研究では、テキストデータを用いてツイッター利用者のうつ病および不安を検出するために、双方向長短期記憶（BiLSTM）モデルを提案する。ツイート内の文脈的依存関係を捉えるために双方向シーケンスモデリングを活用し、最高で94.12%の精度を達成した。これは、従来の機械学習手法および標準的なLSTMアプローチを上回る性能を示した。

ABSTRACT

The most common mental disorders experienced by a person in daily life are depression and anxiety. Social stigma makes people with depression and anxiety neglected by their surroundings. Therefore, they turn to social media like Twitter for support. Detecting users with potential depression and anxiety disorders through textual data is not easy because they do not explicitly discuss their mental state. It takes a model that can identify potential users who experience depression and anxiety on textual data to get treatment earlier. Text classification techniques can achieve this. One approach that can be used is LSTM as an RNN architecture development in dealing with vanishing gradient problems. Standard LSTM does not capture enough information because it can only read sentences from one direction. Meanwhile, Bidirectional LSTM (BiLSTM) is a two-way LSTM that can capture information without ignoring the context and meaning of a sentence. The proposed BiLSTM model is higher than all traditional machine learning models and standard LSTMs. Based on the test results, the highest accuracy obtained by BiLSTM reached 94.12%. This study has succeeded in developing a model for the detection of depression and anxiety in Twitter users.

研究の動機と目的

• ソーシャルメディア上でのうつ病および不安の兆候が明示的に述べられていない状況において、関係者を特定する課題に対処すること。
• テキストデータからの文脈的意味を捉えるのに限界がある一方向RNNの課題を克服すること。
• ツイッター投稿におけるメンタルヘルスの兆候を高精度で検出できるディープラーニングモデルの開発。
• 公的ソーシャルメディアコンテンツのNLPベースの分析を通じて、メンタルヘルス障害の早期検出を改善すること。

提案手法

• ツイートのシーケンスを前向きおよび後向きの両方向で処理できる、双方向LSTM（BiLSTM）アーキテクチャを活用する。
• 長期的な依存関係と文脈を捉えるために、テキストデータをシーケンスモデリングで処理する。
• ニューラルネットワークへの入力として、テキストトークンを数値的に表現するために単語埋め込みを採用する。
• うつ病および不安の兆候についてラベル付けされたツイートのラベル付きデータセット上で、BiLSTMモデルを学習させる。
• 分類と正則化のために、BiLSTMの後にドロップアウト層および全結合層を適用する。
• 標準的なNLP指標（正確性、適合率、再現率、F1スコア）を用いて性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 BiLSTMモデルは、ツイッターのテキストデータからうつ病および不安の兆候を効果的に検出できるか？
• RQ2 従来の機械学習モデルおよび標準的なLSTMと比較して、BiLSTMの性能はどのように異なるか？
• RQ3 双方向モデリングは、短いソーシャルメディアのテキストからメンタルヘルスの兆候を検出する際、文脈理解をどの程度向上できるか？
• RQ4 ディープラーニングを用いたツイッターにおけるうつ病および不安検出で、最適な正確性はどの程度達成可能か？

主な発見

• 提案されたBiLSTMモデルは、評価されたすべてのモデルの中で最高の94.12%の正確性を達成した。
• BiLSTMは、従来の機械学習モデルおよび標準的なLSTMネットワークよりも、うつ病および不安の検出において優れた性能を示した。
• 双方向アーキテクチャは、テキストシーケンスの両方向からの文脈的情報を効果的に捉え、分類性能を向上させた。
• ツイートに明示的なメンタルヘルス用語が存在しない中でも、モデルはテキストデータに対して優れた汎化性能を示した。
• 結果から、文脈への注目を伴うシーケンスモデリングが、ソーシャルメディアにおけるメンタルヘルス検出に有効であることが確認された。
• 本研究は、公的ツイッターデータを用いたメンタルヘルス問題の早期検出に向けた実用的なディープラーニングパイプラインを確立した。