[论文解读] Deteksi Depresi dan Kecemasan Pengguna Twitter Menggunakan Bidirectional LSTM

Kuncahyo Setyo Nugroho, Ismail Akbar+2 more|arXiv (Cornell University)|Jan 11, 2023

Edcuational Technology Systems被引用 6

一句话总结

本研究提出一种双向长短期记忆网络（BiLSTM）模型，利用文本数据检测Twitter用户中的抑郁和焦虑症状。通过利用双向序列建模捕捉推文中的上下文依赖关系，该模型实现了94.12%的最高准确率，优于传统机器学习方法和标准LSTM模型。

ABSTRACT

The most common mental disorders experienced by a person in daily life are depression and anxiety. Social stigma makes people with depression and anxiety neglected by their surroundings. Therefore, they turn to social media like Twitter for support. Detecting users with potential depression and anxiety disorders through textual data is not easy because they do not explicitly discuss their mental state. It takes a model that can identify potential users who experience depression and anxiety on textual data to get treatment earlier. Text classification techniques can achieve this. One approach that can be used is LSTM as an RNN architecture development in dealing with vanishing gradient problems. Standard LSTM does not capture enough information because it can only read sentences from one direction. Meanwhile, Bidirectional LSTM (BiLSTM) is a two-way LSTM that can capture information without ignoring the context and meaning of a sentence. The proposed BiLSTM model is higher than all traditional machine learning models and standard LSTMs. Based on the test results, the highest accuracy obtained by BiLSTM reached 94.12%. This study has succeeded in developing a model for the detection of depression and anxiety in Twitter users.

研究动机与目标

• 为解决在社交媒体上识别抑郁和焦虑症状用户的问题，因为这些症状并未被明确表达。
• 克服单向RNN在捕捉文本数据上下文含义方面的局限性。
• 开发一种深度学习模型，能够以高准确率检测Twitter帖子中的心理健康指标。
• 通过基于NLP的公开社交媒体内容分析，提升心理健康障碍的早期检测能力。

提出的方法

• 采用双向长短期记忆网络（BiLSTM）架构，以正向和反向处理推文序列。
• 使用序列建模处理来自Twitter的原始文本数据，以捕捉长期依赖关系和上下文信息。
• 采用词嵌入将文本标记数值化，作为神经网络的输入。
• 在标注了抑郁和焦虑症状的推文标注数据集上训练BiLSTM模型。
• 在BiLSTM层后应用Dropout和全连接层，以实现分类和正则化。
• 使用标准NLP指标（包括准确率、精确率、召回率和F1值）评估模型性能。

实验结果

研究问题

• RQ1 BiLSTM模型能否有效检测Twitter文本数据中抑郁和焦虑的迹象？
• RQ2 BiLSTM在检测心理健康状况方面与传统机器学习模型和标准LSTM相比表现如何？
• RQ3 双向建模在从短篇社交媒体文本中检测心理健康指标时，能在多大程度上提升上下文理解能力？
• RQ4 使用深度学习在Twitter上检测抑郁和焦虑症状所能达到的最优准确率是多少？

主要发现

• 所提出的BiLSTM模型在所有评估模型中实现了94.12%的最高准确率。
• BiLSTM在检测抑郁和焦虑方面优于传统机器学习模型和标准LSTM网络。
• 双向架构有效捕捉了文本序列双向的上下文信息，从而提升了分类性能。
• 尽管推文中未出现明确的心理健康术语，该模型在文本数据上仍表现出强大的泛化能力。
• 结果证实，结合上下文注意力的序列建模在社交媒体心理健康检测中具有显著有效性。
• 本研究建立了一套可行的深度学习流程，可利用公开的Twitter数据实现心理健康问题的早期检测。