[论文解读] A Multitask Deep Learning Approach for User Depression Detection on Sina Weibo

Yiding Wang, Zhenyi Wang+3 more|arXiv (Cornell University)|Aug 26, 2020

Mental Health via Writing参考文献 38被引用 15

一句话总结

本文提出FusionNet，一种多任务深度学习模型，通过整合XLNet生成的文本嵌入与用户帖子中的手工设计统计特征（文本、社交行为及图像），实现对新浪微博上抑郁情绪的检测。该方法在新构建的WU3D数据集上取得了0.9772的F1分数，相较于现有模型，在类别不平衡数据上展现出更优的性能与更强的鲁棒性。

ABSTRACT

In recent years, due to the mental burden of depression, the number of people who endanger their lives has been increasing rapidly. The online social network (OSN) provides researchers with another perspective for detecting individuals suffering from depression. However, existing studies of depression detection based on machine learning still leave relatively low classification performance, suggesting that there is significant improvement potential for improvement in their feature engineering. In this paper, we manually build a large dataset on Sina Weibo (a leading OSN with the largest number of active users in the Chinese community), namely Weibo User Depression Detection Dataset (WU3D). It includes more than 20,000 normal users and more than 10,000 depressed users, both of which are manually labeled and rechecked by professionals. By analyzing the user's text, social behavior, and posted pictures, ten statistical features are concluded and proposed. In the meantime, text-based word features are extracted using the popular pretrained model XLNet. Moreover, a novel deep neural network classification model, i.e. FusionNet (FN), is proposed and simultaneously trained with the above-extracted features, which are seen as multiple classification tasks. The experimental results show that FusionNet achieves the highest F1-Score of 0.9772 on the test dataset. Compared to existing studies, our proposed method has better classification performance and robustness for unbalanced training samples. Our work also provides a new way to detect depression on other OSN platforms.

研究动机与目标

• 为解决中文社交媒体平台上用户级抑郁检测缺乏大规模、人工标注数据集的问题。
• 通过整合来自文本、社交行为和图像的多样化用户特征，提升抑郁检测的分类性能与鲁棒性。
• 开发一种能有效处理抑郁检测数据集中类别不平衡问题的深度学习模型。
• 为其他在线社交网络平台提供可泛化的抑郁检测框架。

提出的方法

• 构建了新浪微博用户抑郁检测数据集（WU3D），包含超过30,000名人工标注用户（20,000名正常用户，10,000名抑郁用户），由心理健康专业人员验证。
• 从文本、社交行为和图像内容中提取了十项统计特征，显示正常用户与抑郁用户之间存在显著的分布差异。
• 利用预训练语言模型XLNet生成文本序列的上下文词嵌入，优化长文本分类任务。
• 设计FusionNet，一种多任务深度神经网络，联合训练词向量分类与统计特征分类，以增强特征表示。
• 应用多任务学习在不同任务间共享表示，减少迁移学习过程中的信息损失，提升泛化能力。
• 采用Nadam优化器并配合自适应学习率，提升收敛性与稳定性，尤其在类别不平衡场景下表现更优。

实验结果

研究问题

• RQ1 大规模、人工标注的数据集是否能提升新浪微博上抑郁检测模型的性能？
• RQ2 结合文本、行为与视觉特征在区分抑郁与非抑郁用户方面有何贡献？
• RQ3 通过共享表示的多任务学习在类别不平衡数据集上在多大程度上提升了分类准确率与鲁棒性？
• RQ4 使用像XLNet这样的预训练语言模型是否能提升在长文本用户内容上的抑郁检测性能？
• RQ5 FusionNet相较于传统分类器在数据不平衡条件下的F1分数与稳定性方面表现如何？

主要发现

• FusionNet在WU3D测试集上取得了0.9772的最高F1分数，显著优于LR、SVM、RF与GBDT等基线模型。
• FusionNet的组内F1分数方差（IFV）为1.01×10⁻⁵，所有分类器中最低，表明其对类别不平衡具有更优的鲁棒性。
• 所有十项手工设计的统计特征在正常用户与抑郁用户之间均表现出显著的分布差异，证实其与抑郁检测的相关性。
• 当结合最优嵌入长度时，XLNet在处理长文本序列方面表现强劲，优于本研究中其他嵌入策略。
• FusionNet中的多任务学习框架有效减少了迁移学习过程中的特征信息损失，提升了整体模型泛化能力。
• 所提出的WU3D数据集包含超过30,000个标注用户样本，为未来在线抑郁检测研究提供了宝贵的基准。