[论文解读] Multi-Task Learning for Mental Health using Social Media Text
本文提出一种神经多任务学习框架，从 Twitter 文本预测自杀风险和多种心理健康状况，使用性别作为辅助任务，并在数据稀缺条件上相对单任务基线取得更好结果。
We introduce initial groundwork for estimating suicide risk and mental health in a deep learning framework. By modeling multiple conditions, the system learns to make predictions about suicide risk and mental health at a low false positive rate. Conditions are modeled as tasks in a multi-task learning (MTL) framework, with gender prediction as an additional auxiliary task. We demonstrate the effectiveness of multi-task learning by comparison to a well-tuned single-task baseline with the same number of parameters. Our best MTL model predicts potential suicide attempt, as well as the presence of atypical mental health, with AUC > 0.8. We also find additional large improvements using multi-task learning on mental health tasks with limited training data.
研究动机与目标
- 展示多任务学习（MTL）在从社交媒体文本预测自杀风险和心理健康状况方面的有效性。
- 探索辅助任务（包括性别）和任务选择如何影响预测性能。
- 在相同参数数量下，与单任务基线进行公平比较，以隔离 MTL 的益处。
- 展示 MTL 如何通过共享表示使训练数据有限的任务受益。
- 通过强调低假阳性率的指标来评估实际临床相关性（如 TPR@FPR=0.1）。
提出的方法
- 使用一个具有共享输入到隐藏层表示的神经多任务架构，以及针对各任务的隐藏层来预测多种心理健康指标。
- 将输入表示为来自完整 Twitter 历史的 1- 至 5-gram 字符特征的频率（前 5,000 个 n-gram）。
- 采用 mini-batch Adagrad 进行训练，联动优化所有任务，允许跨不相交数据的异步更新。
- 将 MTL 与基线逻辑回归（LR）在字符 n-gram 上以及具有相同参数数量的 STL 神经模型进行比较。
- 使用 ROC/AUC 和在 FPR=0.1 时的 TPR，以及精确度-召回分析，对一组心理健康状况和性别进行评估。
- 试验各种辅助任务子集，以评估对主任务性能的影响并分析共病的好处。
实验结果
研究问题
- RQ1多任务学习是否在相同参数数量下优于单任务模型对自杀风险和心理健康状况的预测？
- RQ2将性别作为辅助任务对各状况的预测准确性有何影响？
- RQ3辅助任务的选择如何影响性能，特别是对数据稀缺的状况如双相障碍和 PTSD？
- RQ4预测多种相关状况（共病）是否可以作为正则化，提升对罕见状况的预测？
- RQ5是否存在能够最大化特定主任务（如焦虑、抑郁、自杀）性能的最佳任务子集？
主要发现
- MTL 在若干心理健康预测上优于 STL 和 LR；例如自杀预测的 AUC 为 0.848（MTL）。
- 以性别作为辅助任务的 MTL 在多种条件上提升了表现，包括焦虑、恐慌和 PTSD。
- MTL 通过与数据丰富的条件（抑郁、焦虑）共病，显著提升数据较少的条件（双相障碍和 PTSD）的性能。
- PTSD 的 AUC 从 0.770（LR）提升到 0.786（MTL），而 STL 表现更差（0.667）；双相障碍从 0.752（LR）/ 0.552（STL）提升到 0.723（MTL）。
- 使用所有辅助任务在神经异常、自杀、抑郁、焦虑、饮食障碍、惊恐、精神分裂症、双相障碍和 PTSD 上获得最佳主任务性能；性别作为辅助通常有帮助但不一定在性别预测本身上统一有效。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。