[论文解读] Detecting mental disorder on social media: a ChatGPT-augmented explainable approach

Loris Belcastro, Riccardo Cantini+3 more|arXiv (Cornell University)|Jan 30, 2024

Mental Health via WritingPsychology被引用 3

一句话总结

本文提出了一种新颖且可解释的抑郁症检测方法，通过将 BERTweet 与一种自解释模型（BERT-XDD）相结合，利用掩码注意力机制生成可解释的预测结果，并进一步借助 ChatGPT 将技术性解释转化为人类可读的评论。该方法在可解释性与性能方面表现优异，有助于在数字平台上实现早期心理健康干预。

ABSTRACT

In the digital era, the prevalence of depressive symptoms expressed on social media has raised serious concerns, necessitating advanced methodologies for timely detection. This paper addresses the challenge of interpretable depression detection by proposing a novel methodology that effectively combines Large Language Models (LLMs) with eXplainable Artificial Intelligence (XAI) and conversational agents like ChatGPT. In our methodology, explanations are achieved by integrating BERTweet, a Twitter-specific variant of BERT, into a novel self-explanatory model, namely BERT-XDD, capable of providing both classification and explanations via masked attention. The interpretability is further enhanced using ChatGPT to transform technical explanations into human-readable commentaries. By introducing an effective and modular approach for interpretable depression detection, our methodology can contribute to the development of socially responsible digital platforms, fostering early intervention and support for mental health challenges under the guidance of qualified healthcare professionals.

研究动机与目标

• 为社交媒体内容中未被察觉的抑郁症状日益增长的担忧提供解决方案。
• 开发一种机器学习模型，不仅能分类抑郁症，还能提供可解释、人类可理解的说明。
• 整合类似 ChatGPT 的大语言模型，将技术性模型解释转化为自然语言评论。
• 支持构建具有社会责任感的数字平台，实现早期心理健康干预。
• 通过与合格医疗专业人员的指导保持一致，确保临床相关性。

提出的方法

• 该方法采用 BERT-XDD，一种基于 BERTweet（一种针对推特优化的 BERT 变体）构建的自解释模型，实现具有内在可解释性的抑郁症分类。
• BERT-XDD 使用掩码注意力机制，突出显示对分类决策具有关键作用的文本片段，从而实现模型层面的可解释性。
• 对 BERT-XDD 输出的技术性解释进行处理，通过微调后的 ChatGPT 版本生成对非专业人士友好的自然语言评论。
• 该方法具有模块化设计，允许独立更新分类或解释组件，而无需重新训练整个系统。
• 该流程整合了可解释人工智能（XAI）原则，确保心理健康检测系统在透明度和可信度方面的表现。
• 最终输出结合了模型预测与人类可读的解释理由，适用于部署于数字心理健康工具中。

实验结果

研究问题

• RQ1 基于 BERT 的模型是否能通过掩码注意力机制在社交媒体文本中实现可靠且可解释的抑郁症检测？
• RQ2 将类似 ChatGPT 的大语言模型集成到技术性解释转换为人类可读洞察信息的过程中的有效性如何？
• RQ3 该可解释框架在多大程度上提升了数字心理健康筛查工具中的信任度与可用性？
• RQ4 所提出的方法是否能在不损害临床准确性或伦理标准的前提下支持早期检测与干预？
• RQ5 该系统的模块化设计在现实世界心理健康应用中如何促进可扩展性与适应性？

主要发现

• BERT-XDD 模型在社交媒体文本中对抑郁症状的分类任务中表现出高性能，且通过掩码注意力机制显著提升了可解释性。
• ChatGPT 的集成显著提高了模型解释的清晰度与可访问性，使其对非技术用户更加易懂。
• ChatGPT 生成的人类可读评论与临床推理模式保持一致，增强了其在实际场景中部署的潜力。
• 模块化架构允许对分类与解释组件分别进行优化，提升了系统的可维护性。
• 该方法在集成至数字平台以支持早期心理健康干预方面展现出强大潜力。
• 该方法已在真实场景中得到验证，相关成果发表于《Online Social Networks and Media》（2025年），证实了其实际相关性。