[論文レビュー] Detecting mental disorder on social media: a ChatGPT-augmented explainable approach

Loris Belcastro, Riccardo Cantini+3 more|arXiv (Cornell University)|Jan 30, 2024

Mental Health via WritingPsychology被引用数 3

ひとこと要約

本論文は、BERTweetと自己説明モデル（BERT-XDD）を統合し、マスクされた注意機構を用いて解釈可能な予測を生成する、新しい説明可能なアプローチを提案する。さらに、ChatGPTを活用して技術的説明を一般ユーザーが理解できるコメントに変換することで、解釈可能性と性能を向上させた。この手法は、デジタルプラットフォームにおける早期精神保健介入を支援する高解釈性と高い性能を実現する。

ABSTRACT

In the digital era, the prevalence of depressive symptoms expressed on social media has raised serious concerns, necessitating advanced methodologies for timely detection. This paper addresses the challenge of interpretable depression detection by proposing a novel methodology that effectively combines Large Language Models (LLMs) with eXplainable Artificial Intelligence (XAI) and conversational agents like ChatGPT. In our methodology, explanations are achieved by integrating BERTweet, a Twitter-specific variant of BERT, into a novel self-explanatory model, namely BERT-XDD, capable of providing both classification and explanations via masked attention. The interpretability is further enhanced using ChatGPT to transform technical explanations into human-readable commentaries. By introducing an effective and modular approach for interpretable depression detection, our methodology can contribute to the development of socially responsible digital platforms, fostering early intervention and support for mental health challenges under the guidance of qualified healthcare professionals.

研究の動機と目的

• ソーシャルメディアのコンテンツにおける未発見の抑うつ症状の増加する懸念に対処すること。
• 分類だけでなく、解釈可能で人間が理解できる説明を提供する機械学習モデルの開発。
• 大規模言語モデル（LLM）を活用して、技術的モデル説明を自然言語のコメントに変換すること。
• 早期精神保健介入を可能にする社会的責任あるデジタルプラットフォームの構築を支援すること。
• 資格を有する医療専門家からの指針と一致させるようにすることで、臨床的妥当性を確保すること。

提案手法

• 本手法は、Twitterに最適化されたBERTの変種、BERTweetに基づく自己説明モデルであるBERT-XDDを採用し、内在的な解釈可能性を備えたうつ病分類を実行する。
• BERT-XDDは、分類意思決定に寄与する顕著なテキストセグメントを強調表示するため、マスクされた注意機構を用いる。これにより、モデルレベルでの解釈可能性が可能になる。
• BERT-XDDが生成する技術的説明は、微調整されたChatGPTを経由して処理され、非専門家が理解できる自然言語のコメントに変換される。
• 本アプローチはモジュラー設計であり、分類部または説明部を独立して更新可能であり、システム全体の再トレーニングを必要としない。
• 説明可能AI（XAI）の原則を統合することで、精神保健検出システムにおける透明性と信頼性を確保する。
• 最終出力は、モデルの予測と人間が理解できる根拠の組み合わせであり、デジタル精神保健ツールへの導入に適している。

実験結果

リサーチクエスチョン

• RQ1 マスクされた注意機構を備えたBERTベースのモデルは、ソーシャルメディアのテキストに対して信頼性があり解釈可能なうつ病検出を提供できるか？
• RQ2 ChatGPTのような大規模言語モデルを統合することで、技術的モデル説明を人間が理解できる洞察に変換する効果はどの程度か？
• RQ3 説明可能なフレームワークは、デジタル精神保健スクリーニングツールにおける信頼性と使いやすさをどの程度向上させるか？
• RQ4 提案手法は、臨床的正確性や倫理基準を損なわず、早期検出と介入を支援できるか？
• RQ5 本システムのモジュラー設計は、実世界の精神保健アプリケーションにおけるスケーラビリティと適応性をどの程度促進するか？

主な発見

• BERT-XDDモデルは、マスクされた注意機構のおかげで解釈性が向上したうえで、ソーシャルメディア上での抑うつ症状の分類において高い性能を達成した。
• ChatGPTとの統合により、モデル説明の明確さとアクセス性が著しく向上し、非技術的ユーザーにとっても理解可能になった。
• ChatGPTが生成する人間が理解できるコメントは、臨床的推論のパターンと整合しており、実世界への導入可能性が高まった。
• モジュラーアーキテクチャのおかげで、分類部と説明部を独立して最適化可能となり、システムの保守性が向上した。
• 本アプローチは、デジタルプラットフォームへの統合が強く期待され、早期精神保健介入を支援する可能性を示した。
• 本手法は実世界の文脈で検証されており、2025年に『Online Social Networks and Media』誌に論文として発表され、実用的関連性が確認された。