[論文レビュー] Multi-Task Learning for Mental Health using Social Media Text

Adrian Benton, Margaret Mitchell+1 more|arXiv (Cornell University)|Dec 10, 2017

Mental Health via Writing参考文献 32被引用数 60

ひとこと要約

この論文は、Twitterテキストから自殺リスクと複数の精神健康状態を予測するニューラル多タスク学習フレームワークを提示し、ジェンダーを補助タスクとして用い、単一タスクのベースラインより改善を示し、特にデータが少ない条件で顕著。

ABSTRACT

We introduce initial groundwork for estimating suicide risk and mental health in a deep learning framework. By modeling multiple conditions, the system learns to make predictions about suicide risk and mental health at a low false positive rate. Conditions are modeled as tasks in a multi-task learning (MTL) framework, with gender prediction as an additional auxiliary task. We demonstrate the effectiveness of multi-task learning by comparison to a well-tuned single-task baseline with the same number of parameters. Our best MTL model predicts potential suicide attempt, as well as the presence of atypical mental health, with AUC > 0.8. We also find additional large improvements using multi-task learning on mental health tasks with limited training data.

研究の動機と目的

• ソーシャルメディアのテキストから自殺リスクと精神健康状態を予測するためのマルチタスク学習（MTL）の有用性を示す。
• ジェンダーを含む補助タスクとタスク選択が予測性能に与える影響を探る。
• パラメータ数を一致させた単一タスクベースラインとの公正な比較を提供し、MTLの利点を分離する。
• 共同表現を通じてトレーニングデータが限られたタスクに対するMTLの利点を示す。
• 偽陽性を低く抑える指標（例：TPR@FPR=0.1）を強調して臨床上の実用性を評価する。

提案手法

• 複数の精神健康予測タスクのために、共有の入力-to-隠れ層表現と各タスクごとの隠れ層を持つニューラルなマルチタスクアーキテクチャを使用する。
• 入力を、全Twitter履歴から得られた1-gram～5-gramの文字特徴の頻度（上位5,000語）として表現する。
• ミニバッチAdagradで訓練し、すべてのタスクを同時に最適化し、離散データ間で非同期更新を可能にする。
• 文字n-gram上のベースラインのロジスティック回帰（LR）および同一パラメータ数のSTLニューラルモデルとMTLを比較する。
• ROC/AUCとFPR=0.1でのTPR、および精度-再現率分析を、複数の精神健康状態とジェンダーにわたって評価する。
• 補助タスクのさまざまなサブセットを用いて主タスクの性能への影響を評価し、併存病との関連メリットを分析する。

実験結果

リサーチクエスチョン

• RQ1 同一パラメータ数の単一タスクモデルと比較して、MTLは自殺リスクおよび精神健康状態の予測を改善するか？
• RQ2 補助タスクとしてジェンダーを含めることが、条件横断で予測精度にどのような影響を与えるか？
• RQ3 補助タスクの選択が性能に与える影響はどのようか、特に双極性障害やPTSDのようなデータが不足している条件で？
• RQ4 複数の関連する状態を予測すること（併存）は、希少な状態の予測を改善する正則化として機能するか？
• RQ5 選択された主タスク（例：不安、うつ、自殺）に対して性能を最大化する最適なタスクサブセットはあるか？

主な発見

• MTLはSTLおよびLRよりもいくつかの精神健康予測を改善する。例えば自殺予測はMTLでAUC0.848を達成。
• ジェンダーを補助タスクとしたMTLは、不安、パニック、PTSDを含むいくつかの条件で性能を向上させる。
• データが少ない条件（双極性障害とPTSD）で、データ量豊富な条件（うつ、不安）との併存を活用して顕著な利得を示す。
• PTSDのAUCはLRの0.770からMTLの0.786へ向上し、STLは0.667で劣る。双極性はLRの0.752/STLの0.552から0.723へ改善。
• すべての補助タスクを用いると、神経類型性、自殺、うつ、不安、摂食障害、パニック、統合失調症、双極性障害、PTSDで主タスクの性能が最高になる。ジェンダーを補助として用いることは一般的に役立つが、ジェンダー予測自体には一様には有効ではない。