[論文レビュー] Can x2vec Save Lives? Integrating Graph and Language Embeddings for Automatic Mental Health Classification

Alexander Ruch|arXiv (Cornell University)|Jan 4, 2020

Mental Health via Writing参考文献 51被引用数 6

ひとこと要約

本論文では、オンライン支援グループにおける希少な出来事（自殺志向など）の自動的精神保健分類を改善するために、グラフ埋め込み（metapath2vec）と言語埋め込み（doc2vec）を統合する手法を提案する。関係性ネットワーク構造と言語的コンテンツを組み合わせることで、統合モデルは自殺志向の予測において90％の正確性を達成した。これは、単独で用いた場合（それぞれ69％および76％）よりも顕著に優れており、偽陽性は10％、偽陰性は12％にまで低下した。

ABSTRACT

Graph and language embedding models are becoming commonplace in large scale analyses given their ability to represent complex sparse data densely in low-dimensional space. Integrating these models' complementary relational and communicative data may be especially helpful if predicting rare events or classifying members of hidden populations - tasks requiring huge and sparse datasets for generalizable analyses. For example, due to social stigma and comorbidities, mental health support groups often form in amorphous online groups. Predicting suicidality among individuals in these settings using standard network analyses is prohibitive due to resource limits (e.g., memory), and adding auxiliary data like text to such models exacerbates complexity- and sparsity-related issues. Here, I show how merging graph and language embedding models (metapath2vec and doc2vec) avoids these limits and extracts unsupervised clustering data without domain expertise or feature engineering. Graph and language distances to a suicide support group have little correlation ( {ho} < 0.23), implying the two models are not embedding redundant information. When used separately to predict suicidality among individuals, graph and language data generate relatively accurate results (69% and 76%, respectively); however, when integrated, both data produce highly accurate predictions (90%, with 10% false-positives and 12% false-negatives). Visualizing graph embeddings annotated with predictions of potentially suicidal individuals shows the integrated model could classify such individuals even if they are positioned far from the support group. These results extend research on the importance of simultaneously analyzing behavior and language in massive networks and efforts to integrate embedding models for different kinds of data when predicting and classifying, particularly when they involve rare events.

研究の動機と目的

• スパarsな隠れたオンラインコミュニティにおける希少な精神的健康イベント（自殺志向など）を予測する課題に対処すること。
• データスパarsityと高次元性のため、標準的なネットワーク解析および自然言語処理（NLP）分析に起因する制限を克服すること。
• グラフ埋め込みと言語埋め込みが、重複したパターンではなく補完的な情報を捉えているかどうかを評価すること。
• ドメインの専門知識や特徴量設計を必要とせず、予測の正確性を向上させる統合埋め込みモデルを開発すること。
• モデルが、ネットワーク空間において既知の支援グループから遠く離れている場合でも、リスクを有する個人を同定できるかどうかを評価すること。

提案手法

• 異種ネットワーク構造に基づいて関係性および構造的類似性を捉える低次元のグラフ埋め込みを生成するため、metapath2vecを用いる。
• Redditのr/SuicideWatchに投稿されたユーザーのテキストから、文書レベルの密集した埋め込みを生成するため、doc2vecを適用する。
• グラフ埋め込みと言語埋め込みを統合して、分類性能を向上させるための共同表現空間に統合する。
• 重複度を評価するために、コサイン類似度および相関分析（ピアソン ρ）を用い、グラフ埋め込みと言語埋め込みの距離の関係を評価する。
• 統合埋め込み上でバイナリ分類器を学習・評価し、投稿行動に基づいて自殺志向を予測する。
• 埋め込み空間の可視化により、既知の支援グループに近接していない場合でも、リスクを有する個人を同定できるかを評価する。

実験結果

リサーチクエスチョン

• RQ1 グラフ埋め込みと言語埋め込みは、自殺志向の予測において、どの程度重複した情報ではなく、補完的な情報を捉えているのか？
• RQ2 グラフと言語埋め込みを統合することで、単独で用いた場合と比較して、希少な精神的健康イベントの予測正確性が顕著に向上するのか？
• RQ3 統合モデルは、自殺志向のリスクがあるとされる個人を同定する際、偽陽性および偽陰性のレートを低減できるのか？
• RQ4 モデルは、ネットワーク上ですでに知られている支援グループから構造的に遠く離れている場合でも、自殺志向を示す可能性のある個人を同定できるのか？
• RQ5 ドメイン特化の特徴量設計を一切行わず、非教師ありクラスタリングにおいて、モデルはどの程度の性能を示すのか？

主な発見

• 統合モデルは、自殺志向の予測において90％の正確性を達成し、偽陽性は10％、偽陰性は12％にとどまった。
• グラフ埋め込み単体では69％、言語埋め込み単体では76％の正確性を示しており、統合により顕著な向上が確認された。
• 自殺支援グループへのグラフ埋め込みと言語埋め込みの距離には低相関（ρ < 0.23）が認められ、重複しない補完的な情報を捉えていることが裏付けられた。
• 可視化結果から、統合モデルは、ネットワーク上ですでに自殺支援グループから遠く離れている場合でも、リスクを有する個人を同定できることを示しており、構造的孤立に対しても強靭であることが示唆された。
• モデルはドメインの専門知識や手動による特徴量設計を一切必要とせず、リスクを有する個人を同定できることを示しており、スケーラビリティおよび一般化可能性の優位性を示した。
• 行動的要因（ネットワーク）と言語的要因（テキスト）の両方を組み合わせることの臨床的価値が支持され、両方の証拠を用いる診断実務と整合的である。