[논문 리뷰] Hierarchical Attention Network for Explainable Depression Detection on Twitter Aided by Metaphor Concept Mappings

Sooji Han, Rui Mao외 1명|arXiv (Cornell University)|2022. 09. 15.

Mental Health via Writing인용 수 20

한 줄 요약

이 논문은 트위터에서의 우울감 탐지를 위해 설명가능한 Hierarchical Attention Network(HAN)를 제시하며, 은유 개념 매핑(MCMs)을 활용해 성능과 해석가능성을 향상시킵니다. 공개 MDL 데이터셋에서 최첨단 결과를 달성하고 예측에 대한 어텐션 기반 설명을 제공합니다.

ABSTRACT

Automatic depression detection on Twitter can help individuals privately and conveniently understand their mental health status in the early stages before seeing mental health professionals. Most existing black-box-like deep learning methods for depression detection largely focused on improving classification performance. However, explaining model decisions is imperative in health research because decision-making can often be high-stakes and life-and-death. Reliable automatic diagnosis of mental health problems including depression should be supported by credible explanations justifying models' predictions. In this work, we propose a novel explainable model for depression detection on Twitter. It comprises a novel encoder combining hierarchical attention mechanisms and feed-forward neural networks. To support psycholinguistic studies, our model leverages metaphorical concept mappings as input. Thus, it not only detects depressed individuals, but also identifies features of such users' tweets and associated metaphor concept mappings.

연구 동기 및 목표

• 소셜 미디어에서 자동적이고 프라이버시를 존중하는 우울증 선별을 촉진해 조기 개입을 돕고, 건강 맥락에서 해석가능한 모델을 요구합니다.
• 각 사용자에 대해 맥락 수준의 어텐션을 사용해 중요한 트윗과 은유 매핑(MCM)을 식별하는 설명가능한 인코더를 도입합니다.
• 트윗의 MCM 특징을 우울 탐지 파이프라인에 통합해 성능과 인지적 통찰을 향상시킵니다.
• MDL 우울 데이터셋에서 강력한 베이스라인과 모델을 평가하고 어텐션 시각화를 통한 해석가능성을 분석합니다

제안 방법

• 트윗과 MCM을 BERT-base-uncased로 임베딩해 T0와 C0 임베딩을 얻습니다.
• 계층 간의 두 흐름의 새로운 HAN 인코더를 사용해 여러 층에서 트윗과 MCM 표현을 반복적으로 정제합니다(v_i^t, T_i 및 v_i^c, C_i).
• 최종 트윗과 MCM 표현을 연결하고 일련의 피드포워드 네트워크를 통과시켜 클래스 확률을 생성합니다.
• 트윗으로부터 MCM 특징을 생성하기 위해 은유 식별(MI), 은유 의역(MP), 개념 매핑 생성(CG)을 통해 MCM을 도입합니다.
• 교차 엔트로피 손실로 학습해 우울함 여부를 예측합니다.
• 트윗과 MCM에 대한 어텐션 가중치를 검사해 정성적 해석가능성을 제공합니다.

실험 결과

연구 질문

• RQ1 맥락 수준의 어텐션 기반 인코더가 트위터 데이터를 사용해 해석가능한 우울 예측을 제공할 수 있는가?
• RQ2 은유 개념 매핑(MCM)이 우울 탐지 성능과 해석가능성을 향상시키는 보완 정보를 제공하는가?
• RQ3 HAN 인코더가 정확도와 파라미터 효율성 측면에서 고전적 인코더(LSTM, GRU, Transformer 계열)와 비교했을 때 어떤 차이가 있는가?
• RQ4 다양한 데이터 분할과 데이터셋에서 MCM 특징의 포함이 모델 성능에 미치는 영향은 어떠한가?

주요 결과

Model	P	R	F1	Acc.
Gui et al. (2019)	0.900	0.901	0.900	0.900
Lin et al. (2020)	0.903	0.870	0.886	0.884
Zogan et al. (2021)	0.909	0.904	0.912	0.901
HAN Avg D1-D5	0.975	0.969	0.972	0.971
D1	0.981	0.965	0.973	0.973
D2	0.988	0.956	0.972	0.971
D3	0.972	0.972	0.972	0.971
D4	0.968	0.970	0.969	0.968
D5	0.964	0.981	0.972	0.971

• 제안된 HAN 모델은 MDL 데이터셋에서 평균 F1이 0.972이고 정확도 0.971로 다섯 분할에서 최첨단 성능을 달성합니다.
• HAN은 가장 강력한 베이스라인(Zogan 등, 2021)을 F1에서 평균 6.0%, 정확도에서 7.0% 앞섭니다.
• Ablation 연구는 MCM이 추가 정보를 제공함을 보였고, MDL에서 HAN-MCM이 HAN보다 F1이 1.1% 낮고 IMDL에서 1.9% 낮아 MCM이 명시적 우울 신호가 제거될 때 도움이 됨을 시사합니다.
• HAN 인코더가 2층일 때 최적의 F1을 보이며 다른 설정들보다 파라미터 수가 LSTM/GRU 베이스라인보다 적습니다.
• 어텐션 시각화는 예측된 우울 상태에 대해 가장 영향력 있는 트윗과 MCM을 강조해 해석가능성을 보여줍니다.
• 모델은 다섯 개의 서로 다른 무작위 샘플링 데이터셋에서도 견고한 성능을 보였습니다.