[논문 리뷰] Affective Conditioning on Hierarchical Networks applied to Depression Detection from Transcribed Clinical Interviews

Danai Xezonaki, Georgios Paraskevopoulos외 2명|arXiv (Cornell University)|2020. 06. 04.

Mental Health via Writing참고 문헌 26인용 수 6

한 줄 요약

이 논문은 외부 어휘 자료를 사용하여 정서 조절을 적용한 계층적 어휘 주의 모델을 제안하여 임상 상담 대화의 번역 문맥에서 우울증 탐지 성능을 햖थन한다. 심리언어학적 및 정서적 특징을 주의 메커니즘에 통합함으로써, 이 모델은 일반 정신치료 코퍼스에서 F1 점수 71.6과 DAIC-WoZ 2017 데이터셋에서 F1 점수 68.6을 달성하여 최신 기술 수준을 확립하며, 특히 자료가 적은 환경에서 뛰어난 성능과 강건성을 보여준다.

ABSTRACT

In this work we propose a machine learning model for depression detection from transcribed clinical interviews. Depression is a mental disorder that impacts not only the subject's mood but also the use of language. To this end we use a Hierarchical Attention Network to classify interviews of depressed subjects. We augment the attention layer of our model with a conditioning mechanism on linguistic features, extracted from affective lexica. Our analysis shows that individuals diagnosed with depression use affective language to a greater extent than not-depressed. Our experiments show that external affective information improves the performance of the proposed architecture in the General Psychotherapy Corpus and the DAIC-WoZ 2017 depression datasets, achieving state-of-the-art 71.6 and 68.6 F1 scores respectively.

연구 동기 및 목표

• 언어적 및 정서적 신호를 활용하는 계산 모델을 통해 임상 상담 대화에서의 우울증 탐지 성능을 향상시키는 것.
• 외부 정서 어휘 자료가 자원이 적은 우울증 탐지 작업에서 신경망 성능을 어떻게 향상시킬 수 있는지 조사하는 것.
• 치료 세션에서 단어 수준 및 턴 수준 표현을 모두 모델링할 수 있는 계층적 어휘 주의 아키텍처를 개발하는 것.
• 치료사 대화와 환자 대화, 세션 요약이 모델 성능에 미치는 영향을 평가하는 것.
• 심리언어학적 메타데이터와 정서적 특징을 주의 메커니즘에 통합하여 모델의 해석 가능성과 정확도를 향상시키는 것.

제안 방법

• 양방향 GRU를 사용하는 이중 단계 계층적 RNN이 단어 수준과 턴 수준에서 각각 단어와 턴을 처리한다.
• 두 수준의 주의 메커니즘은 주목할 만한 단어와 턴에 가중치를 부여함으로써 맥락 인식 표현을 생성한다.
• 정서 조절은 여섯 종류의 정서 어휘 자료(LIWC, AFINN, MPQA, Semeval15, Emolex, Bing Liu)에서 유도된 99차원 특징을 단어 수준 주의 메커니즘에 융합함으로써 적용된다.
• 모델은 300D GloVe 임bedding을 사용하고 0.2 드롭아웃을 적용하며, Adam 최적화 기법을 사용해 학습률 10^-3로 파rameter를 최적화한다.
• 아키텍처는 세션 요약(S)과 외부 어휘 자료(L)를 통합하여 HAN+L 및 HAN+L+S 변형으로 확장된다.
• 모델 학습은 40 에포크 동안 조기 정지 기법을 사용하며 검증 손실 최소화를 목표로 한다.

실험 결과

연구 질문

• RQ1 외부 어휘 자료를 활용한 정서 조절이 임상 상담 대화에서의 우울증 탐지 성능 향상에 기여하는가?
• RQ2 심리언어학적 특징의 통합이 자원이 적은 환경에서 모델의 강건성에 어떤 영향을 미치는가?
• RQ3 환자 대화와 치료사 대화 중 어느 쪽이 우울증 탐지에 더 기여하는가?
• RQ4 세션 요약을 통합하면 모델 성능이 추가로 향상되는가?
• RQ5 제안된 모델은 표준 우울증 탐지 데이터셋에서 최신 기술 수준의 베이스라인과 비교해 어떻게 성능을 내는가?

주요 결과

• HAN+L+S 모델은 일반 정신치료 코퍼스에서 F1 점수 71.6을 기록하여 모든 베이스라인을 능가했다.
• DAIC-WoZ 2017 데이터셋에서 HAN+L 모델은 F1 점수 68.6을 달성하여 기존 HAN 모델(F1: 47)과 이전 모델(HLGAN, F1: 60)보다 유의미하게 향상된 성능을 보였다.
• 환자 전용 턴에서 가장 높은 성능가를 기록하여, 환자 대화가 치료사 대화보다 우울증 탐지에 더 유용한 정보를 제공한다는 것을 시사한다.
• 세션 요약을 통합하면 외부 어휘 자료를 통합한 것과 유사하거나 더 큰 성능 향상을 얻었으며, 특히 요약 데이터가 가용할 경우 두드러진 성능 향상이 관찰되었다.
• 정서 어휘 자료의 통합은 특히 자료가 적은 환경에서 모델 성능을 크게 향상시켜 강건성과 일반화 능력 향상을 입증했다.
• 정서 조절 메커니즘이 성공적으로 정서적으로 중요한 언어적 특징을 주의 집중에 유도하여 모델의 해석 가능성과 정확도를 향상시켰다.