[논문 리뷰] Leveraging Linguistic Characteristics for Bipolar Disorder Recognition with Gender Differences

Yen-Hao Huang, Yi‐Hsin Chen외 5명|arXiv (Cornell University)|2019. 07. 17.

Mental Health via Writing참고 문헌 18인용 수 4

한 줄 요약

이 연구는 트위터 게시물에서 유도된 문법적 패턴을 활용하여 성별을 고려한 순수 언어학적 접근 방식을 제안한다. 이는 그래프 기반 패턴 구축과 주의 메커니즘을 사용하며, 91% 이상의 F1 스코어를 달성하여 TF-IDF, LIWC, BERT 및 ELMo와 같은 사전 학습 모델을 능가한다. 성별에 따른 일인칭 대명사, 시제, 정서 표현의 언어적 차이를 포착한다.

ABSTRACT

Most previous studies on automatic recognition model for bipolar disorder (BD) were based on both social media and linguistic features. The present study investigates the possibility of adopting only language-based features, namely the syntax and morpheme collocation. We also examine the effect of gender on the results considering gender has long been recognized as an important modulating factor for mental disorders, yet it received little attention in previous linguistic models. The present study collects Twitter posts 3 months prior to the self-disclosure by 349 BD users (231 female, 118 male). We construct a set of syntactic patterns in terms of the word usage based on graph pattern construction and pattern attention mechanism. The factors examined are gender differences, syntactic patterns, and bipolar recognition performance. The performance indicates our F1 scores reach over 91% and outperform several baselines, including those using TF-IDF, LIWC and pre-trained language models (ELMO and BERT). The contributions of the present study are: (1) The features are contextualized, domain-agnostic, and purely linguistic. (2) The performance of BD recognition is improved by gender-enriched linguistic pattern features, which are constructed with gender differences in language usage.

연구 동기 및 목표

• 사회적 행동이나 사전 정의된 사전에 의존하지 않는 순수 언어학적이고 문맥 인식 가능한 심성장애(BD) 인식 방법을 개발한다.
• 언어 사용에서의 성별 차이가 BD 인식 성능에 미치는 영향을 조사한다.
• 모델의 해석 가능성과 임상적 관련성을 향상시키기 위해 성별에 맞춘 문법적 패턴을 구축한다.
• 도메인 전문가를 환자로 잘못 분류할 수 있는 키워드 기반 특징에 대한 의존도를 줄인다.
• 정신건강 스크리닝에 임상적 사용을 위해 이식 가능하고 도메인에 관계없는 언어학적 패턴을 제공한다.

제안 방법

• 사용자 게시물 내 단어 공존 및 의존 구조를 기반으로 한 그래프 패턴 구축을 통해 문법적 패턴을 구성한다.
• 텍스트 시퀀스에서 주목할 만한 언어학적 패턴을 학습하기 위해 패턴 주의 메커니즘을 적용한다.
• 남성 및 여성 BD 사용자 데이터로 별도의 모델을 훈련시켜 성별에 맞는 언어학적 패턴을 통합한다.
• 남성 및 여성에 맞춘 문법적 패턴을 조합한 성별 풍부한 특징 표현을 통합한다.
• 키워드 사전에 의존하지 않고 n-gram 및 스킵-gram 스타일의 패턴을 데이터 기반으로 학습한다.
• 자기 공개 3개월 전의 349명의 BD 사용자 트위터 데이터를 사용하여 모델을 훈련하고 평가하며, 성별 레이블은 수동으로 확인하였다.

실험 결과

연구 질문

• RQ1 기존 방법에 비해 순수 언어학적 문법적 패턴이 심성장애 인식 성능을 향상시킬 수 있는가?
• RQ2 언어 사용에서의 성별 차이가 심성장애 인식 모델의 성능 및 해석 가능성에 어떤 영향을 미치는가?
• RQ3 성별에 맞춘 문법적 패턴이 인식 정확도를 향상시키고 임상적으로 관련 있는 언어학적 지표를 포착하는가?
• RQ4 그래프 기반 패턴 학습이 키워드 기반(예: TF-IDF, LIWC) 및 사전 학습된 언어 모델(예: BERT, ELMo)보다 심성장애 탐지에서 우월한가?
• RQ5 일인칭 대명사, 절대적 어휘, 시제 사용은 심성장애의 중요한 지표인가, 그리고 성별에 따라 다를까?

주요 결과

• 제안된 모델은 91% 이상의 F1 스코어를 달성하여 TF-IDF, LIWC, ELMo, BERT 기준선을 뚜렷이 뛰어넘는다.
• 성별에 맞춘 문법적 패턴을 사용함으로써 남성과 여성 BD 사용자 간의 고유한 언어학적 지표를 포착함으로써 인식 성능이 향상된다.
• 여성 BD 사용자는 더 높은 빈도로 현재 시제 문장(예: "I am")을 사용하며, 남성 BD 사용자는 과거 시제 문장(예: "I was")을 더 자주 사용한다. 이는 통계적으로 유의미하다(p < 0.001, 현재 시제 기준).
• 모델은 일인칭 대명사 사용 빈도가 1.7배 더 높고, "항상" 및 "절대"와 같은 절대적 어휘 사용 증가와 같은 임상적으로 관련 있는 언어학적 특징을 포착한다.
• 딥 러닝 임bedding보다 더 해석 가능한 패턴을 제공한다. 이는 문맥적으로 의미 있는 n-gram 및 스킵-gram 패턴을 강조하기 때문이다.
• 키워드 기반 의존도를 줄임으로써 정신건강 전문가를 환자로 잘못 분류할 위험을 감소시키며, 대신 구조적 언어학적 패턴에 초점을 맞춘다.