[논문 리뷰] Deteksi Depresi dan Kecemasan Pengguna Twitter Menggunakan Bidirectional LSTM

Kuncahyo Setyo Nugroho, Ismail Akbar외 2명|arXiv (Cornell University)|2023. 01. 11.

Edcuational Technology Systems인용 수 6

한 줄 요약

이 연구는 텍스트 데이터를 사용하여 트위터 사용자의 우울증과 불안을 탐지하기 위해 이방향 순환 신경망(BiLSTM) 모델을 제안한다. 트윗의 문맥적 의존성을 포착하기 위해 이방향 시퀀스 모델링을 활용함으로써, 모델은 최고 94.12%의 정확도를 달성하여 기존의 기계학습 기법과 표준 LSTM 접근 방식을 능가한다.

ABSTRACT

The most common mental disorders experienced by a person in daily life are depression and anxiety. Social stigma makes people with depression and anxiety neglected by their surroundings. Therefore, they turn to social media like Twitter for support. Detecting users with potential depression and anxiety disorders through textual data is not easy because they do not explicitly discuss their mental state. It takes a model that can identify potential users who experience depression and anxiety on textual data to get treatment earlier. Text classification techniques can achieve this. One approach that can be used is LSTM as an RNN architecture development in dealing with vanishing gradient problems. Standard LSTM does not capture enough information because it can only read sentences from one direction. Meanwhile, Bidirectional LSTM (BiLSTM) is a two-way LSTM that can capture information without ignoring the context and meaning of a sentence. The proposed BiLSTM model is higher than all traditional machine learning models and standard LSTMs. Based on the test results, the highest accuracy obtained by BiLSTM reached 94.12%. This study has succeeded in developing a model for the detection of depression and anxiety in Twitter users.

연구 동기 및 목표

• 정신 건강 증상이 명시적으로 기재되지 않은 소셜 미디어에서 우울증과 불안이 있는 사용자를 식별하는 데 도전하는 것.
• 텍스트 데이터에서 문맥적 의미를 포착하는 데 한계가 있는 단방향 RNN의 문제를 해결하는 것.
• 높은 정확도로 트위터 게시물에서 정신 건강 지표를 탐지할 수 있는 딥러닝 모델을 개발하는 것.
• 공개된 소셜 미디어 콘텐츠의 NLP 기반 분석을 통해 정신 건강 장애의 조기 탐지를 향상시키는 것.

제안 방법

• 트윗 시퀀스를 정방향과 역방향 모두에서 처리할 수 있도록 이방향 LSTM(BiLSTM) 아키텍처를 활용한다.
• 장기적 의존성과 문맥을 포착하기 위해 텍스트 시퀀스 모델링을 사용해 트위터의 원시 텍스트 데이터를 처리한다.
• 신경망에 입력하기 위해 텍스트 토큰을 수치적으로 표현하기 위해 워드 임베딩을 적용한다.
• 우울증 및 불안 증상에 대해 주석이 달린 레이블이 부여된 트윗 데이터셋을 기반으로 BiLSTM 모델을 훈련시킨다.
• 분류 및 정규화를 위해 BiLSTM 이후 드롭아웃 및 밀집(드롭아웃) 층을 적용한다.
• 정확도, 정밀도, 재현율 및 F1 점수를 포함한 표준 NLP 메트릭을 사용해 성능을 평가한다.

실험 결과

연구 질문

• RQ1 BiLSTM 모델은 트위터 텍스트 데이터에서 우울증과 불안의 징후를 효과적으로 탐지할 수 있는가?
• RQ2 BiLSTM의 성능은 전통적인 기계학습 모델과 표준 LSTM에 비해 정신 건강 장애 탐지에서 어떻게 비교되는가?
• RQ3 이방향 모델링은 짧은 소셜 미디어 텍스트에서 정신 건강 지표를 탐지할 때 문맥 이해를 얼마나 향상시킬 수 있는가?
• RQ4 딥러닝을 사용해 트위터에서 우울증과 불안 탐지에 대해 달성 가능한 최적의 정확도는 얼마인가?

주요 결과

• 제안된 BiLSTM 모델은 평가된 모든 모델 중에서 최고의 정확도 94.12%를 기록했다.
• BiLSTM는 기존의 기계학습 모델과 표준 LSTM 네트워크보다 우울증과 불안 탐지에서 뛰어난 성능을 보였다.
• 이방향 아키텍처는 텍스트 시퀀스의 양방향에서 문맥 정보를 효과적으로 포착하여 분류 성능을 향상시켰다.
• 트윗에 명시적인 정신 건강 용어가 없음에도 불구하고, 모델은 텍스트 데이터에 대해 강력한 일반화 능력을 보였다.
• 결과는 소셜 미디어에서 정신 건강 탐지에 있어 문맥을 고려한 시퀀스 모델링의 효과성을 확인한다.
• 이 연구는 공개된 트위터 데이터를 활용한 정신 건강 문제 조기 탐지를 위한 실현 가능한 딥러닝 파이프라인을 수립한다.