[논문 리뷰] Towards Algorithmic Fidelity: Mental Health Representation across Demographics in Synthetic vs. Human-generated Data

Shinka Mori, Oana Ignat외 2명|arXiv (Cornell University)|2024. 03. 25.

Mental Health Research TopicsPsychology인용 수 3

한 줄 요약

이 논문은 GPT-3를 활용해 인종, 성별, 시간(코로나19 이전 및 이후)을 제어한 채로 생성한 3,120개의 우울증 유발 스트레서의 합성 데이터셋인 HeadRoom을 소개한다. 알고리즘 정밀도는 인공지능 생성 데이터와 인간이 생성한 정신건강 데이터를 비교하여 평가되었으며, GPT-3는 일부 실생활 스트레서 분포를 인종에 따라 포괄하지만, 표현 및 민감도 측면에서 뚜렷한 편향과 제한점이 있음을 확인했다.

ABSTRACT

Synthetic data generation has the potential to impact applications and domains with scarce data. However, before such data is used for sensitive tasks such as mental health, we need an understanding of how different demographics are represented in it. In our paper, we analyze the potential of producing synthetic data using GPT-3 by exploring the various stressors it attributes to different race and gender combinations, to provide insight for future researchers looking into using LLMs for data generation. Using GPT-3, we develop HEADROOM, a synthetic dataset of 3,120 posts about depression-triggering stressors, by controlling for race, gender, and time frame (before and after COVID-19). Using this dataset, we conduct semantic and lexical analyses to (1) identify the predominant stressors for each demographic group; and (2) compare our synthetic data to a human-generated dataset. We present the procedures to generate queries to develop depression data using GPT-3, and conduct analyzes to uncover the types of stressors it assigns to demographic groups, which could be used to test the limitations of LLMs for synthetic data generation for depression data. Our findings show that synthetic data mimics some of the human-generated data distribution for the predominant depression stressors across diverse demographics.

연구 동기 및 목표

• 대규모 언어모델(GPT-3 등)이 다양한 인종 및 성별 집단에서 어떻게 우울증 스트레서를 표현하는지 조사하기 위해.
• 실생활 정신건강 데이터 분포를 반영하는 합성 데이터의 알고리즘 정밀도를 평가하기 위해.
• 특히 소수집단에 대해 불균형을 초래할 수 있는 편향과 제한점을 규명하기 위해.
• 통제된 프롬프트를 활용해 재현 가능한 우울증 합성 데이터 생성 및 분석 프레임워크를 제공하기 위해.
• 잠재적 편향 증폭의 위험으로 인해 연구자들이 정신건강 분야에서 합성 데이터를 비판적으로 사용하지 않을 경우의 경고를 위해.

제안 방법

• GPT-3를 활용해 인종, 성별, 시기(코로나19 이전 및 이후)를 명시적으로 제어한 3,120개의 블로그 스타일 우울증 스트레서 포스트를 생성하는 제어된 프롬프트 엔지니어링.
• 구조화된 프롬프트 템플릿 개발: '{인종} {성별}이 우울감을 느끼고 있다면, 자신의 삶에서 가장 큰 스트레서를 기록하는 블로그 포스트를 작성해 주세요.'
• 각 인구통계 집단에서의 주요 스트레서를 식별하기 위해 의미적 및 어휘적 분석 수행.
• 주제 모델링과 키워드 기반 분석을 통해 UMD-ODH 데이터셋에서 확보한 인간이 생성한 데이터와 합성 데이터를 비교.
• Aguirre 등(2022)이 제시한 기존 주제 모델 및 키워드 목록을 활용해 합성 데이터와 실제 데이터 간의 정량적 비교를 가능하게 함.
• GitHub를 통한 HeadRoom 데이터셋 및 코드의 공개를 통해 재현 가능성과 향후 연구 지원.

Figure 1: Topic Modeling: topic proportions between race and gender intersectionality – African American women vs. African American men. The bars represent confidence intervals. The closer to the graph extremities, the more prevalent the topics are for the corresponding demographics

실험 결과

연구 질문

• RQ1 RQ1: GPT-3는 다양한 인구통계 집단에 대해 어떤 우울증 스트레서를 식별하는가? 그리고 정신건강 스트레서에 대한 알려진 인구통계 편향을 포착하는가?
• RQ2 RQ2: 합성 데이터가 인종 및 성별 집단에 따라 인간이 생성한 데이터와 어떻게 비교되는가?
• RQ3 RQ3: GPT-3는 다양한 집단에서 실생활 우울증 스트레서 분포를 얼마나 잘 반영하는가? 즉, 알고리즘 정밀도는 어느 정도인가?

주요 결과

• GPT-3가 생성한 합성 데이터는 재정적 압박과 가족 관련 문제 등 인간이 생성한 데이터에서 흔히 발견되는 주요 우울증 스트레서를 여러 인구통계 집단에서 포괄하고 있음.
• 모델은 스트레서 기여도에 대해 인종과 성별 조합에 따라 편향을 보이며, 일부 스트레서는 과대 또는 과소 표현됨.
• 합성 데이터의 스트레서 패턴은 UMD-ODH 데이터셋의 실생활 분포와 부분적으로 일치하여 중간 수준의 알고리즘 정밀도를 보임.
• 모델은 실제 인간의 우울증 글에서 흔히 나타나는 자살 또는 자해 언급을 생성하지 않아, 안전성 또는 훈련 데이터 제약 가능성이 있음.
• 합성 데이터셋은 크기가 제한되어 있어(3,120개 샘플), 더 긴 텍스트 시퀀스나 더 복잡한 언어 패턴으로의 일반화가 어려움.
• 모델의 한계로는 설명 가능성 부족, 향후 GPT-3 버전의 변화 가능성, 그리고 2021년 6월에 종료된 훈련 데이터로 인해 2021년 이후의 관련성 제한됨.

Figure 2: Topic Modeling: topic proportion between different demographics, as detected in GPT-generated data and in real-life data. Colors represent different races and genders: Men – purple, Women – orange, Asian – magenta, African American – green, Hispanic – blue, and White – red. The bars repres