[论文解读] Towards Algorithmic Fidelity: Mental Health Representation across Demographics in Synthetic vs. Human-generated Data

Shinka Mori, Oana Ignat+2 more|arXiv (Cornell University)|Mar 25, 2024

Mental Health Research TopicsPsychology被引用 3

一句话总结

本文介绍了HeadRoom，一个通过GPT-3生成的合成数据集，包含3,120篇关于抑郁诱因压力源的帖子，控制了种族、性别和时间（新冠前与新冠后）。通过将合成数据与人类生成的心理健康数据进行比较，评估了算法保真度，发现GPT-3在一定程度上捕捉到了不同人群的真实世界压力源分布，但存在显著的偏见和代表性与敏感性方面的局限性。

ABSTRACT

Synthetic data generation has the potential to impact applications and domains with scarce data. However, before such data is used for sensitive tasks such as mental health, we need an understanding of how different demographics are represented in it. In our paper, we analyze the potential of producing synthetic data using GPT-3 by exploring the various stressors it attributes to different race and gender combinations, to provide insight for future researchers looking into using LLMs for data generation. Using GPT-3, we develop HEADROOM, a synthetic dataset of 3,120 posts about depression-triggering stressors, by controlling for race, gender, and time frame (before and after COVID-19). Using this dataset, we conduct semantic and lexical analyses to (1) identify the predominant stressors for each demographic group; and (2) compare our synthetic data to a human-generated dataset. We present the procedures to generate queries to develop depression data using GPT-3, and conduct analyzes to uncover the types of stressors it assigns to demographic groups, which could be used to test the limitations of LLMs for synthetic data generation for depression data. Our findings show that synthetic data mimics some of the human-generated data distribution for the predominant depression stressors across diverse demographics.

研究动机与目标

• 探究大型语言模型（如GPT-3）如何在不同种族和性别群体中呈现抑郁压力源。
• 评估合成数据在复现真实世界心理健康数据分布方面的算法保真度。
• 识别大型语言模型生成的心理健康数据中的偏见与局限性，特别是对代表性不足群体的影响。
• 提供一种可复现的框架，用于通过受控提示生成和分析合成抑郁数据。
• 提醒研究者避免在心理健康应用中不加批判地使用合成数据，因为可能放大偏见。

提出的方法

• 使用GPT-3进行受控提示工程，生成3,120篇关于抑郁压力源的合成博客风格帖子，明确控制种族、性别和时间范围（新冠前与新冠后）。
• 开发结构化提示模板：'请扮演一位感到抑郁的{种族} {性别}，撰写一篇博客文章，描述你生活中主要的压力源。'
• 对生成数据进行语义和词汇分析，识别各人口群体中的主要压力源。
• 通过主题建模和基于关键词的分析，将合成数据与UMD-ODH数据集中的真实人类生成数据进行比较。
• 使用Aguirre等人（2022）已有的主题模型和关键词列表，实现合成数据与真实数据之间的定量比较。
• 通过GitHub公开发布HeadRoom数据集和代码，以支持可复现性与进一步研究。

Figure 1: Topic Modeling: topic proportions between race and gender intersectionality – African American women vs. African American men. The bars represent confidence intervals. The closer to the graph extremities, the more prevalent the topics are for the corresponding demographics

实验结果

研究问题

• RQ1 RQ1：GPT-3为不同人口群体识别出的抑郁压力源是什么？它是否捕捉到了心理健康压力源中已知的人口统计学偏见？
• RQ2 RQ2：在种族和性别人口群体中，抑郁压力源的合成数据与人类生成数据相比如何？
• RQ3 RQ3：GPT-3在多大程度上表现出‘算法保真度’，即在不同群体中复现真实世界抑郁压力源分布的能力？

主要发现

• GPT-3生成的合成数据在多个不同人口群体中捕捉到了人类生成数据中最常见的抑郁压力源，如经济压力和家庭相关问题。
• 该模型在压力源归因上表现出人口统计学偏见，某些压力源在不同种族与性别组合中被过度或不足代表。
• 合成数据中的压力源模式与UMD-ODH数据集中真实世界分布部分一致，表明具有中等程度的算法保真度。
• 该模型未生成与自杀或自残相关的提及，而这些在真实人类抑郁文本中较为常见，表明可能存在安全限制或训练数据局限性。
• 该合成数据集规模有限（3,120个样本），可能无法推广到更长的文本序列或更复杂的语言模式。
• 模型的局限性包括缺乏可解释性、未来GPT-3版本可能发生变化，以及训练数据截止至2021年6月，限制了其在2021年以后的适用性。

Figure 2: Topic Modeling: topic proportion between different demographics, as detected in GPT-generated data and in real-life data. Colors represent different races and genders: Men – purple, Women – orange, Asian – magenta, African American – green, Hispanic – blue, and White – red. The bars repres