[论文解读] Health Disparities through Generative AI Models: A Comparison Study Using A Domain Specific large language model

Yohn Jairo Parra Bautista, Vinicious Lima+2 more|arXiv (Cornell University)|Oct 23, 2023

Topic Modeling被引用 4

一句话总结

本研究通过余弦相似度比较了领域特定的SciBERT与通用型BERT在检测文本查询中健康差异方面的表现。尽管SciBERT经过生物医学领域的训练，但在区分语境敏感的健康差异术语方面，BERT表现更优，揭示了领域特定模型在伦理和社会语境意识方面可能存在不足。

ABSTRACT

Health disparities are differences in health outcomes and access to healthcare between different groups, including racial and ethnic minorities, low-income people, and rural residents. An artificial intelligence (AI) program called large language models (LLMs) can understand and generate human language, improving health communication and reducing health disparities. There are many challenges in using LLMs in human-doctor interaction, including the need for diverse and representative data, privacy concerns, and collaboration between healthcare providers and technology experts. We introduce the comparative investigation of domain-specific large language models such as SciBERT with a multi-purpose LLMs BERT. We used cosine similarity to analyze text queries about health disparities in exam rooms when factors such as race are used alone. Using text queries, SciBERT fails when it doesn't differentiate between queries text: "race" alone and "perpetuates health disparities." We believe clinicians can use generative AI to create a draft response when communicating asynchronously with patients. However, careful attention must be paid to ensure they are developed and implemented ethically and equitably.

研究动机与目标

• 评估像SciBERT这样的领域特定大语言模型在临床文本查询中检测健康差异的能力。
• 比较SciBERT与通用型BERT在识别语境敏感的健康差异术语方面的性能。
• 评估像SciBERT这样的领域特定模型是否充分捕捉其嵌入中健康差异的社会与伦理维度。
• 识别当前大语言模型在临床沟通中可能持续或掩盖健康差异的局限性。
• 通过评估模型对健康决定因素的社会敏感性，为医疗领域生成式人工智能的伦理与公平设计提供建议。

提出的方法

• 使用余弦相似度比较与健康差异相关的文本查询的语义嵌入。
• 构建涉及种族、民族和健康差异的文本查询，包括中性与语境敏感的变体。
• 训练并应用SciBERT（领域特定）和BERT（通用型）以生成查询的密集向量表示。
• 计算查询对之间的余弦相似度以衡量语义相似性，重点关注仅‘种族’与‘种族加剧健康差异’应存在差异的情况。
• 根据嵌入是否能区分健康差异话语中‘种族’的语境不同用法来评估模型性能。
• 分析SciBERT嵌入中标记和子词的分布，以评估数据表示偏差。

Figure 1: Flowchart Comparative Study with Health Disparities prompts

实验结果

研究问题

• RQ1 SciBERT作为领域特定语言模型，能否有效区分健康差异话语中‘种族’的中性用法与语境敏感用法？
• RQ2 SciBERT在检测与健康差异相关查询的语义差异方面，与通用型BERT相比表现如何？
• RQ3 像SciBERT这样的领域特定大语言模型在学习到的嵌入中，能在多大程度上反映健康决定因素（如种族和民族）？
• RQ4 SciBERT训练数据中是否存在表示空白，导致其在处理健康差异术语的伦理与社会语境方面表现不佳？
• RQ5 余弦相似度能否有效衡量大语言模型对健康公平相关语言的语义敏感性？

主要发现

• BERT在区分仅语境不同的文本查询（如仅‘种族’与‘种族加剧健康差异’）方面优于SciBERT。
• 尽管经过生物医学训练，SciBERT仍无法区分涉及健康差异的语义上不同的查询，表明其缺乏语境敏感性。
• SciBERT的嵌入显示出更高的标记多样性，包括更多子词、数字和特殊字符（如‘%’），表明其更关注技术语言而非社会语言。
• 结果表明，SciBERT的训练数据可能未能充分代表健康差异的伦理与社会维度，可能导致临床人工智能应用中的潜在偏见。
• 如果领域特定模型未考虑健康差异中的社会语境与权力关系，它们未必能提升自然语言处理应用中的公平性或公正性。
• 本研究强调，即使经过专门训练的大语言模型，若未对其语境与伦理敏感性进行仔细评估，仍可能加剧健康差异。