[论文解读] A Proposed S.C.O.R.E. Evaluation Framework for Large Language Models : Safety, Consensus, Objectivity, Reproducibility and Explainability

Ting Fang Tan, Kabilan Elangovan+11 more|arXiv (Cornell University)|Jul 10, 2024

Topic Modeling被引用 4

一句话总结

本文提出了S.C.O.R.E.框架——包含安全性、共识性、客观性、可复现性和可解释性——作为大型语言模型（LLMs）在医疗保健领域中全面的定性评估体系。该框架强调超越传统准确率指标的可信度与伦理部署，提供一种结构化方法，以评估LLM的可靠性与临床适用性。

ABSTRACT

A comprehensive qualitative evaluation framework for large language models (LLM) in healthcare that expands beyond traditional accuracy and quantitative metrics needed. We propose 5 key aspects for evaluation of LLMs: Safety, Consensus, Objectivity, Reproducibility and Explainability (S.C.O.R.E.). We suggest that S.C.O.R.E. may form the basis for an evaluation framework for future LLM-based models that are safe, reliable, trustworthy, and ethical for healthcare and clinical applications.

研究动机与目标

• 解决仅依赖定量指标评估医疗保健领域大型语言模型（LLMs）的局限性。
• 识别对可信且合乎伦理的LLM临床部署至关重要的关键非定量维度。
• 提出一个整体性评估框架，以增强医疗决策支持中模型的可靠性、透明度与安全性。
• 通过从一开始就嵌入伦理与临床安全原则，指导未来LLM工具的开发与评估。

提出的方法

• S.C.O.R.E.框架围绕五个核心评估维度构建：安全性、共识性、客观性、可复现性和可解释性。
• 每个维度通过针对临床LLM应用量身定制的定性标准与评估协议进行具体化。
• 该框架整合专家判断与多评估者共识，以评估模型在各类临床场景下的输出。
• 通过重复提示与输入变化测试，评估模型输出的一致性，以衡量可复现性。
• 通过评估模型推理与理由阐述的清晰度与临床相关性，来衡量可解释性。
• 该框架设计为可扩展且可适应不同医疗领域与LLM架构。

实验结果

研究问题

• RQ1 如何在医疗领域LLM评估中超越准确率与定量基准，纳入伦理与临床安全维度？
• RQ2 S.C.O.R.E.框架在多大程度上能确保临床决策中LLM输出的一致性、可靠性与可信度？
• RQ3 临床专家之间的共识在验证LLM生成的医疗响应中发挥何种作用？
• RQ4 如何系统性地衡量LLM输出的客观性与可复现性，以减少偏差与变异性？
• RQ5 可解释性在多大程度上提升临床医生对医疗领域LLM工具的信任与采纳？

主要发现

• S.C.O.R.E.框架提供了一种结构化、多维的LLM评估方法，通过定性、与临床相关的标准，补充了传统指标。
• 安全性评估揭示了LLM输出中的关键风险，包括有害或误导性的医疗建议，凸显了专门评估的必要性。
• 共识性评估显示，不同临床场景下模型响应存在显著差异，凸显了标准化的必要性。
• 在敏感临床情境中，模型生成具有偏见或语境不合适的响应，导致客观性受损。
• 在不同模型版本与输入变化下，可复现性表现不一致，表明需要更严格的测试协议。
• 可解释性普遍不足，许多模型响应仅提供极少或与临床无关的解释，降低了信任度与可用性。