[论文解读] Differentiate ChatGPT-generated and Human-written Medical Texts

Wenxiong Liao, Zhengliang Liu+9 more|arXiv (Cornell University)|Apr 23, 2023

Artificial Intelligence in Healthcare and Education被引用 24

一句话总结

论文构建了人类与 ChatGPT 生成的医学文本数据集，分析语言差异，并展示一个基于 BERT 的检测器在区分 ChatGPT 生成的医学文本与人类撰写文本方面达到 F1 > 95%。

ABSTRACT

Background: Large language models such as ChatGPT are capable of generating grammatically perfect and human-like text content, and a large number of ChatGPT-generated texts have appeared on the Internet. However, medical texts such as clinical notes and diagnoses require rigorous validation, and erroneous medical content generated by ChatGPT could potentially lead to disinformation that poses significant harm to healthcare and the general public. Objective: This research is among the first studies on responsible and ethical AIGC (Artificial Intelligence Generated Content) in medicine. We focus on analyzing the differences between medical texts written by human experts and generated by ChatGPT, and designing machine learning workflows to effectively detect and differentiate medical texts generated by ChatGPT. Methods: We first construct a suite of datasets containing medical texts written by human experts and generated by ChatGPT. In the next step, we analyze the linguistic features of these two types of content and uncover differences in vocabulary, part-of-speech, dependency, sentiment, perplexity, etc. Finally, we design and implement machine learning methods to detect medical text generated by ChatGPT. Results: Medical texts written by humans are more concrete, more diverse, and typically contain more useful information, while medical texts generated by ChatGPT pay more attention to fluency and logic, and usually express general terminologies rather than effective information specific to the context of the problem. A BERT-based model can effectively detect medical texts generated by ChatGPT, and the F1 exceeds 95%.

研究动机与目标

• 通过了解人类与 ChatGPT 生成的医学文本之间的差异，促进 AI 在医学中的可信使用。
• 构建专门的医学摘要和放射科报告数据集，包含人类与 ChatGPT 生成的内容。
• 表征区分两种文本类型的语言特征（词汇、词性、依存关系、情感、困惑度）。
• 开发并评估机器学习检测器，以可靠识别 ChatGPT 生成的医学文本。

提出的方法

• 创建两个数据集：来自 Kaggle 的医学摘要和放射科报告；通过文本续写（带示例演示）的方式生成 ChatGPT 对应文本（上下文学习）。
• 进行语言分析：词汇/词干计数、词性标注（NLTK）、依存句法分析（Stanford CoreNLP）、情感（Cardiff NLP 模型）、困惑度（BioGPT）。
• 量化人类与 ChatGPT 文本在流畅性、专门性和统计属性上的差异。
• 使用以下方法构建检测器：困惑度阈值（Perplexity-CLS）、CART（TF-IDF 特征）、XGBoost（TF-IDF 特征）、以及经微调的 BERT（bert-base-cased）。
• 在训练/验证/测试分割（7:2:1）上评估检测器，并报告精确度、召回率和 F1 分数。

实验结果

研究问题

• RQ1 人类撰写的医学文本与 ChatGPT 生成的文本之间存在哪些语言差异？
• RQ2 机器学习模型是否能够准确检测 ChatGPT 生成的医学文本，哪些模型表现最好？
• RQ3 这两组数据集（医学摘要和放射科报告）是否可通过所提出的特征和模型得到一致的区分？

主要发现

• 人类生成的医学内容更丰富、具体；ChatGPT 生成的文本更流畅、逻辑性强、且更偏向通用。
• ChatGPT 生成的医学文本在情感上倾向中性/积极，困惑度较低，反映了训练数据的模式复制。
• 词性和依存分析显示 ChatGPT 使用更多限定词、连词和并列，且依存距离更短。
• 基于 BERT 的检测器达到最佳性能，在两个数据集上 F1 > 0.95；基于困惑度的方法较弱。
• XGBoost 和 CART 提供具有竞争力的性能并提供可解释的特征洞见；BERT 提供最强的整体区分能力。