[论文解读] Learning to Summarize Radiology Findings

Yuhao Zhang, Daisy Yi Ding+3 more|arXiv (Cornell University)|Sep 12, 2018

Topic Modeling参考文献 25被引用 8

一句话总结

本文提出一种神经序列到序列模型，用于从放射学检查结果自动生成放射科印象，利用编码的背景信息引导摘要生成。该模型在ROUGE指标上优于现有基线模型，并在盲评放射科医生评估中达到67%的临床有效性，这是首次尝试使用神经网络进行放射科印象的摘要生成。

ABSTRACT

The Impression section of a radiology report summarizes crucial radiology findings in natural language and plays a central role in communicating these findings to physicians. However, the process of generating impressions by summarizing findings is time-consuming for radiologists and prone to errors. We propose to automate the generation of radiology impressions with neural sequence-to-sequence learning. We further propose a customized neural model for this task which learns to encode the study background information and use this information to guide the decoding process. On a large dataset of radiology reports collected from actual hospital studies, our model outperforms existing non-neural and neural baselines under the ROUGE metrics. In a blind experiment, a board-certified radiologist indicated that 67% of sampled system summaries are at least as good as the corresponding human-written summaries, suggesting significant clinical validity. To our knowledge our work represents the first attempt in this direction.

研究动机与目标

• 为解决手动撰写放射科印象耗时且易出错的问题，通过自动化放射学检查结果的摘要生成来实现改进。
• 探究神经序列到序列模型是否能够有效从放射学报告中生成简洁且具有临床有效性的印象。
• 通过在解码过程中整合检查背景信息（如患者病史、检查类型）来提升摘要质量。
• 通过一位获得认证的放射科医生进行盲评，评估生成摘要的临床有效性。
• 评估模型在不同放射学机构和未见解剖部位上的泛化能力与可迁移性。

提出的方法

• 提出一种定制化的神经编码器-解码器架构，联合编码放射学检查结果和检查背景（如临床病史、检查类型），以指导生成式摘要。
• 使用注意力机制，使解码器在生成过程中能够关注检查结果和背景信息的相关部分。
• 采用门控注意力机制，动态调整解码过程中背景信息的重要性权重。
• 在来自斯坦福医院的真实放射学报告大规模数据集上端到端训练该模型。
• 将指针-生成网络作为基线模型，并使用标准的ROUGE指标比较性能。
• 应用迁移学习，评估模型在另一家医院的报告以及未见解剖部位上的泛化能力。

实验结果

研究问题

• RQ1 神经序列到序列模型能否有效从放射学检查结果中生成具有高临床有效性的放射科印象？
• RQ2 与忽略背景信息的模型相比，整合检查背景信息在多大程度上提升了生成摘要的质量和准确性？
• RQ3 该模型在未见训练数据的其他放射学机构和解剖部位上的泛化能力如何？
• RQ4 在模型生成的摘要中，最常见的错误类型（如遗漏关键信息、生成无关内容）是什么？
• RQ5 与非神经网络及现有神经网络基线相比，该模型在标准摘要评估指标上的表现如何？

主要发现

• 所提出的模型在ROUGE-L、ROUGE-1和ROUGE-2指标上均优于非神经网络和神经网络基线模型，表明其在自动评估中表现更优。
• 在盲评中，67%的模型生成摘要被一位获得认证的放射科医生评为至少与人工撰写摘要相当，表明其具有较强的临床有效性。
• 最常见的错误类型是遗漏关键信息（占错误的24%），表明在建模检查结果的临床重要性方面仍有改进空间。
• 该模型展现出跨机构的可迁移性，在无需微调的情况下，能有效泛化到另一家医院的放射学报告。
• 该模型能够为训练过程中未见过的解剖部位生成有意义的摘要，表明其具备一定程度的零样本泛化能力。
• 错误分析显示，该模型有时会遗漏随访建议，因为这类信息通常未在检查结果部分明确提及，而需要领域级推理。