[论文解读] Learning for Biomedical Information Extraction: Methodological Review of Recent Advances

Feifan Liu, Jinying Chen+2 more|arXiv (Cornell University)|Jun 26, 2016

Biomedical Text Mining and Ontologies参考文献 184被引用 33

一句话总结

本文综述了近年来生物医学信息抽取（BioIE）领域基于学习的方法，重点聚焦于开放信息抽取和深度学习方面的方法论进展。系统性地对技术进行分类，突出关键创新，并展望下一代BioIE系统的未来发展方向。

ABSTRACT

Biomedical information extraction (BioIE) is important to many applications, including clinical decision support, integrative biology, and pharmacovigilance, and therefore it has been an active research. Unlike existing reviews covering a holistic view on BioIE, this review focuses on mainly recent advances in learning based approaches, by systematically summarizing them into different aspects of methodological development. In addition, we dive into open information extraction and deep learning, two emerging and influential techniques and envision next generation of BioIE.

研究动机与目标

• 提供对基于学习的生物医学信息抽取（BioIE）近期进展的全面、以方法论为重点的综述。
• 分析并分类新兴技术，特别是生物医学信息抽取领域中的开放信息抽取与深度学习方法。
• 识别将非结构化生物医学文本转化为结构化、可操作知识过程中关键的方法论趋势与挑战。
• 通过整合前沿学习范式，展望下一代BioIE系统的未来研究方向。
• 支持研究人员和从业者理解自动化BioIE的最新进展与方法论演进。

提出的方法

• 本文对BioIE中的基于学习的方法进行了系统性综述，按方法论组件（如特征工程、序列标注和关系抽取）进行组织。
• 探讨了深度学习架构（特别是循环神经网络（RNNs）和注意力机制）在提升实体与关系检测性能方面的作用。
• 综述评估了开放信息抽取（Open IE）技术，该技术可从生物医学文本中提取开放式、灵活的关系，而无需预定义的模式。
• 分析了预训练语言模型与上下文嵌入（如BERT类架构）在增强BioIE任务表征学习方面的整合。
• 方法论包括对监督学习、弱监督学习与远程监督技术在低资源生物医学场景下的比较分析。
• 本文采用方法论发展分类法来组织综述内容，强调BioIE系统在可扩展性、泛化能力与可解释性方面的进展。

实验结果

研究问题

• RQ1 深度学习技术如何提升了生物医学信息抽取系统的性能与鲁棒性？
• RQ2 生物医学文本中开放信息抽取的关键方法论进展是什么？
• RQ3 预训练语言模型在低资源生物医学自然语言处理场景中的表征学习中发挥何种作用？
• RQ4 当前基于学习的BioIE方法存在哪些局限性，未来系统如何加以改进？
• RQ5 哪些方法论趋势正在塑造下一代生物医学信息抽取技术？

主要发现

• 使用注意力机制与双向RNN的深度学习模型在实体与关系抽取任务中显著优于传统机器学习方法。
• 开放信息抽取能够在无需预定义关系模式的情况下，实现灵活且可扩展的关系挖掘。
• 如BERT等预训练语言模型展现出强大的迁移学习能力，在标注数据有限的下游BioIE任务中显著提升了性能。
• 远程监督与弱监督学习技术的整合，增强了在低资源生物医学领域中的模型泛化能力。
• 表征学习与序列建模方面的方法论进步，使BioIE系统在多样化生物医学应用中更加准确与鲁棒。
• 综述识别出一种日益增长的趋势：端到端、基于神经网络的BioIE流水线，减少了对手工特征与基于规则系统的依赖。