[论文解读] Pulmonary Disease Classification Using Globally Correlated Maximum Likelihood: an Auxiliary Attention mechanism for Convolutional Neural Networks

Edward Verenich, Tobías Martín+3 more|arXiv (Cornell University)|Sep 1, 2021

COVID-19 diagnosis using AI被引用 4

一句话总结

本文提出了一种新颖的辅助全局注意力机制——全局相关最大似然（GCML），通过捕捉显著特征之间的全局空间相关性，增强卷积神经网络（CNNs）在肺部疾病分类中的性能，同时不牺牲平移不变性或等变性。GCML在肺炎分类上的敏感度提升了2.6个百分点（93.7% vs. 91.1%），置信度为75%，从而能够更好地区分病毒性肺炎与COVID-19等相似疾病，利用空间上下文信息。

ABSTRACT

Convolutional neural networks (CNN) are now being widely used for classifying and detecting pulmonary abnormalities in chest radiographs. Two complementary generalization properties of CNNs, translation invariance and equivariance, are particularly useful in detecting manifested abnormalities associated with pulmonary disease, regardless of their spatial locations within the image. However, these properties also come with the loss of exact spatial information and global relative positions of abnormalities detected in local regions. Global relative positions of such abnormalities may help distinguish similar conditions, such as COVID-19 and viral pneumonia. In such instances, a global attention mechanism is needed, which CNNs do not support in their traditional architectures that aim for generalization afforded by translation invariance and equivariance. Vision Transformers provide a global attention mechanism, but lack translation invariance and equivariance, requiring significantly more training data samples to match generalization of CNNs. To address the loss of spatial information and global relations between features, while preserving the inductive biases of CNNs, we present a novel technique that serves as an auxiliary attention mechanism to existing CNN architectures, in order to extract global correlations between salient features.

研究动机与目标

• 为解决标准CNN在捕捉肺部异常之间全局空间关系方面的局限性，该局限性阻碍了对病毒性肺炎与COVID-19等相似疾病的有效区分。
• 在保持CNN归纳偏置（即平移不变性与等变性）的同时，实现对全局特征相关性的感知。
• 与视觉Transformer相比，减少对数据的依赖，实现在数据稀缺的医学影像环境中的有效泛化。
• 开发一种辅助注意力机制，作用于类别激活图（CAM）而非原始图像标记，从而在不改变CNN主干网络的前提下提升空间推理能力。

提出的方法

• GCML将全局注意力机制应用于CNN生成的类别激活图（CAMs），而非图像块或标记，以保持CNN的归纳偏置。
• 通过阈值化二项分布近似（利用τ参数），建模图像中显著特征的条件概率分布，学习全局空间相关性。
• 注意力机制从CAMs中计算查询、键和值矩阵，使网络能够基于全局相互关系加权特征重要性。
• 该方法避免图像标记化，保持CNN的空间不变性，同时引入具有判别性的全局上下文信息用于分类。
• GCML被实现为轻量级、可微分的模块，可无缝集成到现有CNN架构中，无需微调主干网络。
• 模型通过全局相关最大似然目标函数进行端到端训练，以优化空间一致的特征表示。

实验结果

研究问题

• RQ1 能否将全局注意力机制集成到标准CNN中，以提升其在具有相似特征但空间分布不同的肺部疾病之间的区分能力？
• RQ2 所提出的GCML机制是否在保持CNN平移不变性与等变性的同时，实现全局空间推理能力？
• RQ3 GCML是否能在显著更少的训练样本下实现与视觉Transformer相当的性能，特别是在数据稀缺的医学影像环境中？
• RQ4 在分类病毒性肺炎与其他相似疾病时，引入全局空间上下文能在多大程度上提升敏感度？

主要发现

• GCML在肺炎分类上的测试准确率达到93.7%，优于标准CNN的91.1%，提升了2.6个百分点。
• 假设检验确认GCML在75%置信水平下优于标准CNN（Z = -1.1607），表明准确率提升具有统计显著性。
• 该方法通过利用显著特征之间的全局空间相关性，提升了敏感度，从而更好地区分具有重叠视觉模式的疾病。
• GCML在保持CNN归纳偏置（即平移不变性与等变性）的同时引入全局注意力，而视觉Transformer则缺乏这些特性。
• 与视觉Transformer相比，该方法减少了对数据的依赖，因为GCML即使在数据稀缺的环境中也能实现有效泛化。
• 作者已公开所有代码、数据与模型，以支持可复现性与进一步研究，推动医学人工智能领域的社区协作发展。