[论文解读] Enhancing MRI-Based Classification of Alzheimer's Disease with Explainable 3D Hybrid Compact Convolutional Transformers

Arindam Majee, Avisek Gupta+2 more|arXiv (Cornell University)|Mar 24, 2024

Brain Tumor Detection and ClassificationNeuroscience被引用 3

一句话总结

本文提出一种3D混合紧凑卷积视觉Transformer（HCCT）模型，通过整合3D卷积神经网络与视觉Transformer，提升从MRI扫描中对阿尔茨海默病（AD）的分类性能。该模型能够同时捕捉局部空间特征与长程上下文依赖关系，在ADNI数据集上实现了最先进水平的准确率与鲁棒性，并通过基于注意力的显著性图实现优越的可解释性。

ABSTRACT

Alzheimer's disease (AD), characterized by progressive cognitive decline and memory loss, presents a formidable global health challenge, underscoring the critical importance of early and precise diagnosis for timely interventions and enhanced patient outcomes. While MRI scans provide valuable insights into brain structures, traditional analysis methods often struggle to discern intricate 3D patterns crucial for AD identification. Addressing this challenge, we introduce an alternative end-to-end deep learning model, the 3D Hybrid Compact Convolutional Transformers 3D (HCCT). By synergistically combining convolutional neural networks (CNNs) and vision transformers (ViTs), the 3D HCCT adeptly captures both local features and long-range relationships within 3D MRI scans. Extensive evaluations on prominent AD benchmark dataset, ADNI, demonstrate the 3D HCCT's superior performance, surpassing state of the art CNN and transformer-based methods in classification accuracy. Its robust generalization capability and interpretability marks a significant stride in AD classification from 3D MRI scans, promising more accurate and reliable diagnoses for improved patient care and superior clinical outcomes.

研究动机与目标

• 为解决在阿尔茨海默病（AD）临床症状出现前，检测MRI扫描中细微的3D结构变化的挑战。
• 克服传统CNN与ViT在3D神经影像数据中难以兼顾局部特征与全局上下文建模的局限性。
• 开发一种深度学习模型，在实现高分类准确率的同时，保持临床验证所需的可解释性。
• 通过端到端、参数高效的架构，提升AD的早期且可靠的诊断能力，适用于现实世界部署。

提出的方法

• 3D HCCT采用混合架构，结合3D卷积层用于局部特征提取，以及3D视觉Transformer（ViT）模块，以建模整个脑体积的长程依赖关系。
• 采用紧凑、参数高效的Transformer模块，在保持3D MRI数据性能的同时降低计算成本。
• 在网络中实现多尺度的层次化特征学习，支持对局灶性萎缩与弥漫性神经退行性变模式的检测。
• 生成注意力图以可视化对分类决策贡献最大的脑区，提升模型的可解释性。
• 在ADNI数据集上端到端训练网络，采用交叉熵损失函数，并通过AdamW优化器配合学习率调度进行训练。
• 通过消融实验评估Transformer深度与网络架构各组件对性能与泛化能力的影响。

实验结果

研究问题

• RQ1 混合3D CNN-Transformer架构是否能在3D MRI扫描中对阿尔茨海默病的分类性能上超越独立的CNN与ViT模型？
• RQ2 Transformer层数量如何影响模型准确率与泛化能力，尤其是在类别不平衡的情况下？
• RQ3 注意力图在多大程度上能为AD诊断中模型预测提供临床有意义的解释？
• RQ4 所提出的3D HCCT在多样化MRI数据分布（包括类别不平衡数据集）上是否具备有效的泛化能力？
• RQ5 与现有最先进方法相比，该模型的参数效率与计算资源占用有何差异？

主要发现

• 3D HCCT在ADNI数据集上实现了最先进水平的分类准确率，优于现有的CNN与基于Transformer的模型。
• 3层Transformer配置达到最高性能，进一步增加深度导致准确率轻微下降，表明可能存在过拟合现象。
• 即使在类别不平衡的训练数据上，模型也展现出强大的泛化能力，表明其对现实世界数据分布偏移具有鲁棒性。
• 注意力可视化显示，模型聚焦于海马体与颞叶等临床相关的脑区，与已知的AD病理特征一致。
• 模型实现了高敏感度与高特异度，表明在准确识别AD病例与减少假阳性方面表现优异。
• 紧凑的架构显著降低了参数数量与计算需求，使其适用于资源受限的临床环境部署。