[论文解读] InceptionCapsule: Inception-Resnet and CapsuleNet with self-attention for medical image Classification

Elham Sadeghnezhad, Sajjad Salem|arXiv (Cornell University)|Feb 3, 2024

COVID-19 diagnosis using AI被引用 4

一句话总结

该论文提出 InceptionCapsule，一种结合 Inception-ResNet、胶囊网络与自注意力机制的混合深度学习模型，用于医学图像分类。通过利用预训练的 ImageNet 权重并利用中间特征生成丰富的向量表示，该模型提升了分类准确率——在 BUSI with GT 上达到 98.88%，在 Kvasir 上实现 5 类分类的 97.62% 准确率。

ABSTRACT

Initial weighting is significant in deep neural networks because the random selection of weights produces different outputs and increases the probability of overfitting and underfitting. On the other hand, vector-based approaches to extract vector features need rich vectors for more accurate classification. The InceptionCapsule approach is presented to alleviate these two problems. This approach uses transfer learning and the Inception-ResNet model to avoid random selection of weights, which takes initial weights from ImageNet. It also uses the output of Inception middle layers to generate rich vectors. Extracted vectors are given to a capsule network for learning, which is equipped with an attention technique. Kvasir data and BUSI with the GT dataset were used to evaluate this approach. This model was able to achieve 97.62 accuracies in 5-class classification and also achieved 94.30 accuracies in 8-class classification on Kvasir. In the BUSI with GT dataset, the proposed approach achieved accuracy=98.88, Precision=95.34, and F1-score=93.74, which are acceptable results compared to other approaches in the literature.

研究动机与目标

• 解决深度神经网络在医学图像分类中因随机权重初始化导致的不稳定性和过拟合问题。
• 通过从 Inception-ResNet 的中间层生成丰富、分层的向量表示，改进特征表示能力。
• 通过配备自注意力机制的胶囊网络，实现动态特征加权，提升分类性能。
• 在 Kvasir 和 BUSI with GT 等多样化医学影像基准上评估模型，以证明其鲁棒性与泛化能力。
• 通过新颖地融合注意力机制、残差学习与基于胶囊的特征学习，实现在多类别医学图像分类任务中的最先进性能。

提出的方法

• 通过使用预训练的 ImageNet 权重初始化 Inception-ResNet 主干网络，实现迁移学习，避免随机初始化。
• 从 Inception-ResNet 架构的中间层提取深度特征，生成丰富且具有判别力的向量表示。
• 将提取的特征向量输入胶囊网络，以建模层次化的空间关系并提升泛化能力。
• 在胶囊网络中集成自注意力机制，动态强调重要特征并抑制噪声。
• 在胶囊层中采用基于一致性的路由机制，根据空间一致性将特征分组为有意义的胶囊。
• 使用带标签平滑的交叉熵损失函数进行端到端训练，以提升模型鲁棒性并减少过拟合。

实验结果

研究问题

• RQ1 将 Inception-ResNet 与胶囊网络及自注意力机制结合，能否提升医学图像分类中的特征表示能力？
• RQ2 使用 Inception-ResNet 的中间特征是否能比标准特征提取方法在医学影像任务中取得更优性能？
• RQ3 在胶囊网络中集成自注意力机制，对医学图像数据集的分类准确率与鲁棒性有何影响？
• RQ4 所提出的 InceptionCapsule 模型能否在 Kvasir 和 BUSI with GT 数据集上超越现有最先进方法？
• RQ5 从 ImageNet 进行迁移学习在多大程度上能减少过拟合并提升医学图像分类中的收敛速度？

主要发现

• InceptionCapsule 模型在 5 类 Kvasir 数据集上达到 97.62% 的准确率，表明其在多类别医学图像分类任务中具有强大性能。
• 在 8 类 Kvasir 分类任务中，模型准确率达到 94.30%，表明其在复杂多标签场景下的可扩展性。
• 在 BUSI with GT 数据集上，模型准确率达到 98.88%，精确率为 95.34%，F1 分数为 93.74%，优于多种现有方法。
• 在胶囊网络中集成自注意力机制显著提升了特征判别能力，尤其在复杂或噪声较多的医学图像中表现突出。
• 使用预训练的 Inception-ResNet 权重降低了训练不稳定性并加速了收敛，有助于提升泛化能力。
• 该模型在多种医学影像任务中表现出稳健性能，证实了注意力机制、残差学习与基于胶囊的特征学习相结合的有效性。