[论文解读] CerviFormer: A Pap-smear based cervical cancer classification method using cross attention and latent transformer

Bhaswati Singha Deo, Mayukha Pal+2 more|arXiv (Cornell University)|Mar 17, 2023

Cervical Cancer and HPV Research被引用 6

一句话总结

CerviFormer 提出了一种基于交叉注意力和潜在 Transformer 的方法，用于宫颈癌细胞学涂片图像的分类，通过将高维输入压缩到紧凑的潜在空间，降低了计算复杂度。该方法在 Sipakmed 数据集（3 类）上达到 93.70% 的准确率，在 Herlev 数据集（2 类）上达到 94.57%，优于当前最先进方法，同时实现了无需分割的端到端全片级分类。

ABSTRACT

Purpose: Cervical cancer is one of the primary causes of death in women. It should be diagnosed early and treated according to the best medical advice, as with other diseases, to ensure that its effects are as minimal as possible. Pap smear images are one of the most constructive ways for identifying this type of cancer. This study proposes a cross-attention-based Transfomer approach for the reliable classification of cervical cancer in Pap smear images. Methods: In this study, we propose the CerviFormer -- a model that depends on the Transformers and thereby requires minimal architectural assumptions about the size of the input data. The model uses a cross-attention technique to repeatedly consolidate the input data into a compact latent Transformer module, which enables it to manage very large-scale inputs. We evaluated our model on two publicly available Pap smear datasets. Results: For 3-state classification on the Sipakmed data, the model achieved an accuracy of 93.70%. For 2-state classification on the Herlev data, the model achieved an accuracy of 94.57%. Conclusion: Experimental results on two publicly accessible datasets demonstrate that the proposed method achieves competitive results when compared to contemporary approaches. The proposed method brings forth a comprehensive classification model to detect cervical cancer in Pap smear images. This may aid medical professionals in providing better cervical cancer treatment, consequently, enhancing the overall effectiveness of the entire testing process.

研究动机与目标

• 开发一种自动化、高精度且鲁棒的宫颈癌细胞学涂片图像分类系统，以减少诊断差异并提高早期检测能力。
• 通过引入基于交叉注意力的潜在瓶颈，解决标准 Transformer 的高计算成本问题，实现对大规模输入的高效处理。
• 通过利用注意力机制实现全片图像的端到端分类，消除对手动分割的依赖。
• 在不依赖强烈架构假设的前提下，提升模型在多样化细胞学涂片图像配置下的可解释性和泛化能力。
• 为病理科医生提供决策支持工具，提升诊断一致性并减少观察者偏差。

提出的方法

• 该模型通过将细胞学涂片图像划分为图像块，并应用交叉注意力机制，将高维输入图像块映射到大小为 N ≪ M 的紧凑潜在表示。
• 使用潜在 Transformer 模块对压缩表示进行迭代优化，将复杂度从 O(M²) 降低至 O(N²)，同时保留关键特征。
• 引入位置嵌入和模态特定嵌入，以在缺乏显式网格或序列结构的情况下保留空间和结构信息。
• 在输入图像块与潜在标记之间采用迭代交叉注意力，将有限的注意力容量集中于图像中最显著的特征。
• 在预处理阶段应用数据增强技术，以提升模型在不同图像质量与染色差异下的鲁棒性与泛化能力。
• 最终分类头基于优化后的潜在表示输出正常、良性及异常类别的概率。

实验结果

研究问题

• RQ1 基于 Transformer 的模型是否能在最小化计算复杂度的同时，实现对宫颈癌细胞学涂片图像的高精度分类？
• RQ2 使用交叉注意力的潜在瓶颈在大规模组织病理学图像上如何提升性能与可扩展性？
• RQ3 该模型在无需预先分割或感兴趣区域提取的情况下，对全片图像的分类能力达到何种程度？
• RQ4 在多个数据集上，该方法与现有最先进模型相比，在准确率、精确率和召回率方面表现如何？
• RQ5 该模型能否在具有不同染色、分辨率和细胞形态的多种细胞学涂片数据集上实现良好泛化？

主要发现

• CerviFormer 在 Sipakmed 数据集上实现了 93.70% 的分类准确率，用于 3 类分类（正常、良性、异常）。
• 在 Herlev 数据集上，模型在 2 类分类（正常 vs. 异常）任务中达到 94.57% 的准确率，优于以往最先进方法。
• 模型表现出高特异性（Sipakmed 上为 96.81%，Herlev 上为 97.06%），表明其正确识别正常病例的能力极强。
• 敏感度在 Sipakmed 上为 92.99%，在 Herlev 上为 87.50%，表明尽管存在类别不平衡，仍具备对异常病例的强检测能力。
• Sipakmed 上所有类别的 F1 分数均高于 0.89，Herlev 上为 0.89，表明各类别间精确率与召回率保持良好平衡。
• 两个数据集的混淆矩阵显示误分类极少，绝大多数预测结果落在正确类别上，证实了模型的鲁棒性。