[论文解读] ImplantFormer: Vision Transformer based Implant Position Regression Using Dental CBCT Data

Xinquan Yang, Xuguang Li+4 more|arXiv (Cornell University)|Oct 29, 2022

Dental Implant Techniques and Outcomes参考文献 48被引用 4

一句话总结

该论文提出 ImplantFormer，一种基于视觉Transformer的深度学习模型，通过牙冠的2D轴向锥束CT（CBCT）图像预测牙科种植体位置。通过将根部的种植体中心线标注投影到牙冠用于训练，并在推理时将预测结果反投影回根部，该方法利用多头自注意力机制捕捉局部特征与长距离依赖关系，在种植体位置回归任务中达到SOTA性能，mAP@75为13.7%。

ABSTRACT

Implant prosthesis is the most appropriate treatment for dentition defect or dentition loss, which usually involves a surgical guide design process to decide the implant position. However, such design heavily relies on the subjective experiences of dentists. In this paper, a transformer-based Implant Position Regression Network, ImplantFormer, is proposed to automatically predict the implant position based on the oral CBCT data. We creatively propose to predict the implant position using the 2D axial view of the tooth crown area and fit a centerline of the implant to obtain the actual implant position at the tooth root. Convolutional stem and decoder are designed to coarsely extract image features before the operation of patch embedding and integrate multi-level feature maps for robust prediction, respectively. As both long-range relationship and local features are involved, our approach can better represent global information and achieves better location performance. Extensive experiments on a dental implant dataset through five-fold cross-validation demonstrated that the proposed ImplantFormer achieves superior performance than existing methods.

研究动机与目标

• 自动化牙科CBCT影像中的种植体位置预测流程，减少对主观临床判断的依赖。
• 通过在图像质量更优的牙冠2D轴向视图上进行训练，解决CBCT中根部区域模糊的问题。
• 通过视觉Transformer架构整合局部图像特征与长距离空间关系，提升预测鲁棒性。
• 通过多张2D切片的预测融合实现中心线拟合，无需大量3D计算，实现精确的3D种植体位置估计。

提出的方法

• 模型在视觉Transformer编码器的补丁嵌入前，使用卷积主干网络提取粗粒度特征。
• 通过卷积解码器融合主干网络的多级特征图，增强表征鲁棒性。
• 在牙冠的2D轴向CBCT切片上预测种植体位置，其中标注通过空间变换算法从根部投影至牙冠。
• 将预测的种植体中心位置从牙冠反投影至根部区域，以估计实际的3D种植体位置。
• 通过在多张2D切片上拟合中心线，恢复3D上下文信息并提升空间一致性。
• 视觉Transformer利用多头自注意力机制建模远距离图像补丁之间的长距离依赖关系，尤其在种植体位置与邻牙之间。

实验结果

研究问题

• RQ1 基于视觉Transformer的模型是否能在牙科CBCT数据上，相比基于锚点和无锚点的目标检测器，实现更优的种植体位置预测精度？
• RQ2 在图像质量更优的牙冠2D轴向视图上进行训练，是否能比直接在根部水平训练获得更精确的种植体位置预测？
• RQ3 该模型在多大程度上利用了长距离空间关系（如种植体位置与邻牙之间的关系）以提升定位精度？
• RQ4 在不依赖完整3D体素处理的前提下，通过2D切片上的中心线拟合在多大程度上保留了3D上下文信息？
• RQ5 视觉Transformer中的注意力机制在多大程度上与牙医临床决策过程相契合？

主要发现

• ImplantFormer在牙科种植体数据集上达到13.7%的AP@75，优于所有基线检测器，包括Deformable DETR（12.8%）和无锚点方法VFNet（11.8%）。
• 与Deformable DETR相比，该模型在5像素以内预测结果多出8%，表明其在定位精度上更优，尽管mAP仅高1.2%。
• 注意力图可视化结果证实，模型聚焦于邻牙的边缘，与牙医临床策略一致。
• 切片视图对比显示，预测的种植体位置和方向在轴向、矢状面和冠状面视图中均与真实值高度吻合。
• 在牙齿稀疏的困难病例中，ImplantFormer保持了准确预测，而VFNet和Deformable DETR产生了假阳性结果。
• 通过卷积解码器融合多级特征显著提升了特征表征能力和预测鲁棒性。