[논문 리뷰] ImplantFormer: Vision Transformer based Implant Position Regression Using Dental CBCT Data

Xinquan Yang, Xuguang Li외 4명|arXiv (Cornell University)|2022. 10. 29.

Dental Implant Techniques and Outcomes참고 문헌 48인용 수 4

한 줄 요약

이 논문은 치아 뿌리에서 치아 冠부로의 식별선 중심선(annotation)을 훈련 시에 투영하고 추론 시에 역으로 투영함으로써, 다중 헤드 자기주의(multi-head self-attention)를 통해 국소적 특징과 장거리 상관관계를 모두 활용하는 Vision Transformer 기반의 딥러닝 모델인 ImplantFormer을 제안한다. 2D 축방향 컨볼루션-빔 CT(CBCT) 영상에서 치열 식별선 위치를 예측한다. 이로 인해 13.7%의 AP@75 성능을 기록하며, 현재까지의 최고 성능을 달성하였다.

ABSTRACT

Implant prosthesis is the most appropriate treatment for dentition defect or dentition loss, which usually involves a surgical guide design process to decide the implant position. However, such design heavily relies on the subjective experiences of dentists. In this paper, a transformer-based Implant Position Regression Network, ImplantFormer, is proposed to automatically predict the implant position based on the oral CBCT data. We creatively propose to predict the implant position using the 2D axial view of the tooth crown area and fit a centerline of the implant to obtain the actual implant position at the tooth root. Convolutional stem and decoder are designed to coarsely extract image features before the operation of patch embedding and integrate multi-level feature maps for robust prediction, respectively. As both long-range relationship and local features are involved, our approach can better represent global information and achieves better location performance. Extensive experiments on a dental implant dataset through five-fold cross-validation demonstrated that the proposed ImplantFormer achieves superior performance than existing methods.

연구 동기 및 목표

• 치과 CBCT 영상에서 식별선 위치 예측 과정을 자동화하여 임상적 주관적 판단에 대한 의존도를 줄이기.
• CBCT에서 뿌리 영역이 흐릿한 문제를 해결하기 위해, 이미지 품질이 더 좋은 2D 축방향 치아 冠부 영상에서 훈련하는 것.
• Vision Transformer 아키텍처를 활용해 국소적 이미지 특징과 장거리 공간적 관계를 통합함으로써 예측의 강인성을 향상시키기.
• 3D 볼륨 처리를 위한 고비용 3D 연산을 피하기 위해, 여러 2D 슬라이스를 통합하여 중심선 피팅을 통해 정확한 3D 식별선 위치 추정을 가능하게 하기.

제안 방법

• 모델은 Vision Transformer 인코더의 패치 임bedding 이전에 복소 특징을 추출하기 위해 컨volutional 스템을 사용한다.
• 백본에서 생성된 다중 수준의 특징 맵을 컨볼루션 디코더를 통해 융합하여 표현 강인성을 향상시킨다.
• 식별선 위치는 치아 冠부의 2D 축방향 CBCT 슬라이스에서 예측되며, 공간 변환 알고리즘을 사용해 뿌리에서부터 중심선 annotation을 투영한다.
• 예측된 식별선 중심 위치는 冠부에서 뿌리 영역으로 역으로 투영되어 실제 3D 식별선 위치를 추정한다.
• 여러 2D 슬라이스의 예측 위치를 중심선에 피팅함으로써 3D 맥락을 복원하고 공간 일관성을 향상시킨다.
• Vision Transformer는 멀리 떨어진 이미지 패치 간의 장거리 상관관계를 모델링하기 위해 다중 헤드 자기주의를 활용한다. 특히, 식별선 위치와 인접 치아 사이의 관계를 강조한다.

실험 결과

연구 질문

• RQ1 Vision Transformer 기반 모델이 치과 CBCT 자료에서 앵커 기반 및 앵커리스 객체 검출기보다 뛰어난 식별선 위치 예측 정확도를 달성할 수 있는가?
• RQ2 이미지 품질이 더 좋은 치아 冠부의 2D 축방향 영상에서 훈련하는 것이 직접 뿌리 수준에서의 훈련보다 더 정확한 식별선 위치 예측을 이끌어내는가?
• RQ3 식별선 위치와 인접 치아 사이의 장거리 공간적 관계를 얼마나 잘 활용하여 국소화 정확도를 향상시키는가?
• RQ4 3D 볼륨 처리가 필요 없이도, 여러 2D 슬라이스를 통한 중심선 피팅이 3D 맥락을 얼마나 잘 유지하는가?
• RQ5 Vision Transformer의 주의 메커니즘이 치과의사들이 사용하는 임상적 의사결정 과정과 얼마나 잘 일치하는가?

주요 결과

• ImplantFormer은 치과 식별선 데이터셋에서 AP@75가 13.7%를 기록하여, Deformable DETR(12.8%) 및 앵커리스 방법인 VFNet(11.8%)를 포함한 모든 기준 모델을 능가했다.
• Deformable DETR보다 5 픽셀 이내의 정답에 더 높은 비율(8% 더 많음)의 예측을 생성하여, AP가 1.2% 높음에도 불구하고 더 뛰어난 국소화 정밀도를 보였다.
• 주의맵(attention map)의 시각화 결과, 모델이 인접 치아의 가장자리에 주목하고 있음을 확인하여, 치과의사들이 사용하는 임상 전략과 유사함을 입증했다.
• 슬라이스 뷰 비교 결과, 축방향, 사시적, 치 coronal 뷰에서 모두 예측된 식별선의 위치와 방향이 정답과 매우 유사하게 일치했다.
• 희귀한 경우(희귀한 치아 배치)에서도 ImplantFormer은 정확한 예측을 유지했고, VFNet과 Deformable DETR는 가짜 양성 결과를 생성했다.
• 컨볼루션 디코더를 통한 다중 수준 특징 융합이 특징 표현과 예측 강인성을 크게 향상시켰다.