[논문 리뷰] Self-Supervised Learning for Gastritis Detection with Gastric X-ray Images

Guang Li, Ren Togo외 2명|arXiv (Cornell University)|2021. 04. 07.

Traditional Chinese Medicine Studies참고 문헌 38인용 수 9

한 줄 요약

이 논문은 위내시경 X선 영상에서 위염 검출을 위한 분류 가능한 표현을 학습하기 위해 교사-학생 아키텍처 기반의 새로운 비지도 학습 방법을 제안한다. 이 방법은 시각 간 및 모델 간 손실을 활용하여, 단지 40명의 환자에 대한 레이블이 부여된 사례만으로도 높은 성능을 달성하며, 조화 평균 점수 0.931을 기록한다. 이는 다섯 가지 비지도 학습 및 세 가지 이전 학습 방법을 능가한다.

ABSTRACT

Purpose: Manual annotation of gastric X-ray images by doctors for gastritis detection is time-consuming and expensive. To solve this, a self-supervised learning method is developed in this study. The effectiveness of the proposed self-supervised learning method in gastritis detection is verified using a few annotated gastric X-ray images. Methods: In this study, we develop a novel method that can perform explicit self-supervised learning and learn discriminative representations from gastric X-ray images. Models trained based on the proposed method were fine-tuned on datasets comprising a few annotated gastric X-ray images. Five self-supervised learning methods, i.e., SimSiam, BYOL, PIRL-jigsaw, PIRL-rotation, and SimCLR, were compared with the proposed method. Furthermore, three previous methods, one pretrained on ImageNet, one trained from scratch, and one semi-supervised learning method, were compared with the proposed method. Results: The proposed method's harmonic mean score of sensitivity and specificity after fine-tuning with the annotated data of 10, 20, 30, and 40 patients were 0.875, 0.911, 0.915, and 0.931, respectively. The proposed method outperformed all comparative methods, including the five self-supervised learning and three previous methods. Experimental results showed the effectiveness of the proposed method in gastritis detection using a few annotated gastric X-ray images. Conclusions: This paper proposes a novel self-supervised learning method based on a teacher-student architecture for gastritis detection using gastric X-ray images. The proposed method can perform explicit self-supervised learning and learn discriminative representations from gastric X-ray images. The proposed method exhibits potential clinical use in gastritis detection using a few annotated gastric X-ray images.

연구 동기 및 목표

• 위염 검출을 위한 전문가 레이블이 부여된 위내시경 X선 영상의 제작에 소요되는 높은 비용과 시간 문제를 해결하기 위해.
• 수동 레이블에 의존하지 않고 분류 가능한 표현을 학습할 수 있는 비지도 학습 방법을 개발하기 위해.
• 소량의 레이블이 부여된 위내시경 X선 영상만을 사용하여 검출 성능을 향상시키기 위해.
• 기존의 비지도 학습 및 지도 학습 기반 베이스라인과의 비교를 통해 제안된 방법의 효과성을 검증하기 위해.
• 제한된 레이블이 부여된 의료 영상에서 비지도 표현 학습의 임상적 잠재력을 입증하기 위해.

제안 방법

• 교사-학생 신경망 아키텍처를 사용하며, 학생 네트워크는 동일한 위내시경 X선 영상의 두 개의 증강된 시각을 처리한다.
• 시각 간 손실은 학생 네트워크에서 생성된 두 증강된 시각의 표현 간 거리를 최소화한다.
• 모델 간 손실은 동일한 시각에 대해 교사 및 학생 네트워크에서 생성된 표현 간 거리를 최소화한다.
• 학생 네트워크는 대조 학습을 위해 특징을 투영하기 위해 다층 퍼셉트론(MLP) 헤드를 사용한다.
• 이 두 가지 손실을 사용하여 대규모의 레이블이 없는 위내시경 X선 영상 데이터셋에서 사전 훈련을 수행한다.
• 사전 훈련 후, 10~40명의 환자 사례로 구성된 소규모 전문가 레이블이 부여된 데이터셋에서 모델을 미세조정한다.

실험 결과

연구 질문

• RQ1 시각 간 및 모델 간 손실을 활용한 비지도 학습이 위내시경 X선 영상에서 분류 가능한 표현을 효과적으로 학습할 수 있는가?
• RQ2 제안된 방법은 기존의 비지도 학습 방법들(SimSiam, BYOL, SimCLR 등)과 비교하여 위염 검출 성능에서 어떻게 성과를 내는가?
• RQ3 소량의 레이블이 부여된 위내시경 X선 영상만으로도 제안된 방법이 높은 검출 성능을 달성할 수 있는가?
• RQ4 제한된 레이블이 부여된 데이터에서 미세조정된 후, 제안된 방법이 지도 학습 및 준지도 학습 기반 베이스라인을 능가하는가?
• RQ5 레이블이 거의 없는 상태에서 사전 훈련된 인코더가 환자 수준의 위염 검출에 효과적으로 전이될 수 있는가?

주요 결과

• 10명의 레이블이 부여된 환자 사례로는 조화 평균 점수 0.875를 기록하였고, 40명의 사례로는 0.931까지 향상되었다.
• SimSiam, BYOL, PIRL-jigsaw, PIRL-rotation, SimCLR 등 다섯 가지 비지도 학습 방법을 모두 능가하였다.
• 이미지넷 사전 훈련된 모델, 무작위 가중치로 훈련된 모델, 준지도 학습 모델 등 세 가지 이전 방법을 모두 뛰어넘었다.
• 시각 간 및 모델 간 손실은 복잡한 위내시경 X선 영상에서 명시적인 비지도 학습을 가능하게 하고, 특징의 분류 능력을 향상시켰다.
• 결과적으로 제안된 방법이 레이블이 거의 필요 없는 임상적 응용에 효과적임을 입증하였다.
• 저자들의 지식에 비추어 볼 때, 이는 위내시경 X선 영상에서 비지도 학습을 활용한 위염 검출을 검증한 최초의 연구이다.