[논문 리뷰] Self-Supervised Deep Learning to Enhance Breast Cancer Detection on Screening Mammography

John D. Miller, Vignesh A. Arasu외 4명|arXiv (Cornell University)|2022. 03. 15.

AI in cancer detection인용 수 9

한 줄 요약

이 논문은 비용이 많이 들는 레이블링 데이터셋에 의존하지 않고, 약한 레이블이 부여된 데이터와 데이터 증강을 활용하여 걸러내기 유방 조영 검사에서 유방암 검출 성능을 향상시키기 위해 자기지도학습(SSL) 프레임워크를 제안한다. 이 방법은 새로운 패치-이미지 적응 및 주의 기반 풀링을 사용하여 데이터 효율성을 4배 향상시키고, 여러 데이터셋에서 지도 학습 기반 모델을 능가한다.

ABSTRACT

A major limitation in applying deep learning to artificial intelligence (AI) systems is the scarcity of high-quality curated datasets. We investigate strong augmentation based self-supervised learning (SSL) techniques to address this problem. Using breast cancer detection as an example, we first identify a mammogram-specific transformation paradigm and then systematically compare four recent SSL methods representing a diversity of approaches. We develop a method to convert a pretrained model from making predictions on uniformly tiled patches to whole images, and an attention-based pooling method that improves the classification performance. We found that the best SSL model substantially outperformed the baseline supervised model. The best SSL model also improved the data efficiency of sample labeling by nearly 4-fold and was highly transferrable from one dataset to another. SSL represents a major breakthrough in computer vision and may help the AI for medical imaging field to shift away from supervised learning and dependency on scarce labels.

연구 동기 및 목표

• 딥 러닝 모델을 유방암 검출에 훈련시키기 위해 고도로 정제된 의료 영상 데이터셋의 부족 문제를 해결하기 위해.
• 자기지도학습(SSL)이 유방 조영 검사에서 비용이 많이 드는 전문가 레이블에 의존하는 것을 줄이는 데 효과적인지 평가하기 위해.
• 패치 수준 예측에서 전체 슬라이드 이미지 분류로 사전 훈련된 SSL 모델을 적응시키는 방법을 개발하기 위해.
• 유방 조영 영상 수준의 표현 학습을 위해 새로운 주의 기반 풀링 기법을 통해 분류 성능을 향상시키기 위해.
• 다른 유방 조영 검사 데이터셋 간의 전이 가능성과 데이터 효율성을 평가하기 위해.

제안 방법

• 저자는 대조적 SSL 사전 훈련을 위해 양성 및 음성 시각을 생성하기 위해 망막 영상에 특화된 데이터 증강 파라다임을 설계하였다.
• SimCLR, MoCo, BYOL, BYOL-A의 네 가지 최첨단 SSL 방법을 비교하여, 쌍방향으로 이루어지지 않은 약한 레이블이 부여된 유방 조영 영상에서 분류 가능한 특징을 학습하는 능력을 평가하였다.
• 패치 수준의 사전 훈련된 SSL 모델을 전체 이미지 분류로 전이하기 위해 패치 수준 특징을 융합하여 글로벌 이미지 표현을 생성하는 새로운 방법을 제안하였다.
• 주요 진단적 영역에 초점을 맞추어 글로벌 이미지 임베딩을 개선하기 위해 주의 기반 풀링 기법을 적용하였다.
• 최종 모델은 소량의 완전히 레이블링된 케이스를 대상으로 미세 조정되어 최종 분류 작업에 적응하였다.
• 일관된 일반화 및 전이 가능성 평가를 위해 여러 독립된 데이터셋에서 프레임워크를 평가하였다.

실험 결과

연구 질문

• RQ1 대규모 레이블링된 데이터셋이 필요 없이 자기지도학습이 걸러내기 유방 조영 검사에서 유방암 검출 성능을 크게 향상시킬 수 있는가?
• RQ2 레이블 없이 데이터 증강만을 사용할 때, 다양한 SSL 방법이 유방 조영 영상에서 분류 가능한 특징을 얼마나 잘 학습하는가?
• RQ3 사전 훈련된 SSL 모델이 패치 수준 예측에서 유방 조영 영상 전체에 대한 분류로 얼마나 잘 적응할 수 있는가?
• RQ4 제안된 주의 기반 풀링 기법이 표준 평균 풀링 대비 분류 성능을 향상시키는가?
• RQ5 다양한 획득 프로토콜과 인구 통계를 가진 다른 유방 조영 검사 데이터셋 간에 사전 훈련된 SSL 모델의 전이 가능성은 어느 정도인가?

주요 결과

• 가장 높은 성능을 보인 SSL 모델(BYOL-A)은 지도 학습 기반 모델을 뛰어넘었으며, 더 뛰어난 일반화 및 강건성을 보였다.
• 최적의 SSL 모델은 데이터 효율성을 4배 향상시켜, 지도 학습 기반 모델이 요구하는 레이블링 학습 데이터의 25%만으로도 유사한 성능를 달성했다.
• SSL 모델은 강력한 전이 가능성과 함께, 도메인 차이가 최소한인 다른 데이터셋에서 미세 조정해도 높은 성능를 유지했다.
• 제안된 주의 기반 풀링 기법은 동일한 모델에서 표준 평균 풀링 대비 분류 AUC를 5.2% 향상시켰다.
• 제안된 패치-이미지 적응 방법은 전체 유방 조영 영상 분류에 사전 훈련된 SSL 모델을 효과적으로 활용할 수 있게 하여 핵심 아키텍처적 과제를 해결했다.
• 결과적으로 SSL는 의료 영상에서 높은 비용이 드는 레이블링에 대한 의존도를 줄일 수 있으며, 동시에 모델 성능과 일반화 능력을 향상시킬 수 있음을 시사한다.