[논문 리뷰] Magnification Prior: A Self-Supervised Method for Learning Representations on Breast Cancer Histopathological Images

Prakash Chandra Chhipa, Richa Upadhyay외 4명|arXiv (Cornell University)|2022. 03. 15.

AI in cancer detection인용 수 4

한 줄 요약

이 논문은 인간의 레이블 없이도 양성 및 악성 병변을 구분할 수 있도록, 확대 배율을 데이터 기반의 지도 신호로 활용하는 자기지도 학습 방법인 확대 우선 대비 유사도(Magnification Prior Contrastive Similarity, MPCS)를 제안한다. MPCS는 레이블이 20%에 불과한 조건에서도 기존의 완전히 지도 학습 방법을 능가하는 최신 기술 수준의 성능을 달성하며, 인간이 유도한 사전 지식을 줄임으로써 표현 학습의 효율성을 향상시킨다는 점을 입증한다.

ABSTRACT

This work presents a novel self-supervised pre-training method to learn efficient representations without labels on histopathology medical images utilizing magnification factors. Other state-of-theart works mainly focus on fully supervised learning approaches that rely heavily on human annotations. However, the scarcity of labeled and unlabeled data is a long-standing challenge in histopathology. Currently, representation learning without labels remains unexplored for the histopathology domain. The proposed method, Magnification Prior Contrastive Similarity (MPCS), enables self-supervised learning of representations without labels on small-scale breast cancer dataset BreakHis by exploiting magnification factor, inductive transfer, and reducing human prior. The proposed method matches fully supervised learning state-of-the-art performance in malignancy classification when only 20% of labels are used in fine-tuning and outperform previous works in fully supervised learning settings. It formulates a hypothesis and provides empirical evidence to support that reducing human-prior leads to efficient representation learning in self-supervision. The implementation of this work is available online on GitHub - https://github.com/prakashchhipa/Magnification-Prior-Self-Supervised-Method

연구 동기 및 목표

• 인간 레이블이 부족한 조직병리학 영상 분석 문제를 해결하기 위해, 인간의 레이블 없이도 자기지도 사전 학습을 가능하게 하는 방법을 제공한다.
• 특히 확대 배율과 같은 데이터 기반의 사전 지식이 대비 표현 학습에 효과적인 지도 신호로 기능할 수 있는지 탐구한다.
• 자기지도 학습에서 인간이 유도한 사전 지식을 줄임으로써 표현 품질과 일반화 능력이 향상된다는 가설을 검증한다.
• BreakHis, BACH, 유방암 세포 데이터셋을 포함한 소규모 공개 유방암 데이터셋에서 MPCS의 효과를 평가한다.
• 레이블 효율성을 입증하기 위해, 레이블의 20%만으로도 완전히 지도 학습 기반 최신 기술 수준의 성능을 달성하거나 초월하는지를 확인한다.

제안 방법

• MPCS는 대조 학습을 위한 양성 쌍 생성을 위해 확대 배율(40X, 100X, 200X, 400X)을 데이터 기반 사전 지식으로 활용하여 인간이 설계한 증강 기법에 의존하지 않는다.
• 본 방법은 세 가지 변형을 사용한다: MPCS-Random Pair(임의의 뷰 샘플링), MPCS-Ordered Pair(순서된 샘플링), MPCS-Fixed Pair(고정된 200X–400X 쌍), 각각 인간의 사전 지식 유도 정도가 다르다.
• 대조 학습은 사전 학습된 ImageNet 기반의 특징 인코더(EfficientNet 및 확장된 ResNet-50)를 사용한 시아모이스 네트워크 아키텍처로 수행된다.
• 자기지도 사전 학습은 레이블이 없는 BreakHis 이미지에서 수행되며, 이후 악성 종양 분류 작업에 대해 미세조정된다.
• 모델은 세 가지 공개 데이터셋(BreakHis, BACH, Breast Cancer Cell Dataset)에서 선형 평가 및 미세조정을 통해 평가된다.
• 클래스 활성 맵핑(CAM)을 사용하여 MPCS 모델이 조직병리학 영상에서 생물학적으로 관련 있는 영역(예: 세포핵)에 더 효과적으로 주목하는지 정성적으로 검증한다.

Figure 1 : The proposed approach comprises three steps: (1) Parameters initialization with supervised ImageNet weights. (2) Self-supervised pre-training on unlabeled BreakHis histopathology images using proposed method Magnification Prior Contrastive Similarity to provide positive pairs by exploitin

실험 결과

연구 질문

• RQ1 확대 배율이 인간의 레이블 없이도 자기지도 대비 학습을 가능하게 하는 신뢰할 수 있는 데이터 기반 사전 지식로 기능할 수 있는가?
• RQ2 쌍 샘플링 과정에서 인간이 유도한 사전 지식을 줄이면 자기지도 표현 학습에서 학습된 표현의 품질이 향상되는가?
• RQ3 MPCS는 완전히 지도 학습 기반 최신 기술 수준의 방법과 비교해 레이블 효율성이 뛰어나게 성능을 내는가?
• RQ4 사전 학습 단계에서 진단 레이블이 없이도 MPCS가 양성 및 악성 종양 클래스 간의 구별 가능한 특징을 학습할 수 있는가?
• RQ5 다양한 확대 수준 간의 평가 결과가 MPCS 표현이 확대 수준에 영향을 받지 않고 안정적임을 확인하는가?

주요 결과

• MPCS는 BreakHis를 포함한 세 가지 공개 데이터셋에서, 레이블의 20%만으로도 완전히 지도 학습 기반 최신 기술 수준의 방법을 능가한다.
• 유방암 세포 데이터셋에서 MPCS는 미세조정 시 98.18%의 정확도, 선형 평가 시 96.36%의 정확도를 기록하여 기존 방법보다 뚜렷이 뛰어나다.
• 레이블이 20%에 불과한 조건에서 MPCS 미세조정 모델은 ImageNet 사전 학습 모델 대비 2.52%p의 절대적 성능 향상을 보였으며(p < 0.01), 100% 레이블로 학습된 최신 기술 수준의 성능을 달성했다.
• 인간의 사전 지식을 더 약하게 유도하는 MPCS-Ordered Pair 변형은, 강한 인간 사전 지식을 포함하는 고정 쌍 변형과 인간 사전 지식이 전혀 없는 랜덤 쌍 변형보다 저레이블 환경에서 더 뛰어난 성능을 보였다.
• t-SNE 시각화 결과, MPCS 사전 학습 특징는 모든 확대 수준에서 양성 및 악성 종양 클래스 간에 매우 구별 가능하고 분리 가능한 특징를 가지고 있음을 확인했다.
• CAM 분석 결과, MPCS 미세조정 모델은 BreakHis 및 BACH 데이터셋에서 ImageNet 사전 학습 모델보다 더 효과적으로 관심 영역(예: 세포핵)에 주목하는 것으로 나타났다.

Figure 2 : Magnification Prior Contrastive Similarity method explained