[논문 리뷰] Self-Supervised Learning of Phenotypic Representations from Cell Images with Weak Labels

Jan Cross-Zamirski, Guy Williams외 4명|arXiv (Cornell University)|2022. 09. 16.

Cell Image Analysis Techniques인용 수 16

한 줄 요약

이 논문은 시각 트랜스포머를 사용하여 약물 또는 치료법과 같은 약한 레이블(예: 복합체 또는 치료법)을 활용해 고내용 세포 영상에서 생물학적으로 의미 있는 표현을 학습하는 자기지도 학습 지식 정복 프레임워크인 WS-DINO를 제안한다. BBBC021 데이터셋에서 복합체가 다를 경우 98%의 정확도, 복합체와 배치가 모두 다를 경우 96%의 정확도로 최신 기술 수준(SOTA) 성능을 달성하였으며, 단일 세포 자르기나 광범위한 사전 처리 없이도 자기주의 맵을 통해 구조적으로 해석 가능한 특징을 학습한다.

ABSTRACT

We propose WS-DINO as a novel framework to use weak label information in learning phenotypic representations from high-content fluorescent images of cells. Our model is based on a knowledge distillation approach with a vision transformer backbone (DINO), and we use this as a benchmark model for our study. Using WS-DINO, we fine-tuned with weak label information available in high-content microscopy screens (treatment and compound) and achieve state-of-the-art performance in not-same-compound mechanism of action prediction on the BBBC021 dataset (98%), and not-same-compound-and-batch performance (96%) using the compound as the weak label. Our method bypasses single cell cropping as a pre-processing step, and using self-attention maps we show that the model learns structurally meaningful phenotypic profiles.

연구 동기 및 목표

• 고내용 현미경 영상에서 표현을 학습하기 위해 약한 레이블(예: 복합체, 치료법)을 자기지도 학습에 활용하는 방법을 개발하는 것.
• 완전히 애너테이션된 단일 세포 데이터나 광범위한 사전 처리에 의존하지 않고도 기전 작용(MOA) 예측 성능을 향상시키는 것.
• 주의 맵을 통해 세포의 구조적 특징을 포착하는 생물학적으로 해석 가능한 표현을 학습하는 것.
• 여러 배치에 걸쳐 분포된 동일한 복합체의 영상에서 약한 레이블의 구조를 활용해 고내용 스크리닝 데이터에서 암시적 배치 보정을 수행하는 것.
• 부분적인 레이블 정보를 가진 다른 자기지도 모델 및 데이터셋에 적용 가능한 일반화 가능한 프레임워크를 구축하는 것.

제안 방법

• WS-DINO는 지식 정복을 통해 약한 레이블을 통합함으로써 DINO 자기지도 학습 프레임워크를 확장한다. 여기서 학생 네트워크는 대비 손실을 사용해 교사 네트워크와 일치하도록 훈련된다.
• 모델은 학생 및 교사 네트워크 양쪽에 시각 트랜스포머(ViT) 백본을 사용하며, 입력 영상을 전역 및 국소 코프로 나누어 대비 학습을 가능하게 한다.
• 약한 레이블(복합체 또는 치료법)을 사용해 동일한 레이블을 가진 영상 쌍을 샘플링함으로써, 학생 네트워크가 유사한 표현 반응을 그룹화하도록 유도한다.
• 훈련 중에 균형 잡힌 약한 레이블 그룹의 표현을 확보하기 위해 가중치가 부여된 무작위 샘플러를 사용한다. 이는 일반화 능력을 향상시킨다.
• 자기주의 맵을 시각화하여 모델이 어떤 세포 구조에 집중하는지 분석함으로써 학습된 특징의 생물학적 관련성을 검증한다.
• 훈련 안정성을 높이기 위해 학생의 가중치 기반으로 교사 네트워크 가중치를 지수 이동 평균(EMA) 방식으로 업데이트한다.

실험 결과

연구 질문

• RQ1 약한 레이블 정보(예: 복합체 또는 치료법)를 자기지도 학습 프레임워크에 효과적으로 통합하여 표현 학습 성능을 향상시킬 수 있는가?
• RQ2 지식 정복를 통해 약한 레이블을 통합하면, 무 supervision pre-training에 비해 기전 작용(MOA) 예측 성능이 향상되는가?
• RQ3 주의 맵을 통해 확인할 수 있듯이, 학습된 표현이 생물학적으로 의미 있고 구조적으로 해석 가능한가?
• RQ4 동일한 복합체의 영상가 여러 배치에 분포되어 있는 고내용 스크리닝 데이터에서, 이 프레임워크가 암시적으로 배치 보정을 수행할 수 있는가?
• RQ5 BBBC021와 같은 벤치마크 데이터셋에서 WS-DINO는 복합체가 다를 경우(NSC) 및 복합체와 배치가 모두 다를 경우(NSCB) MOA 예측 성능 측면에서 기존 최신 기술 수준의 방법들과 비교해 어떻게 성능을 내는가?

주요 결과

• WS-DINO는 BBBC021 데이터셋에서 복합체를 약한 레이블로 사용할 경우, 복합체가 다를 경우 98%의 정확도를 기록하며 이전 방법들을 초월한다.
• 동일한 약한 레이블을 사용해 복합체와 배치가 모두 다를 경우(NSCB) MOA 예측에서 96%의 정확도를 달성하여 효과적인 배치 보정을 입증한다.
• 치료법을 약한 레이블로 사용할 경우, 무 supervision DINO(92% NSC)와 비교해 성능 향상이 없으며, 이는 배치 수준의 혼동으로 인해 치료법 레이블이 덜 효과적일 수 있음을 시사한다.
• 자기주의 맵 분석 결과, 모델이 핵, 미세소관, 액틴 필라멘트와 같은 생물학적으로 관련 있는 구조에 집중하는 것을 확인할 수 있어, 표현의 해석 가능성은 입증된다.
• 단일 세포 자르기 및 세그멘테이션을 생략함으로써 사전 처리 복잡도를 줄였으며, 높은 성능를 유지한다.
• 이 프레임워크는 잘 일반화되며, 다른 자기지도 모델에 적용 가능하고, 부분적인 MOA 레이블이 있는 데이터셋에 적용 가능하므로 실제 약물 개발 파이프라인에서 실용적으로 활용할 수 있다.