[논문 리뷰] Weakly Supervised Clustering by Exploiting Unique Class Count

Mustafa Ümit Öner, Hwee Kuan Lee외 1명|arXiv (Cornell University)|2019. 06. 18.

Face and Expression Recognition참고 문헌 46인용 수 8

한 줄 요약

이 논문은 개별 인스턴스 레이블이 없이도 비지도 군집화를 가능하게 하는, 고유 클래스 수(UCC) 기반의 새로운 다중 인스턴스 학습(MIL) 작업을 사용하는 약한 지도 학습 군집화 프레임워크를 제안한다. UCC는 한 백에 포함된 인스턴스들 중 고유한 클래스의 수를 의미한다. 신경망 기반 UCC 분류기가 백 수준의 UCC 레이블로 훈련되며, 이로부터 추출된 특징을 사용해 군집화를 수행한다. 이 방법은 유방암 전이성 병소의 의미적 분할에서 완전히 지도 학습 모델과 비교할 만한 성능을 달성한다.

ABSTRACT

A weakly supervised learning based clustering framework is proposed in this paper. As the core of this framework, we introduce a novel multiple instance learning task based on a bag level label called unique class count ($ucc$), which is the number of unique classes among all instances inside the bag. In this task, no annotations on individual instances inside the bag are needed during training of the models. We mathematically prove that with a perfect $ucc$ classifier, perfect clustering of individual instances inside the bags is possible even when no annotations on individual instances are given during training. We have constructed a neural network based $ucc$ classifier and experimentally shown that the clustering performance of our framework with our weakly supervised $ucc$ classifier is comparable to that of fully supervised learning models where labels for all instances are known. Furthermore, we have tested the applicability of our framework to a real world task of semantic segmentation of breast cancer metastases in histological lymph node sections and shown that the performance of our weakly supervised framework is comparable to the performance of a fully supervised Unet model.

연구 동기 및 목표

• 의료 영상 분석에서 비용이 많이 들고 포괄적인 개별 인스턴스 레이블을 확보하는 데 어려움이 있는 문제를 해결하기 위해, 특히 조직학적 림프절 섹션에서의 유방암 전이성 병소 탐지에 초점을 맞춘다.
• 백 수준의 레이블, 특히 UCC(각 백의 고유 클래스 수)만을 사용해 개별 인스턴스를 군집화할 수 있는 약한 지도 학습 프레임워크를 개발한다.
• UCC 분류기가 개별 인스턴스에 대한 지도 학습 없이도 분류 가능한 특징을 암묵적으로 학습할 수 있음을 보여주어, 정확한 비지도 군집화를 가능하게 한다.
• 실제 생물의학 영상 분할에 대해 이 프레임워크를 검증하여, U-Net과 같은 완전히 지도 학습 모델의 성능에 근접함을 보인다.

제안 방법

• 프레임워크는 백 수준 레이블이 고유 클래스 수(UCC)인 새로운 MIL 작업을 도입한다. UCC는 백에 포함된 모든 인스턴스들 중 고유한 클래스의 수로 정의된다.
• 신경망 기반 UCC 분류기(UCC 모델)가 UCC 레이블이 부여된 백 데이터로 훈련되며, 개별 인스턴스 레이블 없이도 고유 클래스 수를 세는 것을 학습한다.
• 훈련된 UCC 모델은 특징 추출기로 기능하며, 각 백 내의 개별 인스턴스에 대한 임베딩을 생성한다.
• 추출된 특징에 대해 비지도 군집화(예: k-means)를 적용하여 인스턴스 수준의 레이블을 할당한다.
• 32×32 이미지 패치를 인스턴스로, 512×512 이미지를 백으로 사용하여 CAMELYON 데이터셋에서 평가한다. 백의 UCC 레이블은 1 또는 2이다.
• 의미적 분할에서 전이성 영역을 대상으로, 성능을 완전히 지도 학습된 U-Net 모델과 비지도 군집화 기반 k-means 기준선과 비교한다.

실험 결과

연구 질문

• RQ1 백 수준의 고유 클래스 수로 훈련된 UCC 분류기가 개별 인스턴스에 대한 어떤 개별 인스턴스 레이블도 제공받지 않고도 정확한 군집화를 가능하게 할 수 있는가?
• RQ2 약한 지도 학습 기반 UCC 군집화 프레임워크의 성능이 의료 영상 분할에서 완전히 지도 학습 모델과 비교해 유사한가?
• RQ3 실제 병리 영상에서 노이즈가 있거나 모호한 UCC 레이블을 효과적으로 처리할 수 있는가?
• RQ4 훈련 시 개별 인스턴스 레이블이 제공되지 않더라도, UCC 모델이 후속 군집화에 필요한 분류 가능한 특징을 충분히 학습하는가?

주요 결과

• UCC 기반 프레임워크는 테스트 세트에서 86.3%의 픽셀 정확도를 달성하여, 비지도 군집화 기반 k-means 기준선(51.2%)을 크게 뛰어넘었다.
• UCC 모델은 진성 양성률(TPR) 81.8%와 위성 양성률(FPR) 14.9%를 기록했으며, 완전히 지도 학습된 U-Net 모델의 TPR 86.0%와 FPR 12.6%에 매우 가까운 성능을 보였다.
• 프레임워크는 정상 세포가 전이성 영역에 소량 오염된 경우나 그 반대의 노이즈가 있는 UCC 레이블에도 강건함을 입증했다.
• 수학적 분석을 통해 완벽한 UCC 분류기가 개별 인스턴스를 완벽하게 군집화할 수 있음을 증명하여, 이 방법의 이론적 기반을 확인했다.
• UCC 레이블만으로 훈련된 UCC 모델의 성능가 완전히 지도 학습된 U-Net 모델과 유사했으며, 이는 임상 워크플로우에서 훨씬 더 저비용이고 실현 가능한 레이블링 방식임을 시사한다.