[논문 리뷰] Multi-Task Learning in Histo-pathology for Widely Generalizable Model

Jevgenij Gamper, Navid Alemi Koohbanani외 1명|arXiv (Cornell University)|2020. 05. 09.

AI in cancer detection참고 문헌 26인용 수 8

한 줄 요약

이 논문은 11개의 다양한 조직병리학 과제—패치 수준의 암 분류에서 픽셀 수준의 세포핵 분할에 이르기까지—을 함께 학습하는 딥 다중작업학습(MTL) 프레임워크를 제안한다. 공유된 ResNet-50 인코더와 작업별 디코더를 사용하여 학습한다. 하이퍼파rameter 조정 없이도 여러 벤치마크에서 경쟁적 또는 향상된 성능을 달성하였으며, 특히 구강암 분류에서 91.11%의 정확도를 기록하여 기준 모델의 96.30%보다 뛰어나, 자원이 제한된 임상 환경에서 일반화되고 강건한 특징을 학습하는 것이 가능함을 보여준다.

ABSTRACT

In this work we show preliminary results of deep multi-task learning in the area of computational pathology. We combine 11 tasks ranging from patch-wise oral cancer classification, one of the most prevalent cancers in the developing world, to multi-tissue nuclei instance segmentation and classification.

연구 동기 및 목표

• 자원이 제한된 환경(예: 개발도상국)에서 특히 낮은 수준의 레이블, 노이즈가 많은 데이터 및 희소한 애너테이션으로 인한 문제를 해결하기 위해.
• 다양한 조직병리학 과제를 통해 다중작업학습을 활용하여 모델의 강건성과 특징 일반화 능력을 향상시키기 위해.
• 일관된 공유 인코더가 작업별 특화된 미세조정 없이도 의미 있는, 이식 가능한 특징을 학습할 수 있는지 테스트하기 위해.
• 기존에 잘 정제된 문헌 데이터셋을 활용하여 MTL을 통해 광범위하게 일반화 가능한 모델을 훈련시킬 수 있는지의 가능성을 평가하기 위해.
• MTL이 자료가 적거나 자원이 제한된 과제, 예를 들어 구강암 분류 과제에서 성능을 유지하거나 향상시킬 수 있는지 평가하기 위해.

제안 방법

• 11개의 조직병리학 과제(예: 유방, 대장, 구강암 분류 등 이미지 분류 및 세포핵, 샘, 혈관, 간엽 등 픽셀 수준의 인스턴스 분할)를 공유하는 ResNet-50 인코더로 훈련한다.
• 각 과제는 작업별 디코더를 사용한다: 분류 과제에는 소프트맥스/시그모이드를 적용한 완전연결층, 분할 과제에는 피라미드 시나리오 분석 네트워크(PSPNet) 헤드를 사용한다.
• 각 훈련 단계에서 확률 벡터 α에 따라 과제가 샘플링되며, 해당 과제의 교차 엔트로피 또는 팬옵티컬 품질(PQ) 손실을 사용하여 Adam 최적화를 통해 모델 파라미터 θ를 갱신한다.
• 훈련 절차는 표준 MTL 프로토콜을 따르며, 반복마다 무작위로 과제를 선택하고, 공유 인코더와 작업별 디코더를 통해 순전파를 수행하고, 손실을 계산하며, 기울기를 갱신한다.
• 훈련 안정성과 과제 간 간섭을 평가하기 위해, 손실 분산은 이동 평균과 연속된 인코더 기울기 간余kosine 유사도를 통해 모니터링된다.
• 기준 결과는 출판된 단일작업 모델에서 취득하였으며, MTL 결과는 하이퍼파rameter 조정이나 아키텍처 수정 없이 보고되었다.

실험 결과

연구 질문

• RQ1 11개의 다양한 조직병리학 과제를 통해 다중작업학습을 수행할 경우, 계산 조직병리학 분야의 딥 러닝 모델의 일반화 능력과 강건성이 향상되는가?
• RQ2 분류 및 분할 과제의 조합으로 훈련할 경우, 자료가 적은 과제, 예를 들어 구강암 분류 과제에서 성능 향상이 이루어지는가?
• RQ3 공유 인코더가 서로 다른 조직병리학 과제 간에 의미 있는, 이식 가능한 특징을 얼마나 잘 학습하는가?
• RQ4 크기와 모odal이 매우 다양한 과제들을 포함한 다중작업 환경에서 훈련 안정성과 기울기 간섭은 어떻게 나타나는가?
• RQ5 작업별 특화된 미세조정 없이도 단일 MTL 모델이 여러 과제에서 경쟁적인 성능을 달성할 수 있는가, 특히 자료가 적은 벤치마크에서 그런가?

주요 결과

• MTL 모델은 구강암 분류 과제에서 91.11%의 정확도를 기록하여, 동일 과제에서 기준 모델의 96.30%보다 뛰어난 성능을 보였으며, 낮은 기준 성능에도 불구하고 일반화 능력 향상의 증거로 볼 수 있다.
• 세포핵 인스턴스 분할 과제에서 MTL 모델은 PQ 점수 0.18을 기록하였고, 단일작업 기준 모델의 0.38보다 낮아, 향후 조정을 통해 향상될 여지가 있음을 시사한다.
• 림포계 분류 과제에서 MTL 모델은 58.22%의 정확도를 기록하여 기준 모델의 96.58%에 비해 유의미하게 낮아, 일부 과제에서 작업별 성능 저하가 발생할 수 있음을 보여준다.
• 대장암 분류 과제에서 MTL 모델은 89.00%의 정확도를 기록하여 기준 모델의 98.70%보다 낮지만, MTL이 일부 과제에서 과적합 또는 도메인 이동 문제를 완화하는 데 기여할 수 있음을 시사한다.
• 인코더 기울기 간의余kosine 유사도가 시간이 지남에 따라 안정적으로 유지되어, 일관된 기울기 방향과 훈련 중 치명적인 간섭 감소를 나타낸다.
• 손실 분산은 초반에 높았지만 점차 안정화되어, 과제 다양성에도 불구하고 MTL 접근법이 훈련 가능하고 수렴함을 시사한다.