[논문 리뷰] Data efficient deep learning for medical image analysis: A survey

Suruchi Kumari, Pravendra Singh|arXiv (Cornell University)|2023. 10. 10.

AI in cancer detection인용 수 4

한 줄 요약

이 종합 검토는 의료 영상 분석을 위한 데이터 효율적인 딥러닝 방법에 대해 체계적이고 종합적인 리뷰를 제공하며, 레이블 가용성과 품질에 기반해 다섯 가지 감독 수준—무감독, 부정확한 감독, 불완전한 감독, 부정확한 감독, 제한된 감독—으로 분류한다. 2020–2023년 사이의 250편 이상의 최신 논문을 종합적으로 분석하며, 자기지도 학습, 활성 학습, 연합 학습 등의 핵심 기법을 분석하고, 레이블 효율적인 연합 학습과 텍스트 증강 학습과 같은 향후 연구 방향을 규명한다.

ABSTRACT

The rapid evolution of deep learning has significantly advanced the field of medical image analysis. However, despite these achievements, the further enhancement of deep learning models for medical image analysis faces a significant challenge due to the scarcity of large, well-annotated datasets. To address this issue, recent years have witnessed a growing emphasis on the development of data-efficient deep learning methods. This paper conducts a thorough review of data-efficient deep learning methods for medical image analysis. To this end, we categorize these methods based on the level of supervision they rely on, encompassing categories such as no supervision, inexact supervision, incomplete supervision, inaccurate supervision, and only limited supervision. We further divide these categories into finer subcategories. For example, we categorize inexact supervision into multiple instance learning and learning with weak annotations. Similarly, we categorize incomplete supervision into semi-supervised learning, active learning, and domain-adaptive learning and so on. Furthermore, we systematically summarize commonly used datasets for data efficient deep learning in medical image analysis and investigate future research directions to conclude this survey.

연구 동기 및 목표

• 의료 영상 분석에서 개인정보 보호, 전문가 확보 어려움, 데이터 부족 등의 이유로 인해 레이블이 제한적이고, 비용이 많이 들며 시간이 오래 걸리는 주석 작업이라는 핵심 과제를 해결한다.
• 감독 수준과 품질에 따라 데이터 효율적인 딥러닝 방법을 체계적으로 분류하여, 무감독에서 제한된 감독에 이르기까지의 수준을 명확히 한다.
• 최근 2년간(2020–2023년)의 주요 의료 영상 학술 행사 및 저널에 발표된 250편 이상의 논문을 종합적으로, 최신의 리뷰를 제공한다.
• 자기지도 사전 훈련, 신경망 아키텍처 탐색, 연합 학습과 같은 새로운 기법들을 식별하고 분석하여 데이터 효율적 학습에 기여한다.
• 레이블 효율적인 연합 학습, 텍스트 감독, 영향력 있는 모델 설계와 같은 향후 연구 방향을 제시하여 분야 발전을 이끌어낸다.

제안 방법

• 데이터 효율적 방법을 다섯 가지 감독 수준으로 분류한다: 무감독, 부정확한 감독, 불완전한 감독, 부정확한 감독, 제한된 감독.
• 각 범주를 하위 범주로 나누며, 예를 들어 부정확한 감독은 다중 예제 학습과 약한 감독 학습을 포함하고, 불완전한 감독은 준감독 학습, 활성 학습, 도메인 적응을 포함한다.
• 대표적인 자기지도 학습 기법을 검토한다: 대비 학습, 예측 및 생성적 자기지도 학습, 마스킹 오토인코더를 활용한 비라벨 데이터로부터의 표현 학습.
• 대규모 비라벨 의료 영상에서의 사전 훈련(예: SwinUNETR 또는 통합 사전 훈련을 활용)이 작은 라벨 데이터셋에 대한 미세조정 성능을 향상시키는 역할을 분석한다.
• 데이터 프라이버시를 유지하면서 기관 간 협동적으로 모델을 훈련할 수 있는 연합 학습과 같은 새로운 학습 패러다임을 검토한다. 이는 지역 데이터셋의 레이블 부족 문제를 해결하는 데 기여한다.
• 임상 보고서, 메타데이터 등의 텍스트 데이터를 보조 감독으로 통합하여 모델의 일반화 능력을 향상시키고 주석 의존도를 줄이는 방법을 탐색한다.

실험 결과

연구 질문

• RQ1 대규모로 완전히 주석 처리된 데이터셋이 확보되지 않은 상황에서 의료 영상 분석에서 딥러닝 모델을 어떻게 더 데이터 효율적으로 만들 수 있는가?
• RQ2 데이터 효율적 학습의 주요 방법론적 범주들은 무엇이며, 감독 수준과 실용적 적용 가능성 측면에서 어떻게 상이한가?
• RQ3 자기지도 학습 및 약한 감독 학습 기법이 의료 영상 분할, 분류, 탐지 작업에서 전문가 주석 데이터 의존도를 어느 정도 감소시키는가?
• RQ4 의료 기관 간 레이블 부족과 이질성 문제를 해결하면서도 프라이버시를 유지하는 조건에서 연합 학습을 어떻게 적응시킬 수 있는가?
• RQ5 텍스트 데이터와 다중모달 학습은 낮은 데이터 환경에서 주석 부담을 줄이고 모델 성능을 향상시키는 데 어떤 역할을 할 수 있는가?

주요 결과

• 이 검토는 데이터 효율적 학습의 다섯 가지 주요 범주—무감독, 부정확한 감독, 불완전한 감독, 부정확한 감독, 제한된 감독—를 규명하며, 최근 기법들을 통합한 분류 체계를 제공한다.
• 대규모 비라벨 2D 또는 3D 의료 영상에서의 자기지도 사전 훈련은 작은 라벨 데이터셋에 대한 미세조정 성능을 크게 향상시키며, Self-Supervised SwinUNETR와 같은 모델을 통해 이를 입증하였다.
• 연합 학습은 원시 데이터를 공유하지 않으면서도 기관 간 협동 훈련을 가능하게 하지만, 현재의 방법들은 여전히 감독 학습에 크게 의존하여 레이블이 적은 환경에서는 적용 범위가 제한된다.
• 활성 학습과 도메인 적응 학습은 정보성 높은 샘플을 우선적으로 선택하고, 다양한 도메인 간 분포를 정렬함으로써 주석 비용을 효과적으로 줄이는 데 기여한다.
• 신경망 아키텍처 탐색(NAS)은 모델 설계를 자동화하는 데 잠재력이 있지만, 특히 분할 및 탐지 작업에 있어서 데이터 효율적 의료 영상 분석 분야에서는 아직 탐색이 부족한 상태이다.
• 임상 보고서나 메타데이터와 같은 텍스트 감독은 시각적 표현 학습을 향상시키며, 주석 의존도를 줄이기 위한 향후 연구의 유망한 방향이다.