[논문 리뷰] Few-shot segmentation of medical images based on meta-learning with implicit gradients.

Rabindra Khadga, Debesh Jha외 5명|arXiv (Cornell University)|2021. 06. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 23인용 수 4

한 줄 요약

이 논문은 소수의 레이블된 데이터로도 새로운 데이터셋에 일반화할 수 있도록 설계된 암시적 모델에 관계없는 메타학습(iMAML) 방법을 제안한다. 암시적 그래디언트를 활용하여 피부 및 폴립 데이터셋에서 지도 학습 기반 및 최근의 소수 샘플 학습 방법보다 뛰어난 분할 성능를 달성한다.

ABSTRACT

Classical supervised methods commonly used often suffer from the requirement of an abudant number of training samples and are unable to generalize on unseen datasets. As a result, the broader application of any trained model is very limited in clinical settings. However, few-shot approaches can minimize the need for enormous reliable ground truth labels that are both labor intensive and expensive. To this end, we propose to exploit an optimization-based implicit model agnostic meta-learning {iMAML} algorithm in a few-shot setting for medical image segmentation. Our approach can leverage the learned weights from a diverse set of training samples and can be deployed on a new unseen dataset. We show that unlike classical few-shot learning approaches, our method has improved generalization capability. To our knowledge, this is the first work that exploits iMAML for medical image segmentation. Our quantitative results on publicly available skin and polyp datasets show that the proposed method outperforms the naive supervised baseline model and two recent few-shot segmentation approaches by large margins.

연구 동기 및 목표

• 대규모 애너테이션 데이터가 필요한 전통적인 지도 학습 방법의 한계를 해결한다.
• 임상 환경에서 데이터 부족으로 인한 새로운 데이터셋에 대한 일반화 능력 부족 문제를 극복한다.
• 최소한의 레이블된 예시로 다양한 의료 영상 도메인 간에 효과적으로 일반화되는 소수 샘플 학습 방법을 개발한다.
• 암시적 모델에 관계없는 메타학습(iMAML)을 의료 영상 분할에 적용한 첫 번째 사례를 제시한다.

제안 방법

• 모델 파라미터를 효율적으로 업데이트하기 위해 암시적 그래디언트를 사용하는 최적화 기반 메타학습 프레임워크를 채택한다.
• 다양한 훈련 샘플에서 학습된 가중치를 활용하여 새로운, 알려지지 않은 데이터셋에 빠르게 적응할 수 있도록 한다.
• 내부 루프를 통한 명시적 역전파 없이도 그래디언트를 계산하기 위해 암시적 미분을 사용하여 메타최적화 문제를 수식화한다.
• 인퍼런스 중에 클래스당 몇 개의 애너테이션 예제만 사용 가능한 소수 샘플 설정에서 모델을 훈련한다.
• 표준 세그멘테이션 백본(예: U-Net)을 iMAML를 통해 미세조정하여 최소한의 데이터로 새로운 작업에 적응시킨다.
• 다양한 소수 샘플 작업에서 검증 손실을 최소화하도록 메타학습자를 최적화하여 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 기본적인 지도 학습 및 소수 샘플 기반 방법과 비교해 볼 때, 암시적 모델에 관계없는 메타학습(iMAML)이 소수 샘플 일반화 능력을 향상시킬 수 있는가?
• RQ2 제안된 iMAML 기반 방법은 레이블이 제한된 알려지지 않은 의료 영상 데이터셋에서 얼마나 잘 성능을 내는가?
• RQ3 암시적 그래디언트의 사용이 의료 영상 분할 맥락에서 더 안정적이고 효과적인 메타최적화를 이끌어내는가?
• RQ4 이 방법은 피부 병변, 폴립 등 다양한 해부학적 구조에 대해 도메인 전이가 최소한일 때도 일반화 가능한가?

주요 결과

• 제안된 iMAML 기반 방법은 피부 및 폴립 분할 데이터셋에서 단순 지도 학습 기반 방법보다 뛰어난 성능을 보였다.
• 동일한 벤치마크에서 최근의 두 가지 소수 샘플 분할 방법보다도 뚜렷한 성능 향상을 달성했다.
• 정량적 결과는 암시적 그래디언트 메커니즋试로 인해 알려지지 않은 데이터셋에서의 일반화 능력 향상이 확인되었다.
• 클래스당 몇 개의 레이블된 예시만으로도 안정적인 성능를 보이며, 이는 소수 샘플 학습 잠재력이 검증됨을 시사한다.