[논문 리뷰] Diffusion Models for Medical Anomaly Detection

Julia Wolleb, Florentin Bieder외 2명|arXiv (Cornell University)|2022. 03. 08.

Anomaly Detection Techniques and Applications인용 수 6

한 줄 요약

이 논문은 의료 영상에서 이미지 수준의 레이블만을 사용하여 약한 지도 학습 기반의 이상 탐지 방법을 제안한다. 이는 노이즈 제거 확산 은닉 모델(Den lattering Diffusion Implicit Models, DDIMs)과 분류기 가이던스를 결합한 것으로, 훈련된 분류기의 가이던스를 받아 입력 영상을 반복적으로 노이즈화하고 복원함으로써 고해상도의 건강한 재구성 영상을 생성한다. 이 과정에서 픽셀 단위의 차이로 이상 지도를 생성하며, 아키텍처나 훈련 방식의 수정 없이 BRATS2020 및 CheXpert 데이터셋에서 최신 기준 성능을 달성한다.

ABSTRACT

In medical applications, weakly supervised anomaly detection methods are of great interest, as only image-level annotations are required for training. Current anomaly detection methods mainly rely on generative adversarial networks or autoencoder models. Those models are often complicated to train or have difficulties to preserve fine details in the image. We present a novel weakly supervised anomaly detection method based on denoising diffusion implicit models. We combine the deterministic iterative noising and denoising scheme with classifier guidance for image-to-image translation between diseased and healthy subjects. Our method generates very detailed anomaly maps without the need for a complex training procedure. We evaluate our method on the BRATS2020 dataset for brain tumor detection and the CheXpert dataset for detecting pleural effusions.

연구 동기 및 목표

• 의료 영상에서 픽셀 단위의 레이블 확보의 어려움을 해결하기 위해, 이미지 수준의 레이블만을 사용하는 약한 지도 학습 기반 이상 탐지 기법을 제공한다.
• 기존의 오토인코더 및 GAN 기반 방법들이 흔히 겪는 훈련 복잡성 또는 미세한 해부학적 구조의 손실 문제를 극복한다.
• 비병리적 구조를 유지하면서도 세밀하고 현실적인 건강한 영상 번역을 생성함으로써 정확한 이상 지역 국소화를 가능하게 한다.
• 확산 모델이 의료 이상 탐지 분야에 적용될 수 있는 가능성과 효과성을 입증한다. 이는 이전에 이 작업에 대해 탐색되지 않은 분야이다.
• 표준 DDIM 및 분류기 훈련을 초과해 모델 아키텍처나 훈련 절차의 수정 없이도 즉시 사용 가능한 솔루션을 제공한다.

제안 방법

• 이미지 수준의 레이블만을 사용하여, 비일치하는 건강한 영상과 병변이 있는 의료 영상에 대해 노이즈 제거 확산 확률 모델(DDPM)과 이진 분류기를 훈련한다.
• DDIM의 결정론적 반복적 노이즈화 과정을 활용해 입력 영상의 해부학적 구조를 역방향 확산 과정을 통해 인코딩한다.
• 노이즈 제거 단계에서 분류기 가이던스를 적용하여 생성 과정을 건강한 영상으로 유도하며, 분류기의 기울기를 이용해 노이즈 제거 네트워크를 가이던스한다.
• 인코딩된 노이즈 영상 표현을 반복적으로 복원함으로써 합성된 건강한 영상을 생성하며, 병변 제거를 보장하기 위해 분류기의 가이던스를 활용한다.
• 원본 입력 영상과 생성된 건강한 영상 간의 L2 차이를 이상 지도로 계산하여 병변 영역을 강조한다.
• DDIM 샘플링 기법을 활용해 비병리적 영역의 미세한 세부 구조를 유지하면서도 병변 영역만 현실적인 조직 구조로 재구성한다.

실험 결과

연구 질문

• RQ1 확산 모델이 픽셀 단위의 레이블이 없이도 약한 지도 학습 기반의 의료 이상 탐지에 효과적으로 적용될 수 있는가?
• RQ2 DDIM의 반복적 노이즈화/복원 과정과 분류기 가이던스의 조합이 기존 오토인코더나 GAN 기반 방법보다 더 세밀하고 정확한 이상 지도를 생성하는가?
• RQ3 모델 성능이 샘플링 단계 수(L) 및 분류기 가이던스 스케일(s) 등의 하이퍼파라미터에 얼마나 민감한가?
• RQ4 비병리적 영역의 미세한 해부학적 구조를 유지하면서도 병변 영역을 정확히 제거하거나 재구성할 수 있는가?
• RQ5 제안된 방법이 FP-GAN 및 VAE와 같은 최신 기준 기반 방법보다 표준 의료 이상 탐지 벤치마크에서 우수한 성능을 보이는가?

주요 결과

• 최적의 하이퍼파라미터를 사용할 경우, 제안된 방법은 BRATS2020 데이터셋에서 종양 세그먼테이션의 평균 DICE 스코어 0.62와 AUROC 0.97을 달성하여 최신 기준 성능을 기록했다.
• CheXpert 데이터셋에서는 흉막 축적 검출에 대해 뛰어난 일반화 성능을 보였으며, 이상 지도의 품질과 국소화 정확도에서 베이스라인 방법을 모두 압도했다.
• 기존 DDPM 기반의 베이스라인과 달리, 비병변 영역의 미세한 해부학적 구조를 유지한 매우 세밀한 이상 지도를 생성했다.
• 하이퍼파라미터 민감도 분석 결과, 노이즈 수준(L)과 분류기 가이던스 스케일(s)이 성능에 크게 영향을 미치며, 최적의 값이 잡음 억제와 종양 제거 간의 균형을 이루는 것으로 나타났다.
• 건강한 영상에 적용했을 경우, 거의 영이 되는 이상 지도를 생성하여 병변이 없는 상황에서도 임의의 이상을 유도하지 않음을 확인했다.
• 모델 아키텍처나 훈련 절차의 최소한의 수정으로도 고품질의 영상 간 번역을 달성하여, 다양한 의료 영상 응용 분야에 즉시 사용 가능한 잠재력을 입증했다.