[논문 리뷰] The role of noise in denoising models for anomaly detection in medical images

Antanas Kascenas, Pedro L. Sánchez외 10명|arXiv (Cornell University)|2023. 01. 19.

Generative Adversarial Networks and Image Synthesis인용 수 5

한 줄 요약

이 논문은 소음 유형—특히 굵은 소음(coarse noise)—을 최적화함으로써 디노이징 오토에인코더(DAEs)와 디퓨전 모델을 사용한 의료 영상에서의 이상 탐지 성능을 크게 향상시킨다는 것을 보여준다. 굵은 소음은 정상 구조의 재구성 정밀도를 높이고 이면을 억제함으로써 단순하고 빠른 DAE를 사용해 최신 기술(SOTA) 성능을 달성한다. 이 접근법은 뇌 MRI 및 CT 데이터셋에서 다양한 병변을 대상으로 검증되었다.

ABSTRACT

Pathological brain lesions exhibit diverse appearance in brain images, in terms of intensity, texture, shape, size, and location. Comprehensive sets of data and annotations are difficult to acquire. Therefore, unsupervised anomaly detection approaches have been proposed using only normal data for training, with the aim of detecting outlier anomalous voxels at test time. Denoising methods, for instance classical denoising autoencoders (DAEs) and more recently emerging diffusion models, are a promising approach, however naive application of pixelwise noise leads to poor anomaly detection performance. We show that optimization of the spatial resolution and magnitude of the noise improves the performance of different model training regimes, with similar noise parameter adjustments giving good performance for both DAEs and diffusion models. Visual inspection of the reconstructions suggests that the training noise influences the trade-off between the extent of the detail that is reconstructed and the extent of erasure of anomalies, both of which contribute to better anomaly detection performance. We validate our findings on two real-world datasets (tumor detection in brain MRI and hemorrhage/ischemia/tumor detection in brain CT), showing good detection on diverse anomaly appearances. Overall, we find that a DAE trained with coarse noise is a fast and simple method that gives state-of-the-art accuracy. Diffusion models applied to anomaly detection are as yet in their infancy and provide a promising avenue for further research.

연구 동기 및 목표

• 디노이징 모델에서 소음 특성 최적화를 통해 의료 영상에서의 비지도 이상 탐지 성능을 향상시키는 것.
• 소음 파rameter 조정(해상도 및 크기)이 DAE 및 디퓨전 모델을 포함한 다양한 디노이징 아키텍처에서 성능 향상에 기여하는지 조사하는 것.
• 다양한 병변이 있는 뇌 MRI 및 CT에서 굵은 소음과 다른 소음 유형(예: 심플렉스 소음) 간의 이상 탐지 성능 비교를 평가하는 것.
• 영상의 정상성을 기반으로 한 라디오로지 보고서의 자연어 처리(NLP)를 활용해 자동으로 건강한 훈련 스캔을 선별하는 실용적인 자동화 파이프라인을 개발하는 것.
• 소음 하이퍼파rameter의 일반화 능력을 다양한 영상 모odalities와 이상 유형 간에 평가하는 것.

제안 방법

• 입력 영상보다 낮은 해상도에서 소음을 적용하고 훈련 중에 업샘플링하는 방식으로 공간적으로 굵은 소음을 사용한 디노이징 오토에인코더(DAEs)를 훈련시켰다.
• 유사한 굵은 소음 최적화 기법을 디퓨전 모델에 적용하여 재구성 및 이상 탐지 성능 향상을 위해 소음 크기와 공간 해상도를 조정했다.
• 픽셀 단위 소음을 기준선으로 사용하고, DAE 및 디퓨전 모델 모두에서 굵은 소음과 심플렉스 소음과 비교했다.
• 재구성 오차를 이상 점수로 사용하였으며, 높은 오차는 잠재적 병변을 의미한다.
• 대규모 비정제된 데이터셋에서 훈련을 위한 정상 스캔을 자동으로 식별하고 추출하기 위해 라디오로지 보고서의 자연어 처리(NLP)를 활용했다.
• 두 가지 실제 데이터셋에서 모델을 검증했다: 뇌 MRI에서의 종양 탐지 및 뇌 CT에서의 출혈/허혈/종양 탐지.

실험 결과

연구 질문

• RQ1 의료 영상에서 디노이징 오토에인코더 및 디퓨전 모델의 이상 탐지 성능 향상에 있어 소음의 공간 해상도와 크기 최적화가 가능한가?
• RQ2 최적의 소음 파rameter(해상도 및 크기)는 MRI와 CT와 같은 다양한 영상 모달리티 간 및 다양한 이상 유형 간에 이식 가능한가?
• RQ3 이상 탐지 정확도 측면에서 굵은 소음은 픽셀 단위 소음 및 심플렉스 소음보다 어떻게 비교되는가?
• RQ4 라디오로지 보고서의 NLP 기반 필터링이 비지도 이상 탐지에 적합한 건강한 훈련 코hort를 효과적으로 식별할 수 있는가?
• RQ5 재구성 기반 방법(예: DAE 및 디퓨전 모델)은 밝기 대비가 낮은 허혈과 같은 미세한 이상을 어느 정도 탐지할 수 있는가?

주요 결과

• 굵은 소음 파rameter(해상도 및 크기) 최적화가 디노이징 오토에인코더 및 디퓨전 모델 전반에서 이상 탐지 성능 향상에 상당한 기여를 하였다.
• 굵은 소음을 사용해 훈련한 기존의 DAE가 더 복잡한 모델들을 능가했으며, 뇌 MRI 및 CT 데이터셋에서 최신 기술(SOTA) 성능을 달성했다.
• 굵은 소음에 최적화된 소음 파rameter는 MRI와 CT 모달리티 간 및 다양한 병변(종양, 출혈, 허혈) 간에 대부분 이식 가능했다.
• 특히 고대비 병변에 있어서 굵은 소음은 픽셀 단위 소음 및 심플렉스 소음보다 대부분의 이상 탐지 설정에서 뛰어난 성능을 보였다.
• 라디오로지 보고서의 NLP 기반 필터링을 통해 비정제된 데이터셋에서 건강한 훈련 코hort를 효과적으로 식별할 수 있었으며, 이는 주로 자동화된 파이프라인을 가능하게 했다.
• 두드러진 이상(예: 종양, 출혈)에는 효과적이지만, 밝기 대비가 낮은 허혈과 같은 미세한 이상 탐지에는 여전히 재구성 기반 방법이 어려움을 겪고 있어, 보다 다른 점수 기반 메커니즘의 필요성이 제기된다.