[논문 리뷰] Practical Window Setting Optimization for Medical Image Deep Learning

Hyunkwang Lee, Myeongchan Kim외 1명|arXiv (Cornell University)|2018. 12. 03.

Radiomics and Machine Learning in Medical Imaging참고 문헌 9인용 수 23

한 줄 요약

이 논문은 CT 영상의 병변 부각도를 향상시켜 뇌출혈 및 요석 검출 성능을 향상시키기 위해 훈련 가능한 윈도우 설정 최적화(WSO) 모듈을 제안한다. 이 모듈은 1x1 합성곱 레이어와 고유한 활성화 함수를 사용하여 Hounsfield 단위(HU) 윈도우 범위를 자동으로 학습한다. 선형 또는 시그모이드 윈도우 함수를 모방하는 WSO 모듈은 백프로파게이션을 통해 윈도우 수준과 너비를 최적화할 수 있으며, 이로 인해 전체 HU 범위나 고정된 윈도우 설정을 사용하는 모델보다 성능이 뛰어나며, 시그모이드 WSO와 이중 초기화를 사용할 경우 뇌출혈 검출에서 97.6% AUC, 요석 검출에서 97.2% AUC를 기록한다.

ABSTRACT

The recent advancements in deep learning have allowed for numerous applications in computed tomography (CT), with potential to improve diagnostic accuracy, speed of interpretation, and clinical efficiency. However, the deep learning community has to date neglected window display settings - a key feature of clinical CT interpretation and opportunity for additional optimization. Here we propose a window setting optimization (WSO) module that is fully trainable with convolutional neural networks (CNNs) to find optimal window settings for clinical performance. Our approach was inspired by the method commonly used by practicing radiologists to interpret CT images by adjusting window settings to increase the visualization of certain pathologies. Our approach provides optimal window ranges to enhance the conspicuity of abnormalities, and was used to enable performance enhancement for intracranial hemorrhage and urinary stone detection. On each task, the WSO model outperformed models trained over the full range of Hounsfield unit values in CT images, as well as images windowed with pre-defined settings. The WSO module can be readily applied to any analysis of CT images, and can be further generalized to tasks on other medical imaging modalities.

연구 동기 및 목표

• 의료 영상의 딥러닝에서 윈도우 설정이 중요한 역할을 하므로 그 활용도가 낮은 문제를 해결하기 위해.
• 최적의 윈도우 설정(윈도우 수준 및 너비)을 학습 가능한, 기울기 기반의 엔드 투 엔드 훈련 가능한 모듈을 개발하기 위해.
• 과제에 특화된 윈도우 최적화가 고정 또는 전체 HU 범위 입력을 사용하는 모델보다 더 높은 진단 성능을 향상시킬 수 있음을 입증하기 위해.
• 이 방법을 CT 이외의 과제 및 MRI, PET와 같은 다른 의료 영상 모odalities로 일반화하기 위해.

제안 방법

• WSO 모듈은 학습 가능한 가중치와 편향을 가진 1x1 합성곱 레이어를 사용하여 선형 또는 시그모이드 윈도우 함수를 모방한다.
• 윈도우 함수는 $ F_{lin}(x) = \min(\max(Wx + b, 0), U) $ 로 정의되며, $ W = \frac{U}{WW} $, $ b = -\frac{U}{WW}(WL - \frac{WW}{2}) $ 로 설정되어 기울기 기반 최적화가 가능하다.
• 시그모이드 윈도우의 경우 $ F_{sig}(x) = \frac{U}{1 + e^{-(Wx + b)}} $ 로 정의되며, $ W $ 와 $ b $ 는 목표 윈도우 수준과 너비에서 유도된다.
• WSO 레이어는 주요 CNN(Inception-v3) 이전에 삽입되어 훈련 중 윈도우 파라미터를 백프로파게이션으로 조정할 수 있도록 한다.
• WSO 파라미터의 초기화는 표준 임상 윈도우 설정(예: 'brain', 'subdural', 'bone', 'abdomen')을 기반으로 하여 최적화를 안내한다.
• 모델은 Adam 옵timizer를 사용하여 훈련되며, 학습률 감소 전략을 적용하고, 검증 손실 기반으로 최고의 모델을 선택한다.

실험 결과

연구 질문

• RQ1 고정 또는 전체 HU 입력 대비 기울기 기반으로 학습 가능한 윈도우 모듈이 CT 영상 분석의 딥러닝 성능을 향상시킬 수 있는가?
• RQ2 과제에 특화된 윈도우 설정 최적화가 뇌출혈 및 요석과 같은 병변의 부각도를 향상시키는가?
• RQ3 선형 대비 시그모이드 윈도우 함수의 선택이 의료 영상 분류 성능에 어떤 영향을 미치는가?
• RQ4 WSO 모듈은 CT 이외의 다른 의료 영상 모달리티로 일반화될 수 있는가?

주요 결과

• 시그모이드 윈도우와 이중 초기화를 사용한 WSO 모델은 뇌출혈 검출에서 97.6% AUC를 기록하여 최고의 베이스라인인 96.9%를 초월했다.
• 요석 검출에서는 WSO 모델이 97.2% AUC를 달성하여 다음으로 우수한 베이스라인인 94.6%를 뛰어넘었다.
• 표준 설정(예: 'brain', 'subdural')으로 사전 윈도우 처리된 영상으로 훈련한 모델들이 전체 HU 범위 영상으로 훈련한 모델보다 성능이 뛰어나, 윈도우 설정의 가치를 입증했다.
• 시그모이드 활성화 함수를 사용하고 두 가지 표준 설정에서 초기화한 WSO 모듈이 가장 높은 성능을 보였으며, 이는 다중 사전 초기화의 이점이 있음을 시사한다.
• WSO로 최적화된 윈도우 설정은 특징 공간에서 뇌출혈 및 요석과 같은 병변을 더 명확하게 부각시켰으며, 그 결과는 그림 3에 시각화되어 있다.
• 이 방법은 일반화 가능하며, 객체 검출 및 분할과 같은 다른 CT 과제뿐 아니라 MRI 및 PET와 같은 다른 모달리티로도 적용 가능하다.