[논문 리뷰] Quantifying Sources of Uncertainty in Deep Learning-Based Image Reconstruction

Riccardo Barbano, Željko Kereta외 4명|arXiv (Cornell University)|2020. 11. 17.

Medical Imaging Techniques and Applications참고 문헌 21인용 수 6

한 줄 요약

이 논문은 단층 촬영(CT) 기반 딥 러닝 이미지 복원에서 동시적으로 고유 불확실성(aleatoric)과 지식 기반 불확실성(epistemic)을 정량화할 수 있는 확장 가능한 베이지안 딥 러닝 프레임워크 BDGD+를 제안한다. 비결정적 특징 추출기와 결합된 가우시안 평균장 베이지안 CNN을 비순환적 반복 최적화 방식에 통합하고, 확률적 변분 추론을 사용함으로써, 경쟁력 있는 복원 품질을 달성하면서도 측정 한계와 희소 시야 및 제한된 각도 설정에서의 정보 누락을 반영하는 해석 가능한 불확실성 추정을 제공한다.

ABSTRACT

Image reconstruction methods based on deep neural networks have shown outstanding performance, equalling or exceeding the state-of-the-art results of conventional approaches, but often do not provide uncertainty information about the reconstruction. In this work we propose a scalable and efficient framework to simultaneously quantify aleatoric and epistemic uncertainties in learned iterative image reconstruction. We build on a Bayesian deep gradient descent method for quantifying epistemic uncertainty, and incorporate the heteroscedastic variance of the noise to account for the aleatoric uncertainty. We show that our method exhibits competitive performance against conventional benchmarks for computed tomography with both sparse view and limited angle data. The estimated uncertainty captures the variability in the reconstructions, caused by the restricted measurement model, and by missing information, due to the limited angle geometry.

연구 동기 및 목표

• 의료 영상과 같은 민감한 분야에서 딥 러닝 기반 이미지 복원 방법의 불확실성 정량화 부족 문제를 해결하기 위해.
• 학습된 반복 복원에서 동시에 고유 불확실성과 지식 기반 불확실성을 모델링할 수 있는 확장 가능하고 효율적인 프레임워크를 개발하기 위해.
• 베이지안 신경망을 비순환 최적화 방식과 통합하여 성능을 희생시키지 않은 채 불확실성 인식 복원을 가능하게 하기 위해.
• 불확실성 추정이 측정 모델의 물리적 한계, 예를 들어 희소 시야 및 제한된 각도 기하학적 구조를 반영하는가를 입증하기 위해.

제안 방법

• 프레임워크는 베이지안 딥 그래디언트 디센트(BDGD)를 확장하여 결정론적 특징 추출기에 가우시안 평균장 CNN을 추가함으로써 불확실성 정량화를 가능하게 한다.
• 지식 기반 불확실성은 네트워크 가중치에 대한 확률적 변분 추론을 통해 모델링되며, 후행 분포를 평균장 가우시안 가족을 사용해 근사한다.
• 고유 불확실성은 별도의 베이지안 컨볼루션 헤드를 통해 입력에 의존하는 노이즈 분산을 모델링함으로써 통합되며, 이는 이종산성 불확실성 추정을 가능하게 한다.
• 아키텍처는 블록을 순차적으로 훈련하는 그레디 훈련 전략을 사용하며, 변분 추론을 통해 후행 분포 근사를 반복적으로 업데이트한다.
• 손실 함수는 데이터 피드백과 후행 분포 근사 간의 균형을 맞추기 위해 음의 증거 하한 경계(ELBO)와 KL 발산 항을 조합한다.
• 방법은 ASTRA 툴킷을 통해 전방 연산자와 수반 연산자를 가속화한 학습된 비순환 최적화 방식을 사용하여 단층 촬영 복원에 적용된다.

실험 결과

연구 질문

• RQ1 딥 러닝 기반 이미지 복원 방법이 확장 가능하고 효율적인 방식으로 동시에 고유 불확실성과 지식 기반 불확실성을 정량화할 수 있는가?
• RQ2 추정된 불확실성이 측정이 제한되거나 희소한 경우 복원의 진짜 변동성을 얼마나 잘 반영하는가?
• RQ3 불확실성 정량화를 포함함으로써 결정론적 기준 대비 복원 품질이 향상되거나 유지되는가?
• RQ4 제한된 측정 기하학적 조건 하에서 불확실성 추정이 복원 신뢰성의 의미 있는 지표로 해석될 수 있는가?

주요 결과

• 제안된 BDGD+ 프레임워크는 희소 시야 및 제한된 각도 CT 작업에서 총 제약, FBP+U-Net, DGD, LPD와 같은 전통적 기준 대비 경쟁력 있는 복원 성능을 달성한다.
• BDGD+가 생성한 불확실성 추정은 특히 희소 시야 및 제한된 각도 상황에서 제한된 측정 모델에 의해 유도된 변동성을 효과적으로 포착한다.
• 이 방법은 고유 불확실성과 지식 기반 불확실성의 해석 가능한 불확실성 맵을 제공하며, 기하학적 제약으로 인한 고유의 오차 영역과 정보 누락 영역과 상관관계가 있다.
• 입력에 의존하는 분산 모델링(고유 불확실성)을 포함함으로써 저신호 영역에서 특히 강건성과 정밀도가 향상된다.
• 그레디 훈련 전략은 안정적이고 효율적인 최적화를 가능하게 하며, 다양한 데이터 분포에서 불확실성 추정이 일관된 행동을 보인다.
• 실험 결과는 불확실성 정량화가 복원 품질을 손상시키지 않으며 임상 및 안전에 민감한 응용 분야에서 유용한 해석 가능성을 추가로 제공함을 입증한다.