[논문 리뷰] Uncertainty Estimation for Computed Tomography with a Linearised Deep Image Prior

Javier Antorán, Riccardo Barbano외 3명|arXiv (Cornell University)|2022. 02. 28.

Medical Imaging Techniques and Applications인용 수 5

한 줄 요약

이 논문은 계산 단층촬영(CT) 재구성에서의 불확실성 추정을 위해 선형화된 딥 이미지 프리두르(DIP) 방법을 제안한다. 이는 최적화된 매개변수 주변에서 DIP의 국소 선형화와 총변동(TV) 정규화를 위한 가우시안 대체모형을 활용하여, 계산이 가능하고 공액성 있는 베이지안 추론을 가능하게 한다. 이 방법은 이전의 확률적 DIP 설정보다 훨씬 더 잘 校정된 픽셀 단위의 불확실성 추정을 제공하며, 고해상도 실측 $μ$CT 데이터에서 검증되었다. 오차 예측 정확도가 향상되었다.

ABSTRACT

Existing deep-learning based tomographic image reconstruction methods do not provide accurate estimates of reconstruction uncertainty, hindering their real-world deployment. This paper develops a method, termed as the linearised deep image prior (DIP), to estimate the uncertainty associated with reconstructions produced by the DIP with total variation regularisation (TV). Specifically, we endow the DIP with conjugate Gaussian-linear model type error-bars computed from a local linearisation of the neural network around its optimised parameters. To preserve conjugacy, we approximate the TV regulariser with a Gaussian surrogate. This approach provides pixel-wise uncertainty estimates and a marginal likelihood objective for hyperparameter optimisation. We demonstrate the method on synthetic data and real-measured high-resolution 2D $μ$CT data, and show that it provides superior calibration of uncertainty estimates relative to previous probabilistic formulations of the DIP. Our code is available at https://github.com/educating-dip/bayes_dip.

연구 동기 및 목표

• 딥 러닝 기반 CT 재구성에서 신뢰할 수 있는 불확실성 추정의 부족을 해결하기 위해, 특히 딥 이미지 프리두르(DIP)와 같은 비지도 학습 방법에 초점을 맞춘다.
• 기본 라플라스 근사에서 비가역적인 문제를 유도하는 총변동(TV) 정규화를 갖는 DIP에 대해 계산 가능한 베이지안 추론 프레임워크를 개발한다.
• 쌍체 학습 데이터가 필요 없이 고해상도 CT 재구성에서 정확한 픽셀 단위의 불확실성 정량화를 가능하게 한다.
• 기존의 확률적 DIP 설정에 비해 불확실성 추정의 캘리브레이션을 향상시키며, 특히 분포 이탈 또는 실제 측정 조건 하에서도 성능을 개선한다.

제안 방법

• 최적화된 재구성 매개변수 주변에서 DIP 신경망을 선형화하여 국소 선형 모델을 구성함으로써, 가우시안 프로세스 스타일의 불확실성 전파를 가능하게 한다.
• 비가우시안 TV 정규화자를 위한 가우시안 대체모형을 사용하여 공액성을 유지하고, 닫힌 형태의 주변 가능도 계산을 가능하게 한다.
• 예측 공분산을 수정된 예측 복잡도 사전(PredCP) 프레임워크를 통해 계산하며, 이는 사전 공분산 커널에 TV 유사 성질을 유도한다.
• 하이퍼파rameter는 주변 가능도(MLL) 또는 타입-II MAP 목표 함수를 사용하여 최적화하며, 대규모 시스템의 경우 몬테카를로 샘플링과 PCG 솔버를 통한 기울기 추정을 활용한다.
• 가속화된 샘플링 방법은 자이아드의 저랭크 근사와 조절된 공액 기울기(PCG)를 사용하여 고해상도 2D $μ$CT 데이터에 스케일링 가능하게 한다.
• 이 방법은 표준 DIP 재구성 결과를 예측 평균으로 유지하여, 존재하는 DIP 기술 향상과의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 최적화된 매개변수 주변에서 DIP의 국소 선형화가 TV 정규화를 갖는 CT 재구성에서 신뢰할 수 있고 픽셀 단위의 불확실성 추정을 제공할 수 있는가?
• RQ2 선형화된 DIP에서 TV 정규화로 인해 발생하는 비가역적 추론 문제를 공액성을 유지하면서 계산 가능한 형태로 만들 수 있는가?
• RQ3 제안된 방법이 기존의 확률적 DIP 설정에 비해 더 잘 校정된 불확실성 추정을 제공하는가, 특히 실고해상도 $μ$CT 데이터에서 성능이 향상되는가?
• RQ4 TV 정규화를 위한 가우시안 대체모형 사용이 재구성 정밀도를 유지하면서도 불확실성 정량화를 가능하게 하는가?
• RQ5 이 방법은 고해상도 2D $μ$CT 재구성에 대해 정확도를 저하시키지 않고 효율적으로 스케일링 가능한가?

주요 결과

• 제안된 선형화된 DIP 방법은 기존의 확률적 DIP 설정보다 훨씬 더 잘 校정된 불확실성 추정을 제공하며, 이는 합성 및 실측 $μ$CT 데이터에서 재구성 오차 예측 성능 향상을 통해 입증되었다.
• 호두의 실고해상도 $μ$CT 데이터에서, 이 방법은 뛰어난 불확실성 캘리브레이션 성능를 보였으며, 픽셀 단위의 불확실성 추정이 실제 재구성 오차를 잘 예측하였다.
• TV 정규화자에 대한 가우시안 대체모형 사용으로 계산 가능한 공액 추론이 가능해졌으며, 주변 가능도와 사후 예측 분산의 효율적 계산이 가능했다.
• 500-랭크 자이아드 근사와 PCG를 사용한 가속화된 샘플링 방법은 자이아드 구성 시간을 0.2시간에서 0.5분으로 단축시켜 단정밀도 추론을 가능하게 하였다.
• 이 방법은 예측 평균으로서 표준 DIP 재구성의 동일한 고품질 결과를 유지하여, 최신 기술 수준의 DIP 성능과의 호환성을 확보하면서도 불확실성 정량화를 추가하였다.
• 실증 평가에서 히우리스틱을 통해 안정화된 추정 불확실성 공분산 행렬이 공간 상관관계를 효과적으로 포착하고 비대칭 항목의 노이즈를 감소시켰다.