[논문 리뷰] Image-to-Image Regression with Distribution-Free Uncertainty Quantification and Applications in Imaging

Anastasios N. Angelopoulos, Amit P Kohli외 6명|arXiv (Cornell University)|2022. 02. 10.

Statistical Methods and Inference인용 수 14

한 줄 요약

이 논문은 데이터 분포나 모델 선택과 관계없이 엄밀한 통계적 보장을 갖는 이미지 간 회귀에 대한 분포 자유 불확실성 정량화를 소개한다. 校정된 픽셀 단위 분위수 회귀를 사용하여, 자기결정형으로 설계된 신뢰구간을 제공함으로써, MRI, 위상 현미경, 전자현미경 작업에서 기존 방법보다 더 작고 더 신뢰할 수 있는 불확실성 간격을 달성한다.

ABSTRACT

Image-to-image regression is an important learning task, used frequently in biological imaging. Current algorithms, however, do not generally offer statistical guarantees that protect against a model's mistakes and hallucinations. To address this, we develop uncertainty quantification techniques with rigorous statistical guarantees for image-to-image regression problems. In particular, we show how to derive uncertainty intervals around each pixel that are guaranteed to contain the true value with a user-specified confidence probability. Our methods work in conjunction with any base machine learning model, such as a neural network, and endow it with formal mathematical guarantees -- regardless of the true unknown data distribution or choice of model. Furthermore, they are simple to implement and computationally inexpensive. We evaluate our procedure on three image-to-image regression tasks: quantitative phase microscopy, accelerated magnetic resonance imaging, and super-resolution transmission electron microscopy of a Drosophila melanogaster brain.

연구 동기 및 목표

• 과학적 영상에서 사용되는 이미지 간 회귀 모델의 통계적 신뢰성 부족 문제를 해결하기 위해, 환영(홀로지)이 잘못된 발견을 유도할 수 있음을 인식한다.
• 기본 데이터 분포나 모델 아키텍처에 관계없이, 픽셀 단위 예측에 대해 엄밀한 유한 표본 보장을 제공하는 불확실성 정량화 방법을 개발한다.
• 모든 사전 훈련된 회귀 모델(예: 딥 네트워크)에 적용할 수 있는 실용적이고 계산 효율적인 불확실성 추정을 가능하게 한다.
• 자신의 방법이 MRI 재구성, 위상 현미경, 전자현미경 등 다양한 영상 작업에서 효과적임을 입증한다.

제안 방법

• 보정 데이터셋을 활용하여 픽셀 단위 불확실성 간격을 구성함으로써, 각 간격이 사용자가 지정한 확률로 진짜 픽셀 값을 포함하도록 보장한다.
• 교정된 픽셀 단위 분위수 회귀를 적용하여, 표준 분위수 회귀를 이미지 출력으로 확장한다. 이는 각 픽셀에 대해 하한 및 상한 예측 범위를 독립적으로 모델링한다.
• 유한 표본의 마진 커버리지 보장을 확보하기 위해 고정 순서 테스팅 절차를 사용한다. 이는 최소한의 가정 하에 성립한다.
• 모델에 종속되지 않는 방법으로, 재훈련이나 분포 가정 없이도 어떤 기본 회귀기(예: 신경망)와도 작동한다.
• 비대칭 불확실성 간격을 지원하여, 각 픽셀에서 과소 및 과대 예측의 위험 수준을 다르게 설정할 수 있다.
• 추론 시 효율적으로 불확실성 간격을 계산하므로, 실제 과학적 영상 처리 워크플로우에 적합하다.

실험 결과

연구 질문

• RQ1 이미지 간 회귀 작업에 대해 분포 자유이고 통계적으로 타당한 불확실성 정량화가 가능할 수 있는가?
• RQ2 모델이나 데이터 분포에 관계없이, 픽셀 단위 불확실성 간격을 어떻게 구성하여 유한 표본 커버리지 보장을 확보할 수 있는가?
• RQ3 픽셀 단위 분위수 회귀는 가우시안 근사나 잔차 크기 회귀와 같은 히우리스틱 방법보다 불확실성 캘리브레이션과 간격 너비 측면에서 뛰어나게 성능을 내는가?
• RQ4 제안된 방법은 MRI나 전자현미경 재구성에서 모델의 환영을 탐지하고 경고할 수 있는가?
• RQ5 이 방법은 위상 현미경 및 초해상도와 같은 다양한 영상 모odalities에서 어떻게 확장되고 성능을 발휘하는가?

주요 결과

• 픽셀 단위 분위수 회귀는 평가된 모든 방법 중에서 가장 우수한 경험적 성능을 보였으며, 다른 방법보다 더 좁고 더 잘 校정된 불확실성 간격을 생성했다.
• 이 방법은 MRI 재구성에서 환영을 성공적으로 식별했으며, 고도로 불확실성이 높은 영역이 항상 모델이 잘못된 구조를 예측한 영역에 집중되어 있음을 보여주었다.
• 정량적 위상 현미경에서, 불확실성 간격은 통계적으로 타당했고, 기준 방법보다 유의미하게 좁아져 정량 측정의 신뢰성을 향상시켰다.
• 드로소필라 뇌의 초해상도 투과 전자현미경에서, 이 방법은 시각적 검토와 일치하는 신뢰할 수 있는 불확실성 추정치를 제공했다.
• 교정된 픽셀 단위 분위수 회귀 접근법은 가우시안 기반 및 잔차 크기 기반 히우리스틱 방법보다 커버리지 정확도와 간격 너비 측면에서 모두 뛰어났다.
• 이 방법은 계산적으로 효율적이며, 사전 훈련된 모든 모델에 후행적으로 적용 가능하므로, 재훈련 없이도 실제 영상 워크플로우에 도입할 수 있다.