[논문 리뷰] Equivariant Bootstrapping for Uncertainty Quantification in Imaging Inverse Problems

Julián Tachella, Marcelo Pereyra|arXiv (Cornell University)|2023. 10. 18.

Medical Imaging Techniques and Applications참고 문헌 25인용 수 4

한 줄 요약

이 논문은 영상 역문제에서의 불확실성 정량화(UQ)를 위해 대칭성 불변 변환(예: 회전, 이동)을 활용하는 등장형 부트스트래핑 방법을 제안한다. 이 방법은 재구성 과정에서의 불변성 특성을 활용하여, 지도 학습 데이터가 없더라도 정확도, 신뢰성, 계산 효율성 면에서 최신 베이지안 및 디퓨전 기반 UQ 방법을 능가한다.

ABSTRACT

Scientific imaging problems are often severely ill-posed, and hence have significant intrinsic uncertainty. Accurately quantifying the uncertainty in the solutions to such problems is therefore critical for the rigorous interpretation of experimental results as well as for reliably using the reconstructed images as scientific evidence. Unfortunately, existing imaging methods are unable to quantify the uncertainty in the reconstructed images in a manner that is robust to experiment replications. This paper presents a new uncertainty quantification methodology based on an equivariant formulation of the parametric bootstrap algorithm that leverages symmetries and invariance properties commonly encountered in imaging problems. Additionally, the proposed methodology is general and can be easily applied with any image reconstruction technique, including unsupervised training strategies that can be trained from observed data alone, thus enabling uncertainty quantification in situations where there is no ground truth data available. We demonstrate the proposed approach with a series of numerical experiments and through comparisons with alternative uncertainty quantification strategies from the state-of-the-art, such as Bayesian strategies involving score-based diffusion models and Langevin samplers. In all our experiments, the proposed method delivers remarkably accurate high-dimensional confidence regions and outperforms the competing approaches in terms of estimation accuracy, uncertainty quantification accuracy, and computing time.

연구 동기 및 목표

• 영상 역문제에서의 강력한 불확실성 정량화의 부족, 특히 모델 비동정성과 제한된 지도 데이터가 존재하는 상황을 해결하기 위해.
• 영상 문제에 내재된 대칭성(예: 회전, 이동)에 대해 불변인 UQ 방법을 개발하여 실험 반복 간 신뢰 영역이 안정적으로 유지되도록 하기 위해.
• 지도 학습이 불가능한 영상 재구성 설정에서의 불확실성 정량화를 가능하게 하기 위해.
• 스코어 기반 디퓨전 모델과 랭지에브 샘플러와 같은 복잡한 베이지안 UQ 방법에 대한 계산 효율적인 대안을 제공하기 위해.
• 등장형 부트스트래핑을 계산 영상 분야의 일반 목적 UQ 프레임워크로 삼기 위한 이론적 및 실증적 기반을 구축하기 위해.

제안 방법

• 관측 데이터에 무작위 대칭 변환(예: 회전, 이동)을 적용하여 문제의 군 구조를 유지하는 합성 측정치를 생성하는 파arametric 부트스트래핑을 제안한다.
• 부트스트래핑된 데이터로 재구성 네트워크를 훈련하고 다중 변환된 실현치의 예측을 집계하여 신뢰 영역을 구성한다.
• 핵심 혁신은 선택된 군 작용(예: 회전 또는 이동)에 대해 전진 연산자와 재구성 네트워크가 함께 등장형이 되도록 보장하는 데 있다. 이는 불확실성 추정의 안정성을 높인다.
• 선형 추정자 분석을 통해 대칭 제약 조건 하에서 신뢰 영역의 정확도를 이론적으로 정당화한다.
• 어떤 영상 재구성 기법(예: 관측 데이터만으로 훈련된 비지도 딥러닝 모델 포함)과도 원활하게 통합된다.
• 후행 확률 추정이나 스코어 기반 모델에 의존하지 않고, 대신 대칭성 인식 리샘플링을 통해 불확실성 추정을 수행한다.

실험 결과

연구 질문

• RQ1 모델이 비동정성일 경우, 부트스트래핑 기반 UQ 방법이 영상 역문제에서 강력하고 정확한 불확실성 정량화를 달성할 수 있는가?
• RQ2 부트스트래핑 과정에서 대칭성(등장성)을 활용할 경우, 표준 파arametric 부트스트래핑에 비해 신뢰 영역의 신뢰성은 어떻게 향상되는가?
• RQ3 이러한 방법이 지도 데이터 없이도 정확한 불확실성 추정을 얼마나 잘 수행할 수 있는가?
• RQ4 최신 베이지안 UQ 방법(예: 디퓨전 모델, 랭지에브 샘플러)과 비교했을 때, 등장형 부트스트래핑의 성능과 효율성은 어떠한가?
• RQ5 다른 군 작용(예: 회전 vs. 이동)이 불확실성 추정 품질에 미치는 영향은 어떠한가?

주요 결과

• 등장형 부트스트래핑 방법은 모든 테스트된 영상 역문제에서 경쟁 베이지안 및 디퓨전 기반 UQ 방법보다 더 정확한 고차원 신뢰 영역을 일관되게 생성한다.
• 이 방법은 특히 픽셀 단위 오차 분포를 잘 포괄하는 바탕으로, 추정 정확도와 불확실성 정량화 정확도 면에서 최신 기법을 능가한다.
• 회전만을 군 작용으로 사용할 경우, 진짜 오차의 거의 완벽한 커버리지가 달성되지만, 이동만을 사용할 경우 전진 연산자 및 네트워크의 대칭성과 일치하지 않아 성능이 열 劣한다.
• 랭지에브 샘플러 및 디퓨전 모델 대비 계산 시간을 크게 줄였으며, 정확도는 유지하거나 초월한다.
• 등장형 부트스트래핑이 생성한 불확실성 맵은 진짜 절대 오차와 강하게 일치하여 오차 추정의 높은 정밀도를 보여준다.
• 이 방법은 지도 데이터가 전혀 없는 완전한 비지도 설정에서도 신뢰할 수 있는 불확실성 정량화를 가능하게 한다.