[논문 리뷰] Faster Uncertainty Quantification for Inverse Problems with Conditional Normalizing Flows

Ali Siahkoohi, Gabrio Rizzuti외 2명|arXiv (Cornell University)|2020. 07. 15.

Gaussian Processes and Bayesian Inference참고 문헌 18인용 수 16

한 줄 요약

이 논문은 예측된 지도 학습 모델을 비지도 추론을 위한 사전 확률로 재사용함으로써, 비선형 흐름 기반의 두 단계 조건부 정규화 흐름 프레임워크를 제안하여 역문제에서의 불확실성 정량화를 가속화한다. 흐름 기반 사후 근사와 함께 전이 학습을 활용함으로써, 새로운 역문제를 해결할 때 훈련 속도가 크게 향상되며, 이는 지반 이미징에서 입증되었다.

ABSTRACT

In inverse problems, we often have access to data consisting of paired samples $(x,y)\sim p_{X,Y}(x,y)$ where $y$ are partial observations of a physical system, and $x$ represents the unknowns of the problem. Under these circumstances, we can employ supervised training to learn a solution $x$ and its uncertainty from the observations $y$. We refer to this problem as the "supervised" case. However, the data $y\sim p_{Y}(y)$ collected at one point could be distributed differently than observations $y'\sim p_{Y}'(y')$, relevant for a current set of problems. In the context of Bayesian inference, we propose a two-step scheme, which makes use of normalizing flows and joint data to train a conditional generator $q_θ(x|y)$ to approximate the target posterior density $p_{X|Y}(x|y)$. Additionally, this preliminary phase provides a density function $q_θ(x|y)$, which can be recast as a prior for the "unsupervised" problem, e.g.~when only the observations $y'\sim p_{Y}'(y')$, a likelihood model $y'|x$, and a prior on $x'$ are known. We then train another invertible generator with output density $q'_ϕ(x|y')$ specifically for $y'$, allowing us to sample from the posterior $p_{X|Y}'(x|y')$. We present some synthetic results that demonstrate considerable training speedup when reusing the pretrained network $q_θ(x|y')$ as a warm start or preconditioning for approximating $p_{X|Y}'(x|y')$, instead of learning from scratch. This training modality can be interpreted as an instance of transfer learning. This result is particularly relevant for large-scale inverse problems that employ expensive numerical simulations.

연구 동기 및 목표

• 비용이 많이 드는 PDE 시뮬레이션을 수반하는 대규모 역문제에서 불확실성 정량화의 훈련 속도가 느린 문제를 해결한다.
• 쌍체 데이터가 없을 경우 새로운, 분포 외 관측치로 일반화하는 데 어려움을 겪는 순수 비지도 방법의 한계를 극복한다.
• 기존의 지도 학습 데이터를 활용하여 비지도 추론을 사전 조건화함으로써 수렴 속도와 해의 품질을 향상시킨다.
• 역행성 생성 모델과 정확한 밀도 계산을 가능하게 하는 해석적 밀도 계산을 통해 고차원 역문제에서 효율적인 사후 근사화를 실현한다.
• 기존의 조건부 정규화 흐름을 사전으로 재사용하여 새로운 역문제에 대해 훈련 시간을 다시 시작하는 것에서 줄이는 전이 학습 전략을 개발한다.

제안 방법

• 쌍체 데이터 $ (x,y) \sim p_{X,Y}(x,y) $ 에서 조건부 정규화 흐름 $ q_\theta(x|y) $ 를 훈련하여 사후 $ p_{X|Y}(x|y) $ 를 근사함으로써 해석적 밀도 추정이 가능하게 한다.
• 학습된 $ q_\theta(x|y) $ 를 비지도 문제의 사전 확률로 사용하여 수작업 또는 무작위 사전 확률을 대체한다.
• 새로운 관측치 $ y' \sim p_Y'(y') $ 에 대해, 사전에 학습된 $ q_\theta $ 를 온난 스타트 또는 사전 조건자로 사용하여 두 번째 조건부 흐름 $ q'_\phi(x|y') $ 를 훈련한다.
• 역행성 흐름을 사용한 가능도 기반 훈련을 통해 일정한 메모리 복잡도를 유지하고 모드 붕괴를 방지한다.
• 흐름의 역행성 특성을 활용하여 사후 근사화 문제를 변분 추론 문제로 재구성하고 정확한 로그 가능도를 계산한다.
• 압축 센싱과 파동 방정식 전진 모델을 사용하여 지반 이미징에 이 방법을 적용하고, 분포 외 데이터에서의 성능을 검증한다.

실험 결과

연구 질문

• RQ1 기존에 학습된 지도 학습 정규화 흐름을 비지도 역문제에서의 불확실성 정량화를 가속화하기 위해 사전 확률로 효과적으로 재사용할 수 있는가?
• RQ2 무작위 초기화에서 훈련하는 것과 비교해 흐름 기반 사전 확률를 통한 전이 학습이 수렴 속도와 해의 정확도 측면에서 어떻게 다른가?
• RQ3 조건부 정규화 흐름이 비용이 많이 드는 시뮬레이션을 수반하는 고차원 PDE 기반 역문제에서 효율적인 사후 근사화를 얼마나 잘 실현할 수 있는가?
• RQ4 기존 데이터에서 유도된 흐름 기반 사전 확률을 사용할 경우, 이미징 응용 분야에서 새로운 분포 외 관측치로의 일반화가 향상되는가?
• RQ5 사전에 학습된 흐름에서 온난 스타트를 사용할 경우, 비지도 역문제에서 훈련 안정성과 최종 사후 품질에 어떤 영향을 미치는가?

주요 결과

• 기존에 학습된 조건부 정규화 흐름을 사전으로 사용함으로써, 비지도 역문제의 훈련 속도가 크게 향상되어 목표 손실에 도달하기 위한 반복 수가 현저히 감소하였다.
• 온난 스타트에서 시작한 훈련은 무작위 초기화에서 시작한 것보다 더 빠른 수렴 속도를 보였으며, 더 낮은 손실 값을 더욱 일관되게 도달하였다.
• 온난 스타트된 모델에서의 조건부 평균 추정치는 랜덤 초기화된 네트워크의 추정치보다 지표값에 훨씬 가까웠다.
• 온난 스타트된 모델에서의 점별 표준편차는 더 정확한 불확실성 정량화를 보였으며, 공간적 일관성과 불확실성의 국소화가 뛰어났다.
• 랜덤 초기화된 네트워크는 20,000회 반복이 지나도 합리적인 사후 근사화를 도출하지 못한 반면, 온난 스타트된 모델은 타당한 해로 수렴하였다.
• 이 방법은 전진 모델이 계산적으로 비용이 많이 드는 대규모 이미징 문제, 예를 들어 지반 또는 옵토아쿠스틱 이미징에 대해 강력한 잠재력을 보였다.