[논문 리뷰] Learned imaging with constraints and uncertainty quantification

Felix J. Herrmann, Ali Siahkoohi외 1명|arXiv (Cornell University)|2019. 09. 13.

Seismic Imaging and Inversion Techniques참고 문헌 11인용 수 13

한 줄 요약

이 논문은 깊이 합성곱 신경망(CNN)을 약한 사전으로 통합하여 물리적 제약 조건을 수반하는 새로운 학습 기반 영상 복원 프레임워크를 제안한다. 기대값-최대화 프레임워크 내에서 문제를 설정하고, 실시간으로 CNN 가중치를 조정하는 스 tochastic Bregman 반복을 사용함으로써, 사후 샘플링을 통한 불확실성 정량화를 가능하게 하여 고해상도이자 물리적으로 타당한 영상과 함께 변동성을 정량화한다.

ABSTRACT

We outline new approaches to incorporate ideas from deep learning into wave-based least-squares imaging. The aim, and main contribution of this work, is the combination of handcrafted constraints with deep convolutional neural networks, as a way to harness their remarkable ease of generating natural images. The mathematical basis underlying our method is the expectation-maximization framework, where data are divided in batches and coupled to additional "latent" unknowns. These unknowns are pairs of elements from the original unknown space (but now coupled to a specific data batch) and network inputs. In this setting, the neural network controls the similarity between these additional parameters, acting as a "center" variable. The resulting problem amounts to a maximum-likelihood estimation of the network parameters when the augmented data model is marginalized over the latent variables.

연구 동기 및 목표

• 기존 최소제곱 영상 복원 기법이 악조건, 노이즈 및 선형화 오차로 인해 약한 성능을 보이는 데 대비하여 이를 해결하고자 한다.
• 복잡한 자연 영상의 구조를 포괄하면서도 물리적 타당성을 유지하는 데에 한계가 있는 수작업으로 만든 사전의 단점을 극복하고자 한다.
• 쌍체 훈련 데이터가 없어도 영상의 불확실성을 정량화할 수 있도록 하고자 한다.
• 제약 조건이 있는 최적화 환경 내에서 깊이 사전을 통합하는 확장 가능한 스 tochastic 최적화 프레임워크를 개발하고자 한다.

제안 방법

• 물리적 타당성을 보장하기 위해 볼록 제약 집합 𝒞를 사용하여 영상 복원 문제를 제약 최적화 문제로 설정한다.
• 가중치 w로 매개변수화된 CNN을 통해 약한 깊이 사전를 도입하며, x ≈ g(z, w) (z ∼ N(0,1)) 형태로 모델을 네트워크의 범위 내에 통합한다.
• 데이터 불일치와 패널티 항 ∥x − g(z, w)∥²를 조합한 하이브리드 목적함수를 사용하여 경직된 제약 조건과 깊이 사전 정규화 간의 균형을 맞춘다.
• 동적 스텝 크기를 갖는 스 tochastic Bregman 반복을 적용하고, 각 단계에서 이중 변수를 갱신하며 𝒞에 투영함으로써 타당성을 유지한다.
• 잠재 변수 z_i를 각 데이터 배치당 샘플링하고, 복원 오차에 대한 기울기 하강법을 통해 네트워크 가중치 w를 갱신하는 기대값-최대화 유사 프레임워크를 적용한다.
• 3200개의 랜덤 z 실현값에 대해 g(z, w)를 샘플링하여 점별 표준편차 맵을 계산함으로써 불확실성 정량화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 깊이 합성곱 신경망이 제약 조건이 있는 최소제곱 영상 복원에 효과적으로 통합되어 수작업 사전를 초월하는 영상 품질 향상을 이끌 수 있는가?
• RQ2 쌍체 훈련 데이터가 없을 경우 복원된 영상의 불확실성을 어떻게 정량화할 수 있는가?
• RQ3 복원 과정 중에 생성 네트워크의 실시간 훈련을 달성하면서도 물리적 타당성을 유지할 수 있는가?
• RQ4 경직된 제약 조건과 약한 깊이 사전의 조합이 고노이즈 및 선형화 오차 상황에서 더 강력하고 정확한 복원을 이끌 수 있는가?

주요 결과

• 제안된 방법은 표준 Bregman 반복보다 더 적은 잡음과 아티팩트를 갖는 영상을 생성함을 3200개의 생성 샘플 평균을 통해 입증하였다.
• 3200개의 랜덤 z 실현값에서 계산된 점별 표준편차 맵은 강한 선형화 오차 및 노이즈 영역과 관련된 높은 불확실성 영역을 드러내었다.
• 훈련된 생성 모델의 평균 영상은 개별 실현값에 비해 더 선명하고 아티팩트가 줄어들어 불확실성의 효과적인 평균화가 이루어졌음을 시사한다.
• 샘플링을 통해 추정한 모델의 사후 분포는 복원 후 분산이 감소하여 베이지안 사후 분포의 특성과 일치한다.
• 경우에 따라 초기 훈련 단계에서도 경직된 제약 조건 𝒞 덕분에 물리적 타당성이 유지되는 것으로 확인되었다.
• 이 프레임워크는 별도의 사후 샘플링이나 사전 훈련 없이도 복원 과정의 부산물로 불확실성 정량화를 가능하게 하였다.