[논문 리뷰] The Ensemble Inverse Problem: Applications and Methods

Zhengyan Huan, Camila Pazos외 4명|arXiv (Cornell University)|2026. 01. 29.

Generative Adversarial Networks and Image Synthesis인용 수 0

한 줄 요약

논문은 Ensemble Inverse Problem(EIP)를 소개하고, 추론 시 명시적 순방향 모델 사용 없이 관측 앙상블을 이용해 사후분포를 추론하는 비-반복적 포스터리어 샘플러인 ensemble inverse generative models(EI-DDPM 및 EI-FM)을 제안합니다.

ABSTRACT

We introduce a new multivariate statistical problem that we refer to as the Ensemble Inverse Problem (EIP). The aim of EIP is to invert for an ensemble that is distributed according to the pushforward of a prior under a forward process. In high energy physics (HEP), this is related to a widely known problem called unfolding, which aims to reconstruct the true physics distribution of quantities, such as momentum and angle, from measurements that are distorted by detector effects. In recent applications, the EIP also arises in full waveform inversion (FWI) and inverse imaging with unknown priors. We propose non-iterative inference-time methods that construct posterior samplers based on a new class of conditional generative models, which we call ensemble inverse generative models. For the posterior modeling, these models additionally use the ensemble information contained in the observation set on top of single measurements. Unlike existing methods, our proposed methods avoid explicit and iterative use of the forward model at inference time via training across several sets of truth-observation pairs that are consistent with the same forward model, but originate from a wide range of priors. We demonstrate that this training procedure implicitly encodes the likelihood model. The use of ensemble information helps posterior inference and enables generalization to unseen priors. We benchmark the proposed method on several synthetic and real datasets in inverse imaging, HEP, and FWI. The codes are available at https://github.com/ZhengyanHuan/The-Ensemble-Inverse-Problem--Applications-and-Methods.

연구 동기 및 목표

• 앞으로의 과정을 통해 prior의 푸시포워드에 의해 분포된 앙상을 역추정하는 Ensemble Inverse Problem(EIP)의 정의와 동기를 제시한다.
• 단일 관측 y와 관측 앙상블 Y를 모두 조건으로 하여 prior 또는 posterior를 회복하는 비-반복적 포스터리어 샘플러를 개발한다.
• inverse imaging, 고에너지 물리학 풀언포더링, 지진 파형 역산 등에서 unseen priors와 알려지지 않은 forward 모델에 대한 일반화를 시연한다.
• 추정 시 명시적 forward-model 접근 없이도 포스터리어 추론이 향상되도록 베이스라인과 비교한다.

제안 방법

• EI-DDPM과 EI-FM을 단일 관측 y와 관측 집합 Y를 조건으로 하는 p(x|y, Y)를 모델링하는 조건부 생성 모델로 도입한다.
• Y의 정보를 순열-불변 신경망 phi_w를 사용해 고정된 크기의 표현으로 인코딩한다.
• D로부터 truth-observation 쌍을 샘플링하여 여러 prior 분포에 걸쳐 모델을 학습시키고, 잠재적으로 우도 p(y|x)를 암묵적으로 인코딩한다.
• 추론 시 비-반복적 포스터리어 샘플링이 가능하도록 조건부 확산(EI-DDPM) 또는 조건부 흐름 매칭(EI-FM)을 사용한다.
• phi_w(Y)로 조건화를 통해 앙상블 정보를 통합하여 unseen priors에 일반화될 수 있도록 한다.
• EI-DDPM 및 EI-FM에 대한 학습 및 샘플링 알고리즘(Alg. 1 및 Alg. 2), 세트 인코딩 및 시간 스텝 처리 등을 제공한다.

(a) Forward process

실험 결과

연구 질문

• RQ1 동일 forward 프로세스에서 유래했으나 priors가 알려지지 않은 관측 Y의 앙상블을 추론 시점에 활용하여 p(x|y) 또는 p(x|y, Y)에서 샘플링하는 것이 가능할까?
• RQ2 Y를 순열-불변 표현으로 인코딩하면 unseen priors와 이질적 forward-model 설정에 일반화할 수 있을까?
• RQ3 EI-DDPM과 EI-FM은 inverse imaging, 고에너지 물리 unfolding, 지진 FWI 등에서 기존의 언폴딩 및 역문제 방법과 어떻게 비교되는가?
• RQ4 비-반복적이고 앙상블 조건부 생성 모델이 추론 중에 명시적 forward-model 평가를 우회하면서 재구성 품질을 보존하거나 향상시킬 수 있는가?

주요 결과

• EI-DDPM과 EI-FM은 다수의 베이스라인과 비교하여 우수한 포스터리어 추론 및 unseen priors에 대한 일반화를 달성한다.
• 앙상블 표현 phi_w(Y)은 효과적인 조건화를 가능하게 하며 추론 시 priors에 대한 직접적인 지식이나 forward-model 접근 없이도 성능을 향상시킨다.
• 합성 작업(변 perturb된 2D Gaussian, MNIST 유사 이미지 혼합) 및 실제 영역(HEP unfolding, seismic FWI)에서 EI-DDPM/EI-FM은 cDDPM, cFM 및 기타 경쟁자보다 성능이 우수하다.
• 2D Gaussian 실험에서 unseen priors에 대한 강력한 일반화를 보이며 SWD 지표가 priors 정보를 직접 가진 모델에 비해 우호적으로 나타난다.
• 입자 물리 unfolding 및 지진 FWI 실험에서 EI-FDPM/EI-FM은 베이스라인보다 WD와 같은 거리 메트릭이 작고 MAE/MSE/SSIM 점수가 더 좋으며, 앙상블 정보를 효과적으로 임베딩함을 보인다.

(b) EIP-II’s solution