[论文解读] Learned imaging with constraints and uncertainty quantification

Felix J. Herrmann, Ali Siahkoohi+1 more|arXiv (Cornell University)|Sep 13, 2019

Seismic Imaging and Inversion Techniques参考文献 11被引用 13

一句话总结

该论文提出了一种新颖的可学习成像框架，将手工设计的物理约束与深度卷积神经网络（CNN）作为弱先验相结合，以提升地震图像重建质量。通过在期望-最大化框架内建模，并采用在线CNN权重自适应的随机Bregman迭代方法，该方法能够通过后验抽样实现不确定性量化，从而生成高保真度、符合物理规律的图像，并量化其变异性。

ABSTRACT

We outline new approaches to incorporate ideas from deep learning into wave-based least-squares imaging. The aim, and main contribution of this work, is the combination of handcrafted constraints with deep convolutional neural networks, as a way to harness their remarkable ease of generating natural images. The mathematical basis underlying our method is the expectation-maximization framework, where data are divided in batches and coupled to additional "latent" unknowns. These unknowns are pairs of elements from the original unknown space (but now coupled to a specific data batch) and network inputs. In this setting, the neural network controls the similarity between these additional parameters, acting as a "center" variable. The resulting problem amounts to a maximum-likelihood estimation of the network parameters when the augmented data model is marginalized over the latent variables.

研究动机与目标

• 为解决传统最小二乘地震成像方法存在的病态性、噪声敏感性及线性化误差问题。
• 克服手工设计先验在捕捉复杂自然图像结构方面的能力不足，同时保持物理可行性。
• 在无需成对训练数据的情况下，实现成像过程中的不确定性量化。
• 开发一种可扩展的随机优化框架，将深度先验整合到约束优化设置中。

提出的方法

• 将成像问题表述为使用凸约束集 𝒞 的约束优化任务，以确保物理可行性。
• 通过一个由权重 w 参数化的CNN引入弱深度先验，其中 x ≈ g(z, w)，且 z ∼ N(0,1)，将模型嵌入网络的输出范围内。
• 采用混合目标函数，结合数据拟合项与惩罚项 ∥x − g(z, w)∥²，以平衡硬约束与深度先验正则化。
• 使用带有动态步长的随机Bregman迭代，每一步更新对偶变量并投影到 𝒞 上，以保持可行性。
• 采用类似期望-最大化的框架，每个数据批次中对潜在变量 z_i 进行抽样，同时通过梯度下降在重建误差上更新网络权重 w。
• 通过在3200个随机 z 实现上抽样 g(z, w)，计算逐点标准差图，实现不确定性量化。

实验结果

研究问题

• RQ1 能否有效将深度卷积网络整合到约束最小二乘成像中，以在图像质量上超越手工设计先验？
• RQ2 在无成对训练数据的情况下，如何对重建图像中的不确定性进行量化？
• RQ3 能否在反演过程中实现生成网络的在线训练，同时保持物理可行性？
• RQ4 硬约束与弱深度先验的结合是否能在高噪声和线性化误差条件下，带来更鲁棒、更准确的重建结果？

主要发现

• 所提方法生成的图像在3200次样本的均值下，相比标准Bregman迭代，伪影更少。
• 通过对3200个随机 z 实现计算得到的逐点标准差图，揭示了与强线性化误差和噪声区域相关的高不确定性区域。
• 由训练后的生成模型得到的均值图像相比单个实现，表现出更高的清晰度和更少的伪影，表明不确定性被有效平均。
• 通过抽样估计的模型后验分布在反演后表现出方差减小，与贝叶斯后验行为一致。
• 由于硬约束 𝒞 的存在，该方法在整个迭代过程中始终保持物理可行性，即使在早期训练阶段亦然。
• 该框架作为反演过程的副产品实现了不确定性量化，无需额外的后验抽样或预训练。