[论文解读] Generative Adversarial Neural Operators

Md Ashiqur Rahman, M. A. Florez+3 more|arXiv (Cornell University)|May 6, 2022

Generative Adversarial Networks and Image Synthesis被引用 8

一句话总结

本文提出了生成对抗神经算子（GANO），一种将生成对抗网络（GAN）扩展至无限维函数空间的深度学习框架，通过将生成器建模为神经算子、判别器建模为神经泛函，实现对复杂函数数据（如地震干涉图）的高效、数据高效的采样。GANO 通过学习函数空间中的前推映射，实现了对真实且结构一致样本的生成，其在生成具有正确圆统计特性的样本方面优于有限维 GAN。

ABSTRACT

We propose the generative adversarial neural operator (GANO), a generative model paradigm for learning probabilities on infinite-dimensional function spaces. The natural sciences and engineering are known to have many types of data that are sampled from infinite-dimensional function spaces, where classical finite-dimensional deep generative adversarial networks (GANs) may not be directly applicable. GANO generalizes the GAN framework and allows for the sampling of functions by learning push-forward operator maps in infinite-dimensional spaces. GANO consists of two main components, a generator neural operator and a discriminator neural functional. The inputs to the generator are samples of functions from a user-specified probability measure, e.g., Gaussian random field (GRF), and the generator outputs are synthetic data functions. The input to the discriminator is either a real or synthetic data function. In this work, we instantiate GANO using the Wasserstein criterion and show how the Wasserstein loss can be computed in infinite-dimensional spaces. We empirically study GANO in controlled cases where both input and output functions are samples from GRFs and compare its performance to the finite-dimensional counterpart GAN. We empirically study the efficacy of GANO on real-world function data of volcanic activities and show its superior performance over GAN.

研究动机与目标

• 解决科学机器学习中无限维函数空间缺乏有效生成模型的问题。
• 克服有限维 GAN 在应用于时间变化的地球物理信号或干涉合成孔径雷达（SAR）图像等函数数据时的局限性。
• 开发一种可扩展、可微分的框架，直接在函数空间上操作，无需离散化为点网格。
• 实现对复杂、非高斯、角度值函数分布（如 InSAR 干涉图）的学习，具备正确的统计特性。
• 证明函数空间学习在生成真实、统计一致的函数样本方面优于有限维 GAN。

提出的方法

• 提出一种生成对抗框架，其中生成器为将输入函数（如高斯随机场）映射到输出合成函数的神经算子。
• 设计判别器为神经泛函，通过全局积分算子和跳跃连接，在函数空间中评估真实或生成的函数。
• 在无限维空间中采用 Wasserstein 准则，通过积分算子近似计算损失，以确保训练稳定。
• 使用类似 U-Net 的架构实现生成器和判别器，包含逐点提升、多层全局积分算子和逐点投影。
• 采用端到端对抗优化训练模型，生成器通过最小化真实与生成函数之间的分布差距进行优化。
• 应用圆统计方法（方差与偏度）评估角度值函数输出，确保在非欧几里得函数空间中的统计保真度。

实验结果

研究问题

• RQ1 能否在不依赖有限维离散化的情况下，将类似 GAN 的框架推广至无限维函数空间？
• RQ2 当建模复杂的角度值函数数据（如 InSAR 干涉图）时，函数空间生成模型（GANO）与有限维 GAN 的性能相比如何？
• RQ3 GANO 在多大程度上能够学习并再现复杂、多模态及噪声函数模式（如火山地表形变数据中的模式）？
• RQ4 与基于局部网格的模型相比，生成器和判别器中使用全局积分算子是否能提升泛化能力和统计一致性？
• RQ5 GANO 是否能有效建模非高斯、非平稳且具有空间不规则性的函数数据，其内在具有几何与拓扑复杂性？

主要发现

• GANO 从 Long Valley Caldera 干涉图中成功学习并生成了逼真的干涉图，准确捕捉了包括相位折叠和去相干效应在内的复杂噪声模式。
• GANO 生成样本的圆方差和偏度与真实数据高度一致，圆方差 $\sigma \approx 0.65$，偏度 $s \approx 0.45$，表明具有强统计保真度。
• 相比之下，有限维 GAN 基线未能学习到有意义的分布，其生成样本的圆方差 $\sigma \approx 0.85$，偏度 $s \approx 0.05$，表明统计对齐性差。
• GANO 展现出数据效率，仅使用 4,096 幅干涉图即可生成高质量样本，且无需大量超参数调优。
• 生成器和判别器中使用全局积分算子，相比局部核方法，显著提升了对长程空间依赖关系的建模能力与泛化性能。
• 该框架无需假设存在 Lebesgue 密度，即可有效建模函数空间，适用于地球科学中常见的非参数、无限维分布。