[论文解读] Conditional Sampling With Monotone GANs.

Nikola Kovachki, Ricardo Baptista+2 more|arXiv (Cornell University)|Jun 11, 2020

Generative Adversarial Networks and Image Synthesis参考文献 61被引用 8

一句话总结

本文提出了单调 GAN（monotone GANs），一种新颖的条件采样方法，通过从参考测度到给定输入下输出的条件分布的单调性、分块三角形映射来学习。该方法确保了不确定性量化的连贯性，并在反问题和图像修复任务中通过理论一致性保证和实证验证展现出优异性能。

ABSTRACT

We present a new approach for sampling conditional probability measures, enabling consistent uncertainty quantification in supervised learning tasks. We construct a mapping that transforms a reference measure to the measure of the output conditioned on new inputs. The mapping is trained via a modification of generative adversarial networks (GANs), called monotone GANs, that imposes monotonicity and a block triangular structure. We present theoretical guarantees for the consistency of our proposed method, as well as numerical experiments demonstrating the ability of our method to accurately sample conditional measures in applications ranging from inverse problems to image in-painting.

研究动机与目标

• 开发一种在监督学习任务中可靠采样条件概率测度的方法。
• 确保回归和反问题中的一致不确定性量化。
• 设计一种生成模型，通过强制实施单调性和分块三角形结构，实现稳定的条件采样。
• 为学习到的条件分布的一致性提供理论保证。
• 在图像修复和反问题等多样化应用中展示该方法的有效性。

提出的方法

• 该方法构建从参考测度到条件输出分布的单调性、分块三角形映射。
• 采用改进的 GAN 框架——单调 GAN，其中生成器在变换中强制实施单调性约束。
• 分块三角形结构确保每个输出变量仅依赖于输入变量的一个子集，从而提升可解释性和稳定性。
• 模型使用对抗性损失进行训练，并附加正则化项以保持学习到的映射的单调性。
• 生成器学习将来自基础分布的噪声样本映射到给定新输入下的条件输出分布样本。
• 该方法确保变换保持随机占优性，支持一致的不确定性量化。

实验结果

研究问题

• RQ1 能否修改基于 GAN 的框架，在保持表达能力的同时强制实现条件采样中的单调性？
• RQ2 分块三角形结构是否能提升条件采样的稳定性和可解释性？
• RQ3 所提出的方法能否在反问题中实现一致的不确定性量化？
• RQ4 该方法在高维输出（如图像修复任务）中的泛化能力如何？
• RQ5 可以为学习到的条件分布的一致性提供哪些理论保证？

主要发现

• 所提出的单调 GAN 通过在学习到的变换中强制实施单调性，实现了稳定的不确定性量化。
• 分块三角形结构实现了稳定且可解释的条件采样，尤其在高维设置下表现优异。
• 该方法在图像修复任务中表现出色，能够生成多样且合理的重建结果。
• 数值实验验证了该方法在具有复杂前向模型的反问题中准确采样条件测度的能力。
• 理论分析在较弱的正则性条件下建立了学习到的条件分布的一致性。
• 与标准 GAN 和基线条件采样方法相比，该方法在样本校准性和多样性方面表现更优。