[論文レビュー] Encoding Invariances in Deep Generative Models

Viraj Shah, Ameya Joshi+5 more|arXiv (Cornell University)|Jun 4, 2019

Generative Adversarial Networks and Image Synthesis参考文献 47被引用数 20

ひとこと要約

この論文は、物理法則、幾何的モチーフ、統計的制約などの既知の不変性を、追加の不変性損失を介して生成対抗ネットワーク（GAN）に組み込むことで、深層生成モデルであるInvNetを提案する。三重の交互最適化と追加勾配降下法を統合することにより、InvNetは安定した学習を達成し、事前に定義された不変性を厳密に満たすデータを生成する。これは、標準GANや既存のPDEソルバーに比べ、サンプル効率と精度の面で優れている。

ABSTRACT

Reliable training of generative adversarial networks (GANs) typically require massive datasets in order to model complicated distributions. However, in several applications, training samples obey invariances that are extit{a priori} known; for example, in complex physics simulations, the training data obey universal laws encoded as well-defined mathematical equations. In this paper, we propose a new generative modeling approach, InvNet, that can efficiently model data spaces with known invariances. We devise an adversarial training algorithm to encode them into data distribution. We validate our framework in three experimental settings: generating images with fixed motifs; solving nonlinear partial differential equations (PDEs); and reconstructing two-phase microstructures with desired statistical properties. We complement our experiments with several theoretical results.

研究の動機と目的

• 既知の不変性（例：物理法則や統計的制約）がある状況で、標準GANの高いサンプル複雑性を解消すること。
• 生成モデリングの過程で、解析的に定義された不変性（例：物理法則や統計的制約）を明示的に強制する手法の開発。
• GANフレームワークに不変性制約を統合することで、データ効率的で安定した生成モデルの学習を可能にすること。
• 画像モチーフ生成、PDE解の合成、マイクロ構造シミュレーションの多様な分野において、フレームワークの有効性を示すこと。

提案手法

• 生成器・識別器の標準的な設定に加え、構造的または統計的不変性を強制するための不変性チェックャー（I(.)) を導入した、GANベースのフレームワークであるInvNetを提案。
• 新たな不変性損失項を含むミニマックスゲームの定式化を導入し、生成器が事前に定義された制約を満たすサンプルを学習することを保証。
• 生成器、識別器、不変性損失の順に逐次更新する三重の交互最適化を採用し、学習の安定化を図る。
• 標準勾配降下法が発散するのに対し、収束を保証する追加勾配降下法（EGD）を用い、学習ダイナミクスの安定化を実現。
• 微視的構造生成における統計的不変性の表現に、モーメントマッチング制約を適用。
• 不変性をよりよく捉え・強制できるように、識別器アーキテクチャを変更し、学習の安定性と性能を向上。

実験結果

リサーチクエスチョン

• RQ1 PDE や幾何的モチーフなどの既知の不変性を、大規模データセットを必要とせずに、体系的かつ深層生成モデルに組み込むことは可能か？
• RQ2 識別器アーキテクチャの選択が、生成器におけるターゲット不変性の表現能力にどのように影響するか？
• RQ3 InvNetにおける標準勾配降下法の更新がなぜ学習ダイナミクスを不安定化させるのか、そしてその原因をどのように是正できるか？
• RQ4 訓練データが一切存在しない状況でも、InvNetは構造的不変性のみに依存してPDEの解法で競争力のある性能を達成できるか？
• RQ5 生成モデリングにおいて不変性を強制することで、サンプル品質がどの程度向上し、サンプル複雑性がどの程度低減されるか？

主な発見

• 不変性制約を強制することで、固定されたモチーフを有する画像を生成する成功事例が得られ、不変性に配慮した学習が忠実度と一貫性を向上させることを示した。
• PDEの解法において、Viscous および Inviscid の両状態において、非線形バーガーズ方程式に対して競争力のある結果を達成した。訓練データが一切存在しない状況でも、PDE自体を不変性として用いることで実現した。
• 微視的構造生成において、標準的な数値的手法に比べて計算効率が高く、かつターゲットの統計的性質を正確に再現した。
• 理論的分析により、標準勾配降下法では、更新行列の特異値が1を超えるため、InvNetの学習で発散が生じることが判明。これにより、代替の最適化戦略の導入が不可避であることが示された。
• 追加勾配降下法（EGD）は、学習を安定化させ、収縮写像を形成することを証明。適切なステップサイズ選択のもとで、正しい均衡点への収束が保証された。
• 真のデータ分布が不変性を満たしている場合、識別器はそれを学習する。そうでない場合は、不変性の不一致を避けるために、識別器を変更する必要がある。