[論文レビュー] Learning disconnected manifolds: a no GANs land

Ugo Tanielian, Thibaut Issenhuth+2 more|arXiv (Cornell University)|Jun 8, 2020

Generative Adversarial Networks and Image Synthesis参考文献 44被引用数 10

ひとこと要約

本稿は、GAN が非連結多様体を学習する際の本質的制限を形式的に定式化し、『良い茶番なしの定理』を証明することで、モード間の避けられない低品質なサンプリング領域による、再現性の上限を示している。生成器のヤコビアンノルムに基づくリジェクトサンプリング手法を提案し、アーキテクチャの過剰パラメータ化を伴わずに、BigGAN や他のモデルで妥当性が確認された。

ABSTRACT

Typical architectures of Generative AdversarialNetworks make use of a unimodal latent distribution transformed by a continuous generator. Consequently, the modeled distribution always has connected support which is cumbersome when learning a disconnected set of manifolds. We formalize this problem by establishing a no free lunch theorem for the disconnected manifold learning stating an upper bound on the precision of the targeted distribution. This is done by building on the necessary existence of a low-quality region where the generator continuously samples data between two disconnected modes. Finally, we derive a rejection sampling method based on the norm of generators Jacobian and show its efficiency on several generators including BigGAN.

研究の動機と目的

• 標準 GAN が、一様な潜在空間からの連続的変換という性質ゆえに、非連結多様体を学習する際の根本的困難を形式化すること。
• 非連結多様体をモデル化する際の GAN の再現性に対する理論的上限を確立し、標準 GAN 学習下で不可能性を証明すること。
• 生成器のヤコビアンノルムを用いて、多様体外のサンプルをフィルタリングする実用的で効率的なリジェクトサンプリング手法を開発すること。
• BigGAN や他の最先端モデル上で、本手法を検証し、高次元設定において既存の截断技術を上回ることを示すこと。

提案手法

• 連続的生成器が非連結モード間の低品質領域にサンプルを生成しなければならないことの証明により、非連結多様体学習における理論的不可能性結果を導出する。
• 生成器のヤコビアン行列のフロベニウスノルムに基づくリジェクトサンプリング方式を導入し、勾配が大きく多様体外の領域で生成されたサンプルを特定・フィルタリングする。
• ヤコビアンノルムを局所的生成器の歪みの代理指標として用い、高値はモード間の領域で、サンプリングの信頼性が低いことを示す。
• トイデータセットおよび最先端 GAN（例：BigGAN）上で本手法を実験的に検証し、生成器や潜在分布を変更せずにサンプリング品質を向上させることを示した。
• Brock ら（2019）の截断トリックと比較し、高次元設定において本手法が優れた性能を示すことを示した。
• 精度・再現率（PR）と改善版 PR の指標を正式に結びつけ、非連結データにおける手法の有効性を一貫して評価可能にした。

実験結果

リサーチクエスチョン

• RQ1 非連結多様体を学習する際の GAN の再現性に対して、理論的上限を確立できるか？
• RQ2 なぜ標準 GAN は非連結データ多様体をモデル化する際、必然的に多様体外のサンプルを生成するのか？
• RQ3 生成器のヤコビアンノルムを、低品質・多様体外のサンプルを効果的に除外するための信頼性のある基準として用いることができるか？
• RQ4 ヤコビアンベースのリジェクトサンプリング手法は、アーキテクチャの過剰パラメータ化なしに GAN の再現性を向上させられるか？
• RQ5 高次元で複雑な生成タスクにおいて、本手法は既存の截断戦略と比較してどのように差をつけるか？

主な発見

• 本稿は、非連結多様体学習における『良い茶番なしの定理』を証明し、連続的変換というトポロジー的制約のため、GAN が任意の高い再現性を達成できないことを示した。
• 目的となる多様体の数が増えるにつれ、多様体外のサンプリング領域の体積が増大し、高モード状況では理論的再現性の上限がゼロに近づく。
• 提案されたヤコビアンベースのリジェクトサンプリング手法は、多様体外のサンプルを効果的にフィルタリングし、トイデータセットおよび BigGAN において再現性を顕著に向上させた。
• 実験的結果から、本手法は高次元設定において標準的な截断トリックを上回ることを示し、特に多様性と忠実性の両立に優れた性能を発揮した。
• 本手法は一般性に富んでおり、生成器アーキテクチャや潜在分布の変更を必要としないため、既存の GAN へも容易に適用可能である。
• 著者らは PR と改善版 PR の指標を正式に結びつけ、非連結データにおける GAN の性能評価を一貫して行えるようにした。