[論文レビュー] PolyGAN: High-Order Polynomial Generators

Grigorios G. Chrysos, Stylianos Moschoglou+2 more|arXiv (Cornell University)|Aug 19, 2019

Tensor decomposition and applications参考文献 34被引用数 10

ひとこと要約

PolyGANは、結合テンソル分解によってパrameter化された高次多項式関数を用いたGAN生成器を提案し、活性化関数を一切用いずにデータ分布の普遍的近似を可能にする。階層的線形ネットワークを介して高次相互作用を効率的にモデル化することで、CIFAR-10およびImageNetにおいて最先端のFIDとインセプションスコアを達成した。

ABSTRACT

Generative Adversarial Networks (GANs) have become the gold standard when it comes to learning generative models for high-dimensional distributions. Since their advent, numerous variations of GANs have been introduced in the literature, primarily focusing on utilization of novel loss functions, optimization/regularization strategies and network architectures. In this paper, we turn our attention to the generator and investigate the use of high-order polynomials as an alternative class of universal function approximators. Concretely, we propose PolyGAN, where we model the data generator by means of a high-order polynomial whose unknown parameters are naturally represented by high-order tensors. We introduce two tensor decompositions that significantly reduce the number of parameters and show how they can be efficiently implemented by hierarchical neural networks that only employ linear/convolutional blocks. We exhibit for the first time that by using our approach a GAN generator can approximate the data distribution without using any activation functions. Thorough experimental evaluation on both synthetic and real data (images and 3D point clouds) demonstrates the merits of PolyGAN against the state of the art.

研究の動機と目的

• GAN生成器における非線形活性化関数の理論的・実用的課題を解決するため、多項式関数近似器を検討すること。
• 共通の要因を持つ結合テンソル因子分解を用いて、高次多項式生成器におけるパラメータ爆発を低減すること。
• 線形層および畳み込み層のみで構成されるGAN生成器アーキテクチャを設計し、解釈可能で活性化関数なしの生成を可能にすること。
• 多項式ベースの生成器が、非線形性を有する標準GANと同等またはそれを上回る性能を、実世界のデータで達成できることを実証すること。
• 高次多項式、テンソル分解、深層ネットワーク設計の間の理論的・アーキテクチャ的リンクを確立すること。

提案手法

• 潜在空間における高次多変量多項式として生成器をモデル化し、パラメータを高次テンソルとして表現する。
• パラメータ数を削減するために、多項式次数間で要因を共有する2つの結合テンソル分解（結合CPおよび結合ネストドCP）を導入する。
• 分解された多項式生成器を、線形層および畳み込み層のみから構成される階層的ニューラルネットワークとして実装する。
• 主な生成器パスに非線形活性化関数を一切含めず、敵対的損失を用いてエンドツーエンドで学習する。
• 正規化のための唯一の活性化関数として、最終出力層でのみtanhを使用し、主アーキテクチャの線形性を保つ。
• 連続的なデータ分布の多項式近似の理論的根拠として、Stone–Weierstrass定理を活用する。

実験結果

リサーチクエスチョン

• RQ1 活性化関数を一切含まない高次多項式生成器は、非線形性を有する標準GAN生成器と同等に、複雑なデータ分布を効果的に近似できるか？
• RQ2 表現力は維持しつつ、高次多項式生成器におけるパラメータ爆発をどのように緩和できるか？
• RQ3 どのテンソル分解戦略が、次数間の多項式相互作用を効率的かつ階層的にモデル化できるか？
• RQ4 活性化関数なしの線形のみの生成器アーキテクチャは、画像および3次元点群生成においてどれほど最先端の性能を達成できるか？
• RQ5 合成データおよび実データにおいて、2つの提案された結合テンソル分解（結合CPおよび結合ネストドCP）のモデル化能力と一般化性能は、どのように比較できるか？

主な発見

• CIFAR-10では、PolyGANがインセプションスコア8.66 ± 0.14、FID13.52 ± 0.60を達成し、元のSNGAN（IS: 8.30 ± 0.11、FID: 14.70 ± 0.97）を上回った。
• ImageNetでは、PolyGANがIS14.60 ± 0.15、FID84.37 ± 6.37を達成し、元のSAGAN（IS: 13.81 ± 0.21、FID: 138.20 ± 8.71）を上回った。
• 合成多様体「スイスロール」と「アストロイド」において、結合ネストドCP分解は結合CPよりもより忠実なサンプルを生成し、ノイズの多い外れ値を回避した。
• 正弦波2次元信号において、結合CP分解は真の分布外の点を生成せず、完全にデータ多様体を捉えた。
• CIFAR-10ではパラメータ数が約3%、ImageNetでは約0.6%しか増加しなかったが、性能向上を達成した。
• 線形層のみを用いて高品質な画像および3次元点群を生成でき、活性化関数がなくても構造的多項式パラメータ化を用いることで、複雑な生成が可能であることを実証した。