[論文レビュー] Learning Autoencoders with Relational Regularization

Hongteng Xu, Dixin Luo+3 more|arXiv (Cornell University)|Feb 7, 2020

Generative Adversarial Networks and Image Synthesis参考文献 37被引用数 18

ひとこと要約

本稿では、生成性能の向上と異種の自己符号化器の共同学習を可能にするため、構造的で学習可能な事前分布を学習するために融合Gromov-Wasserstein（FGW）距離を用いた関係的正則化自己符号化器（RAE）を提案する。この手法は、画像生成においてVAE、WAEおよびその変種を凌駉し、マルチビュー学習タスクにおいて最先端の結果を達成する。

ABSTRACT

A new algorithmic framework is proposed for learning autoencoders of data distributions. We minimize the discrepancy between the model and target distributions, with a \emph{relational regularization} on the learnable latent prior. This regularization penalizes the fused Gromov-Wasserstein (FGW) distance between the latent prior and its corresponding posterior, allowing one to flexibly learn a structured prior distribution associated with the generative model. Moreover, it helps co-training of multiple autoencoders even if they have heterogeneous architectures and incomparable latent spaces. We implement the framework with two scalable algorithms, making it applicable for both probabilistic and deterministic autoencoders. Our relational regularized autoencoder (RAE) outperforms existing methods, $e.g.$, the variational autoencoder, Wasserstein autoencoder, and their variants, on generating images. Additionally, our relational co-training strategy for autoencoders achieves encouraging results in both synthesis and real-world multi-view learning tasks. The code is at https://github.com/HongtengXu/ Relational-AutoEncoders.

研究の動機と目的

• 固定または不適切に指定された事前分布によって引き起こされる自己符号化器における過剰正則化および不十分正則化の問題を解消すること。
• 異種のアーキテクチャと比較不可能な潜在空間を持つ自己符号化器の有効な共同学習を可能にすること。
• 事前分布と後刻分布の構造的差を捉える柔軟で関係的な正則化フレームワークの開発。
• 標準ガウス分布のような固定分布ではなく、データ駆動型の構造的事前分布を学習することで、生成モデルの性能を向上させること。
• 潜在表現間の関係的制約を活用することで、ペairされないマルチビューデータへの自己符号化器の適用範囲を拡張すること。

提案手法

• 事前分布と後刻分布におけるサンプル間の構造的関係を比較するため、融合Gromov-Wasserstein（FGW）距離に基づく関係的正則化子を提案する。
• FGW距離を用いて、学習可能な潜在事前分布と符号化データから導出された後刻分布との乖離を正則化し、構造的事前分布の学習を可能にする。
• 確率的および決定的自己符号化器の両方においてスケーラブルに実装できるよう、FGWの階層的およびスライス近似を適用する。
• 異なるアーキテクチャと潜在空間次元を持つ複数の自己符号化器の後刻分布に関係的正則化を適用することで、それらの共同学習を可能にする。
• 計算効率を確保するため、階層的FGWとスライスFGWの両方を用いたスケーラブルな2つのアルゴリズムを実装する。
• 再構成損失と関係的正則化を組み合わせた、緩和されたWasserstein距離最小化の目的関数を用いて自己符号化器を訓練する。

実験結果

リサーチクエスチョン

• RQ1 FGW距離に基づく関係的正則化子は、構造的事前分布を学習することで、自己符号化器における生成モデリングの品質を向上させることができるか？
• RQ2 提案された関係的正則化は、学習可能な事前分布を有する自己符号化器における不十分正則化および過剰正則化の問題を緩和するか？
• RQ3 互換性のない潜在空間を持つ異種自己符号化器は、それらの後刻分布間の関係的制約を用いて効果的に共同学習可能か？
• RQ4 既存のベースラインと比較して、関係的共同学習戦略はペアでないマルチビュー学習タスクでどの程度の性能を示すか？
• RQ5 関係的正則化子は、マルチビュー設定における画像生成品質および下流分類精度にどのような影響を及ぼすか？

主な発見

• 関係的正則化自己符号化器（RAE）は、VAE、WAEおよびその変種を凌駋し、より多様で意味的に意味のあるサンプルを生成する。
• 本手法は、固定ガウス事前分布に依存せずに、不十分正則化を抑制する構造的でデータ駆動型の事前分布を効果的に学習する。
• マルチビュー学習タスクにおいて、提案された関係的共同学習戦略（AEs+GW）はCaltech101-7で84.29%の精度を達成し、ベースラインのAEs+CoReg（76.58%）およびAEs+CCA（80.24%）を上回る。
• Caltech101-20では69.39%、Handwrittenでは72.36%の精度を達成し、すべてのデータセットで比較対象ベースラインを上回る。
• 関係的共同学習フレームワークはペアでないデータに対しても有効であり、異なるアーキテクチャや潜在空間次元を持つ自己符号化器間でも機能する。
• 階層的およびスライスFGW近似は、確率的および決定的自己符号化器の両方において、スケーラブルかつ効果的な関係的正則化の実装手段を提供する。