[論文レビュー] Autoregressive Quantile Networks for Generative Modeling

Georg Ostrovski, Will Dabney+1 more|arXiv (Cornell University)|Jun 14, 2018

Generative Adversarial Networks and Image Synthesis参考文献 36被引用数 34

ひとこと要約

本稿では、従来の尤度ベースの損失関数に代わり分位数回帰を用いることで、視認品質を向上させつつも高いサンプル多様性を維持する、新しい生成モデル手法である自己回帰的暗黙的分位数ネットワーク（AIQN）を提案する。自己回帰的ネットワークを用いて累積分布関数の逆関数（分位数関数）をモデル化することで、モード崩壊や最適化の不安定性を伴わず、CIFAR-10およびImageNet 32x32で最先端のFIDスコアとインセプションスコアを達成した。

ABSTRACT

We introduce autoregressive implicit quantile networks (AIQN), a fundamentally different approach to generative modeling than those commonly used, that implicitly captures the distribution using quantile regression. AIQN is able to achieve superior perceptual quality and improvements in evaluation metrics, without incurring a loss of sample diversity. The method can be applied to many existing models and architectures. In this work we extend the PixelCNN model with AIQN and demonstrate results on CIFAR-10 and ImageNet using Inception score, FID, non-cherry-picked samples, and inpainting results. We consistently observe that AIQN yields a highly stable algorithm that improves perceptual quality while maintaining a highly diverse distribution.

研究の動機と目的

• 生成モデルにおける視認品質とサンプル多様性のトレードオフを解消すること。
• 視認的に意味のある指標を尊重する安定した、尤度を必要としない生成モデル手法の開発。
• 自己回帰的モデルにおけるKLダイバージェンスの代わりに分位数回帰を用いることで、分布の整合性を向上させること。
• モード崩壊やハイパーパramータへの感受性なしに、高品質で多様な画像生成を可能とすること。
• 既存のアーキテクチャ（例：PixelCNN や VAE）に適用した際の互換性と性能向上を示すこと。

提案手法

• AIQNは、データ分布の逆累積分布関数（分位数関数）を自己回帰的ニューラルネットワークでモデル化する。
• モデルは分位数回帰損失を用いて訓練され、予測された分位数におけるチェック損失を最小化することで、真の条件付き分布に近づける。
• 条件付き分布は自己回帰的因子分解を用いて逐次的にモデル化され、各ピクセルは以前に生成されたピクセルに条件付けられる。
• 明示的な密度推定や尤度計算を伴わず、データ分布を暗黙的に定義する。
• Gated PixelCNN などの既存アーキテクチャと互換性があり、VAEの潜在空間へも拡張可能である。
• 分位数回帰の使用により、事前に定義された量子化や境界がない連続変数のモデル化が可能になる。

実験結果

リサーチクエスチョン

• RQ1 分位数回帰は、自己回帰的生成モデルにおけるKLダイバージェンスの安定的で尤度を必要としない代替手段として有効に機能するか？
• RQ2 KL損失を分位数回帰に置き換えることで、視認品質を向上させつつサンプル多様性を維持できるか？
• RQ3 AIQNは、アーキテクチャの変更なしに、PixelCNN などの既存の自己回帰モデルに効果的に適用可能か？
• RQ4 FIDスコアおよびインセプションスコアという標準ベンチマークにおいて、AIQNはCIFAR-10およびImageNetでどの程度の性能を示すか？
• RQ5 VAEの潜在空間モデリングにおいてAIQNは一般化可能で、サンプル品質の向上に寄与するか？

主な発見

• AIQNは、ベースラインのPixelCNNと比較して、CIFAR-10およびImageNet 32x32で顕著にFIDスコアとインセプションスコアを向上させた。
• ハイパーパramータの変動に関係なく、モード崩壊を示さず、非常に多様なサンプルを生成できた。
• 選別されていないサンプルでも、AIQNは優れた視認品質と全体的な一貫性を示した。
• 穴埋め（インpainting）の結果から、AIQNはベースラインモデルよりもより現実的で文脈的に整合性のある補完を生成した。
• ハイパーパramータの変動に対して頑健であり、複雑な最適化技術を必要としなかった。
• CelebA 64×64 における予備的結果から、AIQNはVAEの潜在空間に効果的に適用可能であり、サンプリング品質の向上に寄与することが示された。