[論文レビュー] Deterministic Decoding for Discrete Data in Variational Autoencoders

Daniil Polykovskiy, Dmitry Vetrov|arXiv (Cornell University)|Mar 4, 2020

Gaussian Processes and Bayesian Inference参考文献 30被引用数 4

ひとこと要約

本稿では、確率的デコードをargmaxに基づく決定論的生成に置き換えることで、離散的逐次データにおける分離表現学習を向上させる、決定論的デコード変分オートエンコーダー（DD-VAE）を提案する。有界サポートの提案分布とargmaxの連続的リラクゼーションを用いることで、標準VAEに比べて再構成精度が向上し、分子性質最適化の下流タスクでも優れた性能を発揮する。

ABSTRACT

Variational autoencoders are prominent generative models for modeling discrete data. However, with flexible decoders, they tend to ignore the latent codes. In this paper, we study a VAE model with a deterministic decoder (DD-VAE) for sequential data that selects the highest-scoring tokens instead of sampling. Deterministic decoding solely relies on latent codes as the only way to produce diverse objects, which improves the structure of the learned manifold. To implement DD-VAE, we propose a new class of bounded support proposal distributions and derive Kullback-Leibler divergence for Gaussian and uniform priors. We also study a continuous relaxation of deterministic decoding objective function and analyze the relation of reconstruction accuracy and relaxation parameters. We demonstrate the performance of DD-VAE on multiple datasets, including molecular generation and optimization problems.

研究の動機と目的

• 柔軟な確率的デコーダーを備えた標準VAEにおける潜在コードの無視問題を解決すること。
• 決定論的デコードを強制することで、離散的逐次データにおける分離的かつ構造的な表現学習を改善すること。
• 勾配逆伝播によるエンドツーエンド学習を可能にするために、argmaxデコード目的関数の連続的リラクゼーションを開発すること。
• 分子生成やベイズ最適化を含む下流タスクにおける性能向上を実証すること。
• 有界サポートの提案分布におけるKLダイバージェンスと再構成の理論的分析を提供すること。

提案手法

• 各ステップでデコーダー出力分布のスコアが最大のトークンを選択する決定論的デコーダーを提案する。
• 完全サポートの提案分布に比べて制限された問題を解消するため、有界サポートの提案分布（例：正規分布および一様分布）を導入し、損失なしのオートエンコーディングを可能にする。
• Gumbel-Softmaxトリックを用いてargmax目的関数の連続的リラクゼーションを導出し、決定論的デコード経路を勾配逆伝播可能にする。
• DD-VAEの下界確率（ELBO）を導出し、リラックスされた目的関数が元の問題の最適解に収束することを証明する。
• 再構成項とKL項のバランスをとるために温度ハイパーパrameter τを用い、log線形アニーリングが学習安定性を向上させることを示す。
• 学習済み潜在コードにスパースガウス過程を適用し、下流タスクにおける分子性質のベイズ最適化を実現する。

実験結果

リサーチクエスチョン

• RQ1 VAEにおける決定論的デコードは、潜在コードの無視を防ぎ、離散的逐次データにおける表現学習を向上させることができるか？
• RQ2 どの種類の提案分布が決定論的VAEにおける損失なしオートエンコーディングを可能にするか？
• RQ3 決定論的デコードにおけるargmax演算は、勾配逆伝播によるエンドツーエンド学習のためにどのようにリラックスできるか？
• RQ4 DD-VAEは、標準VAEに比べて分子生成および性質最適化の下流タスクでより優れた性能を発揮するか？
• RQ5 異なる事前分布（正規分布対一様分布）およびリラクゼーションハイパーパrameterがモデル性能に与える影響は何か？

主な発見

• ZINCデータセットにおいて、DD-VAEは89.89％のシーケンス再構成精度を達成し、再構成精度と妥当性の両面で標準VAEおよび他のベースラインを上回った。
• 分子性質スコア評価のベイズ最適化において、DD-VAEは三乗核（tricube）提案分布を用いて、上位1位のスコア5.86を達成し、標準VAEを著しく上回った。
• 有界サポートの提案分布（例：三乗核）の使用により、完全サポートの分布（例：正規分布）では不可能な損失なしオートエンコーディングが可能となった。
• 一様事前分布を用いたDD-VAEは、潜在コードの分布がより均等になり、下流分類および可視化タスクでの性能向上が見られた。
• argmax目的関数の連続的リラクゼーションは、元の非リラックス問題の最適解に収束することが保証され、学習の安定性と正しさが確保された。
• 温度ハイパーパrameter τのlog線形アニーリングは、線形アニーリングよりも優れた性能を示し、初期τの設定により再構成項とKL項の勾配スケールがバランスが取れた。