[論文レビュー] Flow Contrastive Estimation of Energy-Based Models

Ruiqi Gao, Erik Nijkamp+4 more|arXiv (Cornell University)|Dec 2, 2019

Generative Adversarial Networks and Image Synthesis参考文献 71被引用数 4

ひとこと要約

本稿では、生成モデリングおよび半教師あり学習の性能を向上させるために、エネルギー関数モデル（EBM）とノーマライジングフローを組み合わせた共同学習手法であるフローモデル対比推定（FCE）を提案する。ノイズ対比推定における動的ノイズ分布としてフローモデルを用い、両モデルを共有の敵対的目的関数により同時に最適化することで、FCEはサンプル品質を向上させ、半教師あり画像分類において最先端の性能を達成する。特に、VATと組み合わせた場合、SVHNで1,000例のラベル付きデータのみを用いて3.87%の誤差率を達成する。

ABSTRACT

This paper studies a training method to jointly estimate an energy-based model and a flow-based model, in which the two models are iteratively updated based on a shared adversarial value function. This joint training method has the following traits. (1) The update of the energy-based model is based on noise contrastive estimation, with the flow model serving as a strong noise distribution. (2) The update of the flow model approximately minimizes the Jensen-Shannon divergence between the flow model and the data distribution. (3) Unlike generative adversarial networks (GAN) which estimates an implicit probability distribution defined by a generator model, our method estimates two explicit probabilistic distributions on the data. Using the proposed method we demonstrate a significant improvement on the synthesis quality of the flow model, and show the effectiveness of unsupervised feature learning by the learned energy-based model. Furthermore, the proposed training method can be easily adapted to semi-supervised learning. We achieve competitive results to the state-of-the-art semi-supervised learning methods.

研究の動機と目的

• フローモデルが可逆的で取り扱いやすい変換を仮定するが、複雑なデータ分布にうまく適合しないという限界を解消するため。
• 正規化が不確実でサンプリングが高コストであるエネルギー関数モデル（EBM）を、強力で適応的なノイズ分布としてのフローモデルを用いることで改善するため。
• EBMの表現力の柔軟性とフローモデルの計算効率を組み合わせた共同学習フレームワークを構築するため。
• 提案手法を用いて、生成品質の向上と半教師あり学習における競争力のある性能を実証するため。

提案手法

• エネルギー関数モデルの学習にノイズ対比推定（NCE）を用い、フローモデルを固定ノイズ分布の代わりに対比分布として使用する。
• フローモデルは同じNCE目的関数を最小化することで更新され、EBMが本物のデータと生成されたサンプルを区別しにくくなるように進化する。これによりEBMの品質が向上する。
• 共同最適化は共有の敵対的価値関数を用い、両モデルを交互に更新することで、フローモデルとデータ分布の間のジェンセン・シャノン発散を最小化する。
• ラベルの一貫性目的関数を組み込み、必要に応じて仮想敵対的訓練（VAT）を追加することで、半教師あり学習に適応する。
• EBMはクラス条件付き分布の混合を学習するように訓練され、共同目的関数により各クラス内でのモード分離と滑らかでつながったクラスタリングを促進する。
• 本手法は事前学習済みのGlowフローモデルから開始し、共同学習を開始する前にEBMを独立して50,000イテレーション間じゅうで最初に訓練する。

実験結果

リサーチクエスチョン

• RQ1 フローモデルは、ノイズ対比推定を用いたエネルギー関数モデルの学習に、強力で適応的な対比分布として機能できるか？
• RQ2 EBMとフローモデルの共同最適化は、独立して学習する場合と比較して、サンプル品質をどのように向上させるか？
• RQ3 本手法は、GANのような暗黙の生成モデルに依存せずに、半教師あり学習で競争力のある性能を達成できるか？
• RQ4 共同学習スキームは、標準的なEBMまたはフローモデルの学習と比較して、より優れた表現学習と一般化性能をもたらすか？
• RQ5 本手法は、仮想敵対的訓練のような既存の正則化技術と効果的に組み合わせられるか？

主な発見

• FCEは、仮想敵対的訓練（VAT）と組み合わせた場合、SVHNデータセットで1,000例のラベル付きデータのみを用いて3.87%のテスト誤差率を達成し、多くの最先端手法を上回る性能を示した。
• FCEは、合成データおよび実画像データの両方で、フローモデルのサンプル品質を顕著に向上させたことが、定性的な結果から明らかになった。
• 共同学習プロセスは、明確に分離されたモード認識型のエネルギー関数モデルを効果的に学習し、各クラス内で滑らかでつながったクラスタを捉えることに成功した。
• FCE-initベースライン（共同最適化開始前にEBMを別々に訓練）は、1,000例のラベル付きデータを用いてSVHNで8.50%の誤差率を達成しており、初期段階から高い性能を示した。
• FCEにVATを追加すると、500例のラベル付きデータで誤差率が4.47%に低下し、1,000例では3.87%にまで低下した。これは、既存の正則化技術と相乗効果をもたらすことを示している。
• 本手法は、敵対的対比学習を介して明示的な確率的モデル（EBMとフロー）を統合することで、一般化性能と表現学習が向上することを示した。