[論文レビュー] Learning Implicit Generative Models Using Differentiable Graph Tests

Josip Djolonga, Andreas Krause|arXiv (Cornell University)|Sep 4, 2017

Graph Theory and Algorithms参考文献 22被引用数 5

ひとこと要約

本稿では、無向グラフモデルと行列木定理を用いて、組合せ統計量を滑らかにする手法により、古典的な2標本グラフ検定（Friedman-Rafskyおよびk-NN）の微分可能版を提案する。得られる滑らかにした検定は微分可能であり、漸近的に正規分布に従い、古典的バージョンに比べて検出力が著しく向上する。これにより、より優れたサンプル品質が得られる stochastic optimization を用いた暗黙的生成モデルの効果的訓練が可能になる。

ABSTRACT

Recently, there has been a growing interest in the problem of learning rich implicit models - those from which we can sample, but can not evaluate their density. These models apply some parametric function, such as a deep network, to a base measure, and are learned end-to-end using stochastic optimization. One strategy of devising a loss function is through the statistics of two sample tests - if we can fool a statistical test, the learned distribution should be a good model of the true data. However, not all tests can easily fit into this framework, as they might not be differentiable with respect to the data points, and hence with respect to the parameters of the implicit model. Motivated by this problem, in this paper we show how two such classical tests, the Friedman-Rafsky and k-nearest neighbour tests, can be effectively smoothed using ideas from undirected graphical models - the matrix tree theorem and cardinality potentials. Moreover, as we show experimentally, smoothing can significantly increase the power of the test, which might of of independent interest. Finally, we apply our method to learn implicit models.

研究の動機と目的

• 密度評価が不可能な暗黙的生成モデルの訓練という課題に対処するため、勾配ベース最適化を可能にする。
• Friedman-Rafsky および k-NN の非微分可能な2標本検定を、微分可能な滑らかさの導入により stochastic optimization と互換性を持たせる。
• 古典的なグラフベースの2標本検定の統計的検出力を、滑らかさを用いることで向上させ、モデル訓練における有用性を高める。
• 滑らかにした検定が、MNIST やトロイ分布などの生成モデルタスクにおいて、より優れたサンプル品質をもたらすことを示す。

提案手法

• 無向グラフモデルの基数ポテンシャルと行列木定理を用いて、Friedman-Rafsky および k-NN 検定の組合せ統計量を滑らかにする。
• 温度制御されたソフトマックススムージングを用いて、生成木の積分により検定統計量の微分可能近似を構築する。
• 滑らかにした検定に対して、弱い条件下で漸近的に正規分布に従う t 統計量を導出する。これにより、信頼性の高い推論が可能になる。
• 滑らかにした t 統計量を微分可能な損失関数として用い、確率的勾配降下法（例：Adam）により深層生成モデルのパラメータを最適化する。
• 生成データと実データのサンプルに対して、滑らかにした検定統計量の期待値を最大化することで、暗黙的モデルを訓練する。
• p 値の推定と、滑らかさ下での帰無分布の正規性の妥当性を検証するために、順列検定を用いる。

実験結果

リサーチクエスチョン

• RQ1 非微分可能な2標本グラフ検定は、暗黙的生成モデルのエンドツーエンド訓練と互換性を持たせられるか？
• RQ2 無向グラフモデルを用いて検定統計量を滑らかにすることで、古典的なグラフベース検定の統計的検出力が向上するか？
• RQ3 滑らかにした検定統計量は、漸近的正規性と一貫性を保ちつつ微分可能にできるか？
• RQ4 滑らかにした検定の性能は、MMD や古典的検定と比較して、検出力および生成モデル品質の観点で優れているか？
• RQ5 スムージングパラメータ λ の影響は、モデル収束性およびサンプル品質にどのように現れるか？

主な発見

• 滑らかにした Friedman-Rafsky および k-NN 検定は、特に高次元設定におけるスケール代替において、古典的バージョンに比べて著しく高い検出力を示す。
• λ が小さくなるにつれて、滑らかにした検定統計量の帰無分布は正規分布に近づき、t 統計量の近似の妥当性が裏付けられ、最適化の安定性が向上する。
• 2つのムーン（two-moons）データセットにおいて、λ を小さくすると、より構造的で対称的かつ良好に分離された生成サンプルが得られ、真のデータ分布に近くなる。
• MNIST では、アーキテクチャの変更なしにピixeL距離を直接使用しても、MMD で訓練したモデルと同等のリアルな数字が生成可能である。
• スケールシフト代替において、滑らかにした検定は MMD よりも高い検出力を示し、微細な分布差を検出する優位性を示している。
• 本手法により、損失関数が微分可能かつ標準的なディープラーニングフレームワークに適合可能であるため、勾配ベース最適化を用いた暗黙的モデルの効果的訓練が可能になった。