[論文レビュー] Metrics for Deep Generative Models

Nutan Chen, Alexej Klushyn+4 more|arXiv (Cornell University)|Nov 3, 2017

Generative Adversarial Networks and Image Synthesis参考文献 23被引用数 35

ひとこと要約

本稿では、データ多様体の非線形幾何を反映するためのリーマン計量に基づく距離測度を、深層生成モデルに対して提案する。潜在空間における測地線路をユークリッド距離に置き換えることで、滑らかでより自然な補間と、特に高次元かつ低密度なデータ領域において、標準的なユークリッド距離や線形補間よりも優れた類似度推定が可能になる。

ABSTRACT

Neural samplers such as variational autoencoders (VAEs) or generative adversarial networks (GANs) approximate distributions by transforming samples from a simple random source---the latent space---to samples from a more complex distribution represented by a dataset. While the manifold hypothesis implies that the density induced by a dataset contains large regions of low density, the training criterions of VAEs and GANs will make the latent space densely covered. Consequently points that are separated by low-density regions in observation space will be pushed together in latent space, making stationary distances poor proxies for similarity. We transfer ideas from Riemannian geometry to this setting, letting the distance between two points be the shortest path on a Riemannian manifold induced by the transformation. The method yields a principled distance measure, provides a tool for visual inspection of deep generative models, and an alternative to linear interpolation in latent space. In addition, it can be applied for robot movement generalization using previously learned skills. The method is evaluated on a synthetic dataset with known ground truth; on a simulated robot arm dataset; on human motion capture data; and on a generative model of handwritten digits.

研究の動機と目的

• 多様体の歪みや尤度関数における不連続性のため、潜在空間におけるユークリッド距離が真のデータ類似度を反映しないという限界に対処する。
• VAE や GAN が潜在空間を密に覆うため、観測空間において高次元かつ低密度領域が崩壊する問題を克服する。
• リーマン多様体理論を用いて、内在的なデータ構造を反映する原理的で幾何学に配慮した距離計測を構築する。
• ロボットの運動生成やデータ可視化などの応用において、潜在空間で滑らかで自然な補間を可能にする。
• 合成データ、ロボットアーム、ヒューマンモーションキャプチャデータを含む多様なデータセット上で手法を検証し、より優れた経路品質と低歪みを示す。

提案手法

• 生成モデルのヤコビ行列から導出される計量テンソルを用いて、深層生成モデルの潜在空間をリーマン多様体としてモデル化する。
• 2つのデータポイント間の距離を、多様体上での最短測地線路の長さとして定義し、曲線長積分の最小化によって計算する。
• 正確な事後分布近似を保証するため、重要度加重オートエンコーダー（IWAE）を用いて潜在変数モデルの推論と学習を強化する。
• 測地線計算の数値安定性を向上させるために、計量テンソルに特異値分解（SVD）を適用する。
• 2つの潜在コード間の最短経路を求める境界値問題を解くことで、測地線補間を実行し、線形補間を置き換える。
• 局所的な面積歪みを定量化するメトリックファクター（MF）を用いてメトリックを可視化し、モデルの解釈性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 深層生成モデルの潜在空間において、観測空間における真の類似度を反映するより意味のある距離を、どのように定義できるか？
• RQ2 リーマン測地線補間は、滑らかで自然な運動シーケンスを生成する観点で、線形補間やユークリッド補間をどの程度上回るか？
• RQ3 リーマン計量は、特に低密度領域において、潜在空間の局所的歪みを効果的に捉え、可視化できるか？
• RQ4 本手法は、ロボットスキル学習タスクにおける経路計画と運動一般化をどのように改善するか？
• RQ5 本手法は、ヒューマンモーションキャプチャシーケンスのような複雑で高次元なデータにおいて、構造的・運動学的整合性を保持できるか？

主な発見

• ロボットアームの運動において、潜在空間における測地線補間はユークリッド補間（1.48）と比較して著しく短い経路長（0.54）を達成し、エンドエフェクタの軌道が滑らかで自然になった。
• ヒューマンモーションデータでは、測地線経路の距離（2.57）がユークリッド経路（2.89）よりも低く、再構成結果は急激なジャンプを伴わず、一貫した自然な歩行運動を示した。
• メトリックファクター（MF）の可視化により、低密度領域で高い歪みが確認され、多様体仮説とユークリッド距離のその領域における不適切さが裏付けられた。
• 測地線補間は、ユークリッド補間で大きな不自然な運動を引き起こす高メトリックファクター（MF）領域を回避した。特にヒューマンモーションデータセットで顕著であった。
• 測地線経路を用いることで、150ステップで完全な円形歩行運動を生成できたが、ユークリッド補間では不規則で整合性のない運動が生じた。
• 本手法は高次元データ、特にボディ全体のヒューマノイドモーションに対しても、明示的なタスク空間制約を必要とせず、良好に一般化した。