[論文レビュー] Evaluating the Disentanglement of Deep Generative Models through Manifold Topology

Sharon Zhou, Eric Zelikman+4 more|arXiv (Cornell University)|May 3, 2021

Topological and Geometric Data Analysis参考文献 47被引用数 6

ひとこと要約

本論文は、学習済み表現内の条件付き部分多様体の位相的類似性を分析することにより、深層生成モデルにおける分離性を評価する新規で自己完結的な手法を提案する。外部モデルやデータセット固有の仮定を用いずに多様体位相を利用することで、複数のデータセットにおいて最先端モデルの順位付けが一貫して得られ、頑健で一般化可能な分離性メトリクスを提供する。

ABSTRACT

Learning disentangled representations is regarded as a fundamental task for improving the generalization, robustness, and interpretability of generative models. However, measuring disentanglement has been challenging and inconsistent, often dependent on an ad-hoc external model or specific to a certain dataset. To address this, we present a method for quantifying disentanglement that only uses the generative model, by measuring the topological similarity of conditional submanifolds in the learned representation. This method showcases both unsupervised and supervised variants. To illustrate the effectiveness and applicability of our method, we empirically evaluate several state-of-the-art models across multiple datasets. We find that our method ranks models similarly to existing methods. We make our code publicly available at https://github.com/stanfordmlgroup/disentanglement.

研究の動機と目的

• 深層生成モデルにおける一貫性がありモデルに依存しない分離性評価の欠如に対処すること。
• 生成モデルの内部表現のみを用いて分離性を定量化する手法を開発すること。
• 分離性測定におけるアドホックな外部モデルやデータセット固有の仮定への依存を排除すること。
• 教師ありおよび教師なしの両方のバリアントを持つ分離性評価フレームワークを提供すること。
• 複数の最先端モデルおよびデータセットを用いた実験的妥当性の検証すること。

提案手法

• 本手法は、潜在空間における異なる変動要因によって誘導される条件付き部分多様体間の位相的類似性を測定する。
• 持続的ホモロジーを用いてこれらの部分多様体から位相的特徴を抽出し、その構造的性質を捉える。
• 部分多様体の位相的指紋間の類似性を、分離性の質の代理指標として用いる。
• 利用可能な教師信号に応じて、教師ありおよび教師なしの両方のバージョンをサポートする。
• 追加の訓練や外部モデルを一切必要とせず、生成モデルの出力のみに依存して動作する。
• 異なるデータセットおよびモデルアーキテクチャに一般化可能であるように設計されている。

実験結果

リサーチクエスチョン

• RQ1 条件付き部分多様体の位相的性質は、深層生成モデルにおける分離性を信頼性高く示唆できるか？
• RQ2 提案された位相的メトリクスは、既存の分離性評価手法と比較して一貫性および頑健性に優れているか？
• RQ3 外部モデルやデータセット固有の仮定に依存せずに、どの程度分離性を評価できるか？
• RQ4 本手法は多様なデータセットおよびモデルアーキテクチャにわたり一貫した性能を維持するか？
• RQ5 本手法は、分離性の質の観点から最先端の生成モデルを効果的に順位付けできるか？

主な発見

• 提案手法は、既存の評価手法によって得られたものと一貫した分離性順位を生成する。
• 外部モデルを必要とせず、生成モデルの内部表現のみを用いて分離性を効果的に評価できる。
• 位相的類似性メトリクスは、複数のデータセットおよびモデルアーキテクチャにわたり頑健であることが示された。
• 教師ありおよび教師なしの両方のバージョンが、信頼性高く同等の分離性スコアを提供する。
• 従来のメトリクスと同等の性能を達成する一方で、より一般化可能であり、仮定への依存が少ない。