[論文レビュー] A Spectral Regularizer for Unsupervised Disentanglement

Aditya Ramesh, Youngduck Choi+1 more|arXiv (Cornell University)|Dec 4, 2018

Model Reduction and Neural Networks参考文献 24被引用数 17

ひとこと要約

本稿では、生成モデルのヤコビ行列の上部右特異ベクトルを座標軸と一致させることで、教師なしの分解能をGANに与えるスペクトル正則化項を提案する。局所的な特異ベクトルに従って繰り返し潜在空間を探索することで、局所的分解能を実現し、効率的かつスケーラブルな正則化項を導入。これにより、教師データやラベルなしで最先端の分解能を達成する。

ABSTRACT

A generative model with a disentangled representation allows for independent control over different aspects of the output. Learning disentangled representations has been a recent topic of great interest, but it remains poorly understood. We show that even for GANs that do not possess disentangled representations, one can find curved trajectories in latent space over which local disentanglement occurs. These trajectories are found by iteratively following the leading right-singular vectors of the Jacobian of the generator with respect to its input. Based on this insight, we describe an efficient regularizer that aligns these vectors with the coordinate axes, and show that it can be used to induce disentangled representations in GANs, in a completely unsupervised manner.

研究の動機と目的

• 教師データやラベルなしで、GANにおける分解された表現を学習する課題に対処すること。
• 生成器のヤコビ行列の主な右特異ベクトルを用いて、潜在空間内の局所的分解能パスを同定すること。
• これらの特異ベクトルを座標方向に一致させる効率的でスケーラブルな正則化項を構築すること。
• この正則化項が、サンプルの忠実度を維持したままGANにおける分解能の質を向上させることを示すこと。

提案手法

• 本手法は、与えられた潜在変数点における生成器のヤコビ行列の主な右特異ベクトルを用いて、局所的分解能方向を同定する。
• これらの特異ベクトルに逐次的に従うことで、潜在空間内に軌道を構築し、生成出力における解釈可能で分解された変化を実現する。
• 上位k個の右特異ベクトルを最初のk個の標準基底ベクトル（座標方向）と一致させるように、スペクトル正則化項を定式化する。
• 上位k個の特異ベクトルを並列に計算する微分可能で効率的なパワー反復法を用いて実装し、逐次的依存を回避する。
• 正則化項は、最適化中に一致を促進するために、ペナルティ重みλを用いてGANの学習目的関数に組み込む。
• 方向性の一致を強制するために、マスク s₁, s₂, などのマスク付きハダマール積を用いる。

実験結果

リサーチクエスチョン

• RQ1 生成器のヤコビ行列の主な右特異ベクトルに従うことで、GANにおける局所的分解能を達成できるか？
• RQ2 これらの特異ベクトルを座標軸に一致させる正則化項を設計し、それを用いてグローバルな分解能を誘導できるか？
• RQ3 提案された正則化項は、GAN学習における実用的使用に十分に効率的かつスケーラブルか？
• RQ4 この手法は、教師なし設定で最先端の分解能性能を達成できるか？

主な発見

• 生成器のヤコビ行列の主な右特異ベクトルは、潜在空間内での局所的分解能が実現される軌道を定義する。
• これらの軌道に従うことで、コンテンツを保持したままカメラの角度を制御的に変更するなど、解釈可能な属性固有の変化が生成出力に現れる。
• 提案されたスペクトル正則化項は、ラベルデータやアーキテクチャの変更なしに、GANに分解された表現を効果的に誘導する。
• 定性的な軌道の観察により、一貫した属性固有の変化が確認され、高い分解能の質が裏付けられる。
• 上位k個の特異ベクトルを並列に計算するパワー反復法により、計算が効率的であり、実用的な学習が可能になる。