[論文レビュー] Sinkhorn-AutoDiff: Tractable Wasserstein Learning of Generative Models

Aude Genevay, Gabriel Peyré+1 more|arXiv (Cornell University)|Jun 1, 2017

Generative Adversarial Networks and Image Synthesis被引用数 11

ひとこと要約

この論文では、最適輸送（OT）損失を用いた大規模な生成モデルの訓練のための、微分可能でGPU最適化された手法であるSinkhorn-AutoDiffを紹介する。エントロピー正則化とSinkhorn反復の自動微分を組み合わせることで、高次元分布における計算コストと勾配不安定性の問題を克服し、安定的かつスケーラブルなOTベースの訓練を可能にする。

ABSTRACT

The ability to compare two degenerate probability distributions (i.e. two probability distributions supported on two distinct low-dimensional manifolds living in a much higher-dimensional space) is a crucial problem arising in the estimation of generative models for high-dimensional observations such as those arising in computer vision or natural language. It is known that optimal transport metrics can represent a cure for this problem, since they were specifically designed as an alternative to information divergences to handle such problematic scenarios. Unfortunately, training generative machines using OT raises formidable computational and statistical challenges, because of (i) the computational burden of evaluating OT losses, (ii) the instability and lack of smoothness of these losses, (iii) the difficulty to estimate robustly these losses and their gradients in high dimension. This paper presents the first tractable computational method to train large scale generative models using an optimal transport loss, and tackles both these issues by relying on two key ideas: (a) entropic smoothing, which turns the original OT loss into one that can be computed using Sinkhorn fixed point iterations; (b) algorithmic (automatic) differentiation of these iterations. These two approximations result in a robust and differentiable approximation of the OT loss with streamlined GPU execution. The resulting computational architecture complements nicely standard deep network generative models by a stack of extra layers implementing the loss function.

研究の動機と目的

• 高次元空間における低次元多様体上にサポートを持つ退化確率分布どうしを比較する課題に取り組むこと。これは、ビジョンやNLPで一般的に見られる問題である。
• 深層生成モデルにおける正確な最適輸送（OT）損失の計算不能性と勾配不安定性を克服すること。
• OTベースの目的関数を用いた生成モデルのロバストでスケーラブルな訓練を可能にするために、損失関数を微分可能かつGPU実行に最適化すること。
• 従来の生成モデルアーキテクチャに影響を与えることなく、即座に統合可能な実用的でプラグイン互換性のあるフレームワークを提供すること。

提案手法

• 元の最適輸送問題にエントロピー正則化を適用し、Sinkhorn固定点反復で解ける正則化されたOT問題に変換する。
• 反復的Sinkhornアルゴリズムを用いて、勾配逆伝播が可能なワーサーテイン距離の微分可能近似を計算する。
• アルゴリズム的（自動的）微分を用いて、反復の内部を計算グラフに統合し、反復経由での勾配計算を可能にする。
• 従来の損失関数に代わる微分可能なレイヤースタックを設計し、OTベースの目的関数を用いたエンドツーエンドの訓練を可能にする。
• GPUの並列処理を活用して、Sinkhorn反復とその勾配の計算を高速化し、大規模モデルや高次元データへのスケーラビリティを実現する。
• 最適化中にエントロピー正則化パラメータを制御することで、数値的安定性と損失の滑らかさを確保する。

実験結果

リサーチクエスチョン

• RQ1 エントロピー正則化と自動微分を組み合わせることで、大規模な深層生成モデルにおける最適輸送損失を実行可能にすることができるか？
• RQ2 高次元データにおいて、微分可能なSinkhorn近似は正確なOTと比べて、訓練の安定性と収束性においてどのように異なるか？
• RQ3 提案手法は、アーキテクチャの変更なしに、既存の深層生成モデルアーキテクチャにどの程度統合可能か？
• RQ4 エントロピー正則化パラメータは、近似精度と訓練効率のトレードオフにどの程度影響を与えるか？
• RQ5 得られるフレームワークは、微分可能性とGPU効率を維持しながら、生成モデルで競争力のある性能を達成できるか？

主な発見

• 提案手法により、正確なOTの計算コストと微分可能性の課題を克服し、最適輸送損失を用いた生成モデルの安定的かつ効率的な訓練が可能になった。
• エントロピー正則化とSinkhorn反復の自動微分を組み合わせることで、深層学習に適した滑らかで微分可能なワーサーテイン距離の近似が得られた。
• GPUハードウェア上で高い計算効率を達成し、大規模な生成モデルにおけるOTベースのモデリングが現実可能になった。
• フレームワークは、深層生成モデルに微分可能なレイヤーとしてシームレスに統合可能であり、OT目的関数を用いたエンドツーエンドの訓練を可能にした。
• 低次元多様体上のデータに対して、従来の発散ベースの損失（例：GANやVAE）とは異なり、ロバストな代替手段を提供した。
• 標準的なOTや情報理論的発散が失敗する高次元設定において、改善された安定性と収束性を示した。