[論文レビュー] Cycle-Consistent Adversarial Learning as Approximate Bayesian Inference

Louis C. Tiao, Edwin V. Bonilla+1 more|arXiv (Cornell University)|Jun 5, 2018

Gaussian Processes and Bayesian Inference参考文献 37被引用数 5

ひとこと要約

本稿は、非対応画像間翻訳を、潜在変数モデル（ILVM）における近似的ベイズ推論としてフレームワーク化し、CycleGANを用いたサイクル整合性のある対抗的学習が、結合分布間の対称的KLダイバージェンスを最小化する変分推論手法として現れるという見方を提示する。このアプローチにより、CycleGANは一貫したベイズ的枠組みの下で統合され、ベースラインと比較してより優れた潜在変数再構成性能を示す理論的根拠が与えられる。

ABSTRACT

We formalize the problem of learning interdomain correspondences in the absence of paired data as Bayesian inference in a latent variable model (LVM), where one seeks the underlying hidden representations of entities from one domain as entities from the other domain. First, we introduce implicit latent variable models, where the prior over hidden representations can be specified flexibly as an implicit distribution. Next, we develop a new variational inference (VI) algorithm for this model based on minimization of the symmetric Kullback-Leibler (KL) divergence between a variational joint and the exact joint distribution. Lastly, we demonstrate that the state-of-the-art cycle-consistent adversarial learning (CYCLEGAN) models can be derived as a special case within our proposed VI framework, thus establishing its connection to approximate Bayesian inference methods.

研究の動機と目的

• 非対応画像間翻訳を、理論的裏付けのない既存手法の欠如を補うために、潜在変数モデル（LVM）におけるベイズ推論として形式化すること。
• 密度関数ではなくサンプルのみで定義される（暗黙的）事前分布を持つLVMに適した、新しい変分推論（VI）アルゴリズムの開発。
• CycleGANとベイズ推論との間の理論的接続を確立し、そのコンponentsが結合分布の変分近似から自然に導かれるものであることを示すこと。
• 近似された結合分布と真の結合分布の間の対称的KLダイバージェンスを最小化することで、潜在表現の再構成を向上させ、モデルの忠実度を向上させること。

提案手法

• 潜在変数の事前分布が密度関数ではなくサンプルによって定義される暗黙的潜在変数モデル（ILVM）を提案。これにより、複雑な分布の柔軟なモデリングが可能になる。
• 従来のVIが前方KLダイバージェンスを最小化するのに対し、本稿では結合分布の全分布を対称的KLダイバージェンスを用いて近似する新しい変分推論アルゴリズムを導入。
• 真の結合分布と変分近似との間の対称的KLダイバージェンスの最小化として変分目的関数を導出し、より良いサポートマッチングが可能になる。
• この枠組みを非対応画像翻訳に適用し、CycleGANの生成器およびディスクリミネータの損失が、f-ダイバージェンスの近似とサイクル整合性制約に対応することを示した。
• 前向きおよび逆向きのマッピングを別々の生成器で処理する二ストリームアーキテクチャを採用。対抗的学習により分布マッチングが保証され、サイクル整合性により構造的整合性が確保される。
• 潜在変数再構成目的関数を用いて学習された潜在空間の品質を検証し、事前分布のサンプルとその再構成との間の平均二乗誤差（MSE）を性能指標として用いた。

実験結果

リサーチクエスチョン

• RQ1 サイクル整合性のある対抗的学習（CycleGAN）は、潜在変数モデルにおける近似的ベイズ推論の一形態として解釈可能か？
• RQ2 事前分布の密度が不正則（intractable）なモデル、特に暗黙的事前分布を持つモデルにおいて、変分推論をどのように適合できるか？
• RQ3 標準的な変分推論と比較して、対称的KLダイバージェンスが結合分布の近似をどのように改善するか？
• RQ4 CycleGANのコンponents（対抗的損失とサイクル整合性）は、ベイズ的変分推論枠組みからどのように自然に導かれるか？
• RQ5 本フレームワークは、既存手法と比較して、非対応翻訳タスクにおける潜在変数再構成をどのように向上させるか？

主な発見

• 提案された対称的KLに基づく変分推論手法は、VAEやAVBのベースラインと比較して、潜在変数再構成において顕著に優れた性能を示し、平均二乗誤差（MSE）が0.17と、VAEの0.88と比べて著しく低い水準に達した。
• 観測画像の再構成MSEは類似（0.04）であったが、本手法は潜在空間において優れた忠実度を示しており、結合分布の近似がより良好であることを示している。
• CycleGANは、提案された変分推論フレームワークの特殊ケースとして形式的に導出され、対抗的損失がf-ダイバージェンスの近似に対応し、サイクル整合性が対数確率項に対応することが明らかになった。
• 本手法により学習された潜在空間は、MNISTデータセットにおいて数字クラスを明確に分離しており、密度関数が不明であっても、元の事前分布の形状（バナナ型）を保存していることが確認された。
• 再構成された潜在変数が真の事前分布サンプルと整合していることから、観測変数と潜在変数の正確な結合分布が忠実に近似されていることが裏付けられた。
• 本フレームワークにより、CycleGANに一貫したベイズ的解釈が与えられ、元の定式化における理論的曖昧性が解消されるとともに、不確実性の定量化が可能になった。