[論文レビュー] Improving Adversarial Energy-Based Model via Diffusion Process

Cong Geng, Tian Han+5 more|arXiv (Cornell University)|Mar 4, 2024

Adversarial Robustness in Machine Learning被引用数 2

ひとこと要約

本稿では、生成プロセスを複数のノイズ除去ステップに分解することで、学習安定性と生成品質を向上させる、拡散過程に基づく敵対的エネルギー関数モデル（DDAEBM）を提案する。各ノイズ除去ステップで対称ジェファレッド発散と変分後方分布を用いて条件付きエネルギー関数モデルを学習することで、CIFAR-10/SVHNのOOD検出において、FID（4.82）とAUROC（0.83）の最先端性能を達成した。さらに、MCMCを用いない学習とサンプリングが可能である。

ABSTRACT

Generative models have shown strong generation ability while efficient likelihood estimation is less explored. Energy-based models~(EBMs) define a flexible energy function to parameterize unnormalized densities efficiently but are notorious for being difficult to train. Adversarial EBMs introduce a generator to form a minimax training game to avoid expensive MCMC sampling used in traditional EBMs, but a noticeable gap between adversarial EBMs and other strong generative models still exists. Inspired by diffusion-based models, we embedded EBMs into each denoising step to split a long-generated process into several smaller steps. Besides, we employ a symmetric Jeffrey divergence and introduce a variational posterior distribution for the generator's training to address the main challenges that exist in adversarial EBMs. Our experiments show significant improvement in generation compared to existing adversarial EBMs, while also providing a useful energy function for efficient density estimation.

研究の動機と目的

• 非対称KL発散と扱いにくいエントロピー項による敵対的エネルギー関数モデル（EBM）の不安定さと分布適合の悪さを解消する。
• 学習および推論の両方でMCMCサンプリングを排除することで、MCMCベースのEBM学習の高い計算コストと不安定性を克服する。
• 複数の時間ステップを持つノイズ除去拡散フレームワークに敵対的EBMを統合することで、サンプル品質と密度推定を向上させる。
• 周辺エネルギー分布の代わりに条件付きノイズ除去分布を学習することで、効率的で安定した学習を実現する。
• 異常検知や半教師あり学習などの下流タスクに有用なエネルギー関数を提供する。

提案手法

• 敵対的EBMをノイズ除去拡散プロセスに統合し、各ノイズステップでエネルギー関数モデルを学習して条件付きノイズ除去分布をモデル化する。
• 潜在変数zを用いて生成されたノイズ除去分布を定義することで、高速なサンプリングと改善された学習ダイナミクスを実現する。
• 生成器の学習に、非対称KL発散よりも優れた分布マッチングを実現する対称ジェファレッド発散を採用する。
• 生成器の目的関数における扱いにくいエントロピー項を、変分後方分布qψ(z|xt−1, xt)を用いて効率的に推定する。
• 生成器とエネルギー関数のミニマックスゲームを用いてエネルギー関数を学習し、MCMCサンプリングを完全に回避する。
• 複数段階のノイズ除去プロセスを用いることで、複雑な多モーダルなデータ分布を、より単純で取り扱いやすい条件付き学習問題に分解する。

実験結果

リサーチクエスチョン

• RQ1 敵対的EBMを拡散プロセスに統合することで、標準的な敵対的EBMと比較して、学習安定性と生成品質が向上するか？
• RQ2 KL発散の代わりに対称ジェファレッド発散を用いることで、より良い分布マッチングと向上したサンプル品質が得られるか？
• RQ3 変分後方分布は、敵対的EBM学習における扱いにくいエントロピー項を効果的に推定できるか？
• RQ4 ノイズ除去ステップ数Tの変化が、学習安定性と生成性能に与える影響は何か？
• RQ5 提案手法は、効率的でMCMCを不要とする学習プロセスを維持しながら、生成とOOD検出の両方で競争力のある性能を達成できるか？

主な発見

• 提案されたDDAEBMは、CIFAR-10で4.82のFréchet Inception Distance（FID）を達成し、先行する敵対的EBMを大きく上回り、最先端モデルと同等の性能を示した。
• CIFAR-10をインダーレーション、SVHNをアウトオブディストリビューションとして用いたOOD検出タスクにおいて、AUROCが0.83に達し、優れたエネルギー関数の品質を示した。
• アブレーションスタディの結果、潜在変数zを削除するか、対称ジェファレッド発散の代わりにKL発散を用いると、FID（10.09）とAUROC（0.23）が著しく低下し、これらが重要な役割を果たしていることが実証された。
• log qψ(z|xt−1, xt)項を削除すると、KLベースの学習と同程度の性能となるため、変分後方分布が正確なエネルギー関数学習に不可欠であることが示された。
• 最適なノイズ除去ステップ数Tは4であり、T=4が安定した学習と最高の性能をもたらした。Tを大きくすると、安定した学習が続くものの、生成品質が劣化した。
• 本モデルはMCMCを不要とする学習とサンプリングを実現し、従来のMCMCベースのEBMとは異なり、高速な推論と安定した最適化を達成した。