[論文レビュー] Denoising Likelihood Score Matching for Conditional Score-based Data Generation

Chen-Hao Chao, Weifang Sun+7 more|arXiv (Cornell University)|Mar 27, 2022

Machine Learning and Data Classification被引用数 6

ひとこと要約

本稿では、真の対数尤度密度の勾配と推定スコアを一致させることでスコア不一致問題を軽減する、分類器向けの新しい学習目的であるDenoising Likelihood Score Matching (DLSM) を提案する。CIFAR-10 および CIFAR-100 における実験では、DLSM がスコア推定誤差を低減し、忠実性と多様性を向上させることで、生成品質を著しく向上させ、FID および IS スコアの最先端水準を達成した。

ABSTRACT

Many existing conditional score-based data generation methods utilize Bayes' theorem to decompose the gradients of a log posterior density into a mixture of scores. These methods facilitate the training procedure of conditional score models, as a mixture of scores can be separately estimated using a score model and a classifier. However, our analysis indicates that the training objectives for the classifier in these methods may lead to a serious score mismatch issue, which corresponds to the situation that the estimated scores deviate from the true ones. Such an issue causes the samples to be misled by the deviated scores during the diffusion process, resulting in a degraded sampling quality. To resolve it, we formulate a novel training objective, called Denoising Likelihood Score Matching (DLSM) loss, for the classifier to match the gradients of the true log likelihood density. Our experimental evidence shows that the proposed method outperforms the previous methods on both Cifar-10 and Cifar-100 benchmarks noticeably in terms of several key evaluation metrics. We thus conclude that, by adopting DLSM, the conditional scores can be accurately modeled, and the effect of the score mismatch issue is alleviated.

研究の動機と目的

• 既存の条件付きスコアベース生成モデルにおけるスコア不一致問題を特定・解消すること。これは、分類器から得られるスコアが真の事後分布勾配から逸脱していることに起因する。
• 逆過程における正確なスコア推定を保証することで、拡散ベースの条件付き生成におけるサンプリング品質を向上させること。
• 分類器の予測を真の対数尤度勾配とよりよく一致させる学習目的を開発し、生成サンプルの忠実性と多様性を向上させること。
• FID、IS、P/R/D/C メトリクスを含む複数のベンチマークおよび評価指標を用いて、提案手法の有効性を検証すること。

提案手法

• 真の対数尤度密度の勾配に一致させるように分類器を学習させる新しい損失関数、Denoising Likelihood Score Matching (DLSM) を提案。交差エントロピーに依存せず、この損失関数を用いる。
• ベイズの定理を用いて条件付きスコアをデータスコアと分類器スコアの混合に分解する既存フレームワークに DLSM を統合する。
• DLSM を標準的な交差エントロピー損失と重み付き和として組み合わせ、全損失 $ L_{\text{Total}} $ を構築することで、学習の安定化と一般化性能の向上を図る。
• Denoising Score Matching (DSM) の原則を用いてデータスコア関数を効率的に推定し、学習中の計算コストを低減する。
• Langevin ディフュージョンを用いてサンプリングを行い、DLSM で訓練された分類器から得られる洗練された事後スコア推定値に従って進行する。
• さらなる性能向上を図るため、スケーリング技術を適用し、異なるハイパーパramータ設定においても堅牢性を示す。

実験結果

リサーチクエスチョン

• RQ1 既存の条件付きスコアベースモデルにおけるスコア不一致問題がサンプリング品質を劣化させているか。その原因は何か？
• RQ2 真の対数尤度勾配に一致する新しい分類器学習目的が、スコア推定精度とサンプリング品質を向上させられるか？
• RQ3 CIFAR-10 および CIFAR-100 における FID、IS、および P/R/D/C メトリクスにおいて、提案された DLSM 損失は交差エントロピーおよび他のベースラインと比較してどのように優れているか？
• RQ4 全損失におけるバランス係数 λ の選択に依存せず、DLSM 損失はハイパーパramータに対して頑健か？
• RQ5 スケーリング技術と組み合わせることで、DLSM は複数の評価指標においてさらなる性能向上を達成できるか？

主な発見

• 提案手法 DLSM は、CIFAR-10 で FID 2.25、CIFAR-100 で FID 2.33 を達成し、ベースライン手法（FID 4.10 および 6.16）および従来の最先端手法を著しく上回った。
• CIFAR-10 では、インセプションスコア（IS）が 9.90 に達し、ベースライン手法（9.08）およびスケーリング手法（9.50）を上回り、サンプルの品質と多様性が向上したことが示された。
• スコア誤差が低減され、全損失 $ L_{\text{Total}} $ を用いた際、期待スコア発散 $ \mathbb{E}_{U(\tilde{\bm{x}})}[D_P(\tilde{\bm{x}}, \tilde{\bm{y}})] $ および $ \mathbb{E}_{U(\tilde{\bm{x}})}[D_L(\tilde{\bm{x}}, \tilde{\bm{y}})] $ が最小となった。
• DLSM 損失はハイパーパramータの選択に対して頑健であり、λ の異なる値に対しても性能が安定しており、FID および IS に最小限の変動しか示さなかった。
• スケーリング技術と組み合わせた場合、DLSM は精度および密度メトリクスをさらに向上させ、CIFAR-10 で 0.65 の精度および 0.96 の密度を達成し、ベースラインおよびスケーリングベースラインを上回った。
• 定性的な結果では、DLSM は特に 'baby'、'apple'、'bear' などの細分化されたクラスにおいて、よりシャープで現実的で、アーチファクトの少ないサンプルを生成していることが示された。