[논문 리뷰] Denoising Likelihood Score Matching for Conditional Score-based Data Generation

Chen-Hao Chao, Weifang Sun외 7명|arXiv (Cornell University)|2022. 03. 27.

Machine Learning and Data Classification인용 수 6

한 줄 요약

이 논문은 조건부 점수 기반 생성 모델에서 분류기의 훈련 목표로 새로운 방법인 노이즈 제거 가능도 점수 매칭(Denoising Likelihood Score Matching, DLSM)을 제안한다. 이는 실제 가능도 밀도의 기울기와 추정된 점수를 정렬시켜 점수 불일치 문제를 완화한다. CIFAR-10 및 CIFAR-100에서의 실험 결과, DLSM는 점수 추정 오차를 줄이고 충실도와 다양성을 향상시켜 샘플링 품질을 크게 향상시키며, FID 및 IS 점수에서 최신 기준 수준을 달성한다.

ABSTRACT

Many existing conditional score-based data generation methods utilize Bayes' theorem to decompose the gradients of a log posterior density into a mixture of scores. These methods facilitate the training procedure of conditional score models, as a mixture of scores can be separately estimated using a score model and a classifier. However, our analysis indicates that the training objectives for the classifier in these methods may lead to a serious score mismatch issue, which corresponds to the situation that the estimated scores deviate from the true ones. Such an issue causes the samples to be misled by the deviated scores during the diffusion process, resulting in a degraded sampling quality. To resolve it, we formulate a novel training objective, called Denoising Likelihood Score Matching (DLSM) loss, for the classifier to match the gradients of the true log likelihood density. Our experimental evidence shows that the proposed method outperforms the previous methods on both Cifar-10 and Cifar-100 benchmarks noticeably in terms of several key evaluation metrics. We thus conclude that, by adopting DLSM, the conditional scores can be accurately modeled, and the effect of the score mismatch issue is alleviated.

연구 동기 및 목표

• 기존 조건부 점수 기반 생성 모델에서 분류기로부터 유도된 점수가 실제 사후 기울기와 다름으로 인해 발생하는 점수 불일치 문제를 규명하고 해결하는 것.
• 역방향 과정에서 정확한 점수 추정을 보장함으로써 확산 기반 조건부 생성에서의 샘플링 품질을 향상시키는 것.
• 분류기 예측을 실제 가능도 기울기와 더 잘 일치시키는 훈련 목표를 개발하여 생성 샘플의 충실도와 다양성을 향상시키는 것.
• FID, IS, P/R/D/C 지표를 포함한 다양한 벤치마크와 평가 지표를 통해 제안된 방법의 효과성을 검증하는 것.

제안 방법

• 기존의 교차 엔트로피에 의존하지 않고 진짜 가능도 밀도의 기울기와 일치시키는 새로운 손실 함수인 노이즈 제거 가능도 점수 매칭(DLSM)을 제안하며, 이는 분류기를 훈련시켜 진짜 가능도 기울기와 일치하도록 한다.
• 베이즈 정리에 따라 조건부 점수를 데이터 점수와 분류기 점수의 혼합으로 분해하는 기존 프레임워크에 DLSM를 통합한다.
• DLSM를 표준 교차 엔트로피 손실과 가중치 합으로 조합하여 총 손실 $ L_{\text{Total}} $을 구성함으로써 훈련 안정성과 일반화 성능을 향상시킨다.
• 노이즈 제거 점수 매칭(DSM) 원리를 활용해 데이터 점수 함수를 효율적으로 추정함으로써 훈련 중 계산 비용을 감소시킨다.
• 샘플링에 랭글레인 확산을 사용하며, DLSM로 훈련된 분류기에서 유도된 개선된 사후 점수 추정치에 따라 안내한다.
• 성능 향상을 위해 스케일링 기법을 적용하여 다양한 하이퍼파rameter 설정에서도 안정성을 입증한다.

실험 결과

연구 질문

• RQ1 기존 조건부 점수 기반 모델에서의 점수 불일치 문제는 샘플링 품질을 떨어뜨리며, 그 원인은 무엇인가?
• RQ2 진짜 가능도 기울기와 일치하는 새로운 분류기 훈련 목표는 점수 추정 정확도와 샘플링 품질을 향상시킬 수 있는가?
• RQ3 CIFAR-10 및 CIFAR-100에서 FID, IS, P/R/D/C 지표 측면에서 제안된 DLSM 손실은 교차 엔트로피 및 기타 베이스라인과 비교해 어떻게 성능을 내는가?
• RQ4 총 손실에서의 균형 계수 λ에 대한 하이퍼파ram터 선택에 대해 DLSM 손실은 얼마나 강인한가?
• RQ5 스케일링 기법과 조합했을 때 DLSM는 여러 평가 지표에서 성능을 추가로 향상시킬 수 있는가?

주요 결과

• 제안된 DLSM 방법은 CIFAR-10에서 FID 2.25, CIFAR-100에서 FID 2.33를 기록하여 베이스라인 방법(FID 4.10 및 6.16)과 이전 최신 기술을 크게 앞서며 성능을 뛰어넘었다.
• CIFAR-10에서 DLSM는 인ception 점수(IS) 9.90을 기록하여 베이스라인 방법(9.08)과 스케일링 방법(9.50)을 초월하여 샘플 품질과 다양성 향상을 입증했다.
• 점수 오차가 감소하였으며, $ L_{\text{Total}} $ 손실을 사용할 경우 기대 점수 분산 $ \mathbb{E}_{U(\tilde{\bm{x}})}[D_P(\tilde{\bm{x}}, \tilde{\bm{y}})] $ 와 $ \mathbb{E}_{U(\tilde{\bm{x}})}[D_L(\tilde{\bm{x}}, \bar{\bm{y}})] $ 가 최소가 되었다.
• DLSM 손실은 하이퍼파ram터 선택에 대해 강인하며, λ의 다양한 값에서도 성능이 안정적으로 유지되어 FID 및 IS에서 최소한의 변동을 보였다.
• 스케일링 기법과 조합했을 때 DLSM는 정밀도 및 밀도 지표를 추가로 향상시켜 CIFAR-10에서 정밀도 0.65, 밀도 0.96를 기록하며, 베이스라인 및 스케일링 베이스라인을 모두 초월했다.
• 정성적 결과에서는 DLSM가 더 선명하고 현실적인 샘플을 생성하며, 특히 CIFAR-100의 세부 클래스인 '아기', '사과', '곰' 등에서 잡음과 기하학적 오류가 적은 것으로 나타났다.