[논문 리뷰] On Maximum Likelihood Training of Score-Based Generative Models.

Conor Durkan, Yang Song|arXiv (Cornell University)|2021. 01. 22.

Generative Adversarial Networks and Image Synthesis참고 문헌 61인용 수 5

한 줄 요약

이 논문은 연속적인 혼합 스코어 매칭 손실을 사용한 스코어 기반 생성 모델링이 특정 혼합 가중치 설계 하에서 수학적으로 최대우도 학습과 동치임을 규명한다. 주요 기여는 데이터 밀도를 명시적으로 파rameterize할 필요 없이 스코어 함수만으로도 최대우도 학습과 로그우도 평가를 가능하게 하는 원칙적인 가중치 방법을 제안하는 것이다.

ABSTRACT

Score-based generative modeling has recently emerged as a promising alternative to traditional likelihood-based or implicit approaches. Learning in score-based models involves first perturbing data with a continuous-time stochastic process, and then matching the time-dependent gradient of the logarithm of the noisy data density - or score function - using a continuous mixture of score matching losses. In this note, we show that such an objective is equivalent to maximum likelihood for certain choices of mixture weighting. This connection provides a principled way to weight the objective function, and justifies its use for comparing different score-based generative models. Taken together with previous work, our result reveals that both maximum likelihood training and test-time log-likelihood evaluation can be achieved through parameterization of the score function alone, without the need to explicitly parameterize a density function.

연구 동기 및 목표

• 스코어 기반 생성 모델링과 최대우도 학습 간 이론적 연결 고리를 확립하기 위해.
• 연속적인 스코어 매칭 손실의 혼합이 최대우도 최적화를 달성하는 조건을 규명하기 위해.
• 다양한 스코어 기반 모델 간의 유효한 우도 비교를 지원하는 원칙적인 스코어 매칭 목표 함수의 가중치 방법을 제공하기 위해.
• 학습 및 테스트 시기 동안의 로그우도 평가가 모두 데이터 밀도를 명시적으로 파arameterize하지 않고도 스코어 함수만으로 수행될 수 있음을 보여주기 위해.

제안 방법

• 논문은 시간에 따라 변하는 스코어 매칭 목표 함수를 시간에 대한 연속적인 손실 혼합으로 분석한다.
• 시간 변수의 특정 가중치 함수 하에서 혼합 목표 함수와 최대우도 간의 등가성을 유도한다.
• 분석은 포커-플랑크 방정식과 스코어 함수가 데이터 밀도의 로그 기울기와 관련이 있음을 활용한다.
• 최대우도를 위한 최적의 가중치는 편향 과정의 분산의 시간 도함수에 의해 결정됨을 보여준다.
• 스코어 함수만으로도 학습 목표 함수와 테스트 시기 로그우도를 모두 계산할 수 있음을 보여준다.

실험 결과

연구 질문

• RQ1 연속적인 스코어 매칭 손실의 혼합이 언제 최대우도 학습과 동치가 되는가?
• RQ2 최대우도 등가성을 보장하는 스코어 매칭 목표 함수의 최적 가중치 설계는 무엇인가?
• RQ3 추론 시 로그우도 평가를 데이터 밀도를 명시적으로 파arameterize하지 않고 수행할 수 있는가?
• RQ4 스코어 함수의 파arameterization은 최대우도 프레임워크 하에서 학습과 평가를 어떻게 가능하게 하는가?

주요 결과

• 연속적인 스코어 매칭 손실의 혼합이 편향 과정의 분산의 시간 도함수에 따라 가중치가 선택될 경우 최대우도 학습과 동치가 된다.
• 이 등가성은 다양한 스코어 기반 모델 간의 공정한 비교를 가능하게 하는 원칙적인 목표 함수 가중치 기반을 제공한다.
• 스코어 함수만으로도 학습 목표 함수와 테스트 시기 로그우도를 모두 계산할 수 있으며, 이는 명시적 밀도 추정의 필요성을 제거한다.
• 결과적으로 스코어 기반 모델링과 최대우도를 통합하여, 스코어 함수 파arameterization을 통해 우도 기반 학습과 평가가 가능함을 보여준다.