[논문 리뷰] Properties of f-divergences and f-GAN training

Matt Shannon|arXiv (Cornell University)|2020. 09. 02.

Adversarial Robustness in Machine Learning참고 문헌 21인용 수 5

한 줄 요약

이 논문은 f-발산과 f-GAN 훈련에서의 역할에 대한 엄밀한 분석을 제공하며, 변분 하한을 유도하고, 동일한 분포 근처에서의 기울기 일치 및 f-발산 간의 보편적 일致성과 같은 핵심 성질을 드러낸다. 이를 통해 비판자와 생성자 갱신을 분리함으로써 안정성을 향상시키기 위한 略적으로 일반화된 f-GAN 훈련 프레임워크를 제안한다.

ABSTRACT

In this technical report we describe some properties of f-divergences and f-GAN training. We present an elementary derivation of the f-divergence lower bounds which form the basis of f-GAN training. We derive informative but perhaps underappreciated properties of f-divergences and f-GAN training, including a gradient matching property and the fact that all f-divergences agree up to an overall scale factor on the divergence between nearby distributions. We provide detailed expressions for computing various common f-divergences and their variational lower bounds. Finally, based on our reformulation, we slightly generalize f-GAN training in a way that may improve its stability.

연구 동기 및 목표

• f-발산의 수학적 성질을 명확히 하여, 특히 분포 간의 미소한 편차에서의 행동을 분석한다.
• f-GAN 훈련에서 사용되는 변분 하한을 유도하고 분석하며, 기본 미적분학에 기반한다.
• 저차원 생성자 지지 집합으로 인한 GAN 훈련의 이론적 병리, 특히 무한 발산과 기울기 소실 현상을 다룬다.
• 비판자와 생성자 갱신을 분리함으로써 훈련 안정성을 향상시키기 위한 일반화된 f-GAN 훈련 체계를 제안한다.
• 생성자에 노이즈를 주입하여 전체 지지 집합을 확보하고, f-발산 기반 훈련에서의 병리적 행동을 제거할 것을 주장한다.

제안 방법

• 볼록 쌍대성의 도움으로 f-발산에 대한 변분 하한을 유도하며, 이는 비판자 네트워크가 로그우도비율을 근사한다는 것을 보여준다.
• 분포가 가까울 경우 모든 f-발산이 스케일 인자에 따라 일치함을 입증하며, 이 스케일은 f''(1)에 의해 결정되며 국소 영역에서 KL 발산과 연결된다.
• 생성자와 비판자 기울기가 서로 다른 f-발산 함수에서 유도되는 약간 일반화된 f-GAN 업데이트 규칙을 도입함으로써 하이브리드 훈련 체계를 가능하게 한다.
• 모든 생성자 네트워크 수준에서 노이즈를 주입하여 출력 공간 전체에 대해 전체 지지 집합을 확보함으로써, 영 밀도 영역과 무한 발산을 제거한다.
• 유한 샘플 근사와 재파arameterization의 영향을 기울기 분산 측면에서 분석하며, f에 대한 애핀 이동이 재parameterization 하에 기울기에 영향을 주지 않음을 보여준다.
• f-발산에 대한 최적의 비판자는 d*(x) = log p(x) - log q(x)이며, 생성자 지지 집합이 저차원일 경우 이 함수는 거의 모든 곳에서 무한대가 된다.

실험 결과

연구 질문

• RQ1 진짜 분포와 모델 분포가 거의 동일할 때 f-발산은 어떻게 행동하는가?
• RQ2 f-발산이 스케일 인자에 따라 일치하는 정확한 수학적 조건은 무엇인가?
• RQ3 왜 저차원 생성자를 가진 표준 GAN은 무한 발산과 기울기 소실 현상을 겪는가?
• RQ4 비판자와 생성자 갱신을 분리함으로써 f-GAN 훈련을 일반화하여 안정성을 향상시킬 수 있는가?
• RQ5 생성자에 노이즈를 주입했을 때 모델 분포의 지지 집합과 f-발산 계산의 타당성에 어떤 영향을 미치는가?

주요 결과

• 모든 f-발산은 p ≈ q일 경우 스케일 인자 f''(1)에 따라 일치하며, 이는 표준 f-발산이 국소적으로 구별 불가능하다는 것을 의미한다.
• f-발산에 대한 변분 하한은 볼록 쌍대성의 도움으로 도출되며, 이는 비판자 네트워크가 로그우도비율 log p(x)/q(x)를 학습한다는 것을 보여준다.
• 생성자 지지 집합이 저차원일 경우, 모든 f-발산은 정의되지 않거나 기울기가 0으로 포화 상태에 도달하여 훈련 실패를 초래한다.
• 생성자에 노이즈를 주입함으로써 출력 공간 전체에 대해 전체 지지 집합을 확보하여 무한 발산을 제거하고 유효한 f-발산 계산을 가능하게 한다.
• 역 KL을 생성자에, 젠슨-쇼너 발산을 비판자에 사용하는 하이브리드 f-GAN 훈련 체계는 안정성을 향상시키며, 동시에 역 KL을 약간 최소화한다.
• 비판자가 다른 f-함수에서 훈련된 경우에도 f-발산의 기울기는 비판자 네트워크의 기울기와 일치함을 보여주며, 이는 업데이트 규칙의 변화에 대한 강건성을 시사한다.