[논문 리뷰] On Catastrophic Forgetting and Mode Collapse in Generative Adversarial Networks

Hoang Thanh-Tung, Truyen Tran|arXiv (Cornell University)|2018. 07. 11.

Generative Adversarial Networks and Image Synthesis인용 수 25

한 줄 요약

이 논문은 생성적 적대적 네트워크(GANs)가 단일 타겟 분포 학습 중에도 치명적 망각(CF)을 겪는다는 것을 드러내며, GAN 학습을 변화하는 생성자 분포가 순차적 과제로 간주하는 지속적 학습 문제로 재구성한다. 저자들은 CF가 생성자 분포의 변화로 인해 판별자(디스criminator)의 실데이터 포인트가 넓은 局부 최대값으로 유지되는 능력을 손상시켜 모드 붕괴와 수렴 불능을 유도함을 보여주며, R1 및 0GP 경사 패널티, 모멘텀 최적화기, 그리고 균형 잡히지 않은 손실 함수를 제안하여 학습 안정성과 일반화 성능을 향상시킨다.

ABSTRACT

In this paper, we show that Generative Adversarial Networks (GANs) suffer from catastrophic forgetting even when they are trained to approximate a single target distribution. We show that GAN training is a continual learning problem in which the sequence of changing model distributions is the sequence of tasks to the discriminator. The level of mismatch between tasks in the sequence determines the level of forgetting. Catastrophic forgetting is interrelated to mode collapse and can make the training of GANs non-convergent. We investigate the landscape of the discriminator's output in different variants of GANs and find that when a GAN converges to a good equilibrium, real training datapoints are wide local maxima of the discriminator. We empirically show the relationship between the sharpness of local maxima and mode collapse and generalization in GANs. We show how catastrophic forgetting prevents the discriminator from making real datapoints local maxima, and thus causes non-convergence. Finally, we study methods for preventing catastrophic forgetting in GANs.

연구 동기 및 목표

• 단일 타겟 분포를 근사하는 상황에서도 생성적 적대적 네트워크(GANs) 학습에서 치명적 망각(CF)을 근본적인 문제로 식별하고 분석하는 것.
• CF, 모드 붕괴, 수렴 불능 간의 관계를 조사하여, GAN 학습이 단일 과제 문제로 간주되는 것에 대한 가정을 도전하는 것.
• CF 상황에서 실데이터 포인트가 판별자의 출력 지형에서 안정적인 국부 최대값이 되지 못하는 이유를 설명하고, 이로 인해 수렴이 어떻게 붕괴되는지 분석하는 것.
• 기존 GAN 학습 기법들(예: WGAN-GP, R1, 0GP, 모멘텀 최적화기)을 CF 방지 관점에서 평가하는 것.
• 실데이터 포인트 표현을 향상시키기 위해 제안된 비균형 손실 함수를 도입하여 계산 비용을 추가로 들지 않으면서도 학습 안정성과 일반화 성능을 향상시키는 것.

제안 방법

• 각 진전하는 생성자 분포가 판별자에게 새로운 과제가 되는 지속적 학습 문제로 GAN 학습을 재구성하는 것.
• 판별자의 출력 지형을 분석하여 실데이터 포인트에 국부 최대값이 존재하는지 확인하고, 그 날카움을 모드 붕괴와 일반화의 지표로 측정하는 것.
• CF를 탐지하기 위해 방향성 단조성 지표를 도입하며, 이는 방향성 단조성을 띤 판별자가 평형에 도달하지 못함을 의미한다.
• 실데이터 포인트에서 경사가 0이 되도록 하는 중심화된 경사 패널티(R1 및 0GP)를 적용하여 판별자에서 넓은 국부 최대값을 촉진하는 것.
• 실데이터에 대해 더 높은 가중치 γ > 1을 부여하는 비균형 손실 함수를 제안하여 실샘플에 대한 낮은 판별자 점수를 방지하고 국부 최소값이 되는 것을 막는 것.
• 비균형 손실을 기존 경사 패널티와 조합하여 학습 안정성과 일반화 성능을 추가로 향상시키는 것.

실험 결과

연구 질문

• RQ1 단일 타겟 분포를 모델링하는 동안 GAN 학습에서도 치명적 망각이 발생하는가?
• RQ2 치명적 망각은 GAN에서 모드 붕괴와 수렴 불능과 어떻게 관련되어 있는가?
• RQ3 판별자의 출력 지형에서 국부 최대값의 날카움과 넓이가 모드 붕괴와 일반화에 어떤 역할을 하는가?
• RQ4 왜 방향성 단조성을 띤 판별자는 GAN 수렴을 방해하는가?
• RQ5 R1, 0GP, 모멘텀 최적화기 등 기존 GAN 학습 기법들이 치명적 망각을 방지하는 메커니즘으로 이해될 수 있는가?

주요 결과

• GAN 학습은 본질적으로 치명적 망각을 수반하며, 단일 타겟 설정에서도 생성자 분포의 변화로 인해 이전 데이터 분포에 대한 판별자의 지식이 소실된다.
• 치명적 망각은 판별자의 출력 지형에서 실데이터 포인트가 넓은 국부 최대값이 되는 것을 방해하여 수렴 불능과 모드 붕괴를 유도한다.
• 좋은 평형에 도달하고 모드 붕괴 없이 수렴하는 GAN에서는 실데이터 포인트가 판별자의 국부 최대값이 되며, 더 날카로운 최대값일수록 모드 붕괴가 심해진다.
• 방향성 단조성을 띤 판별자—CF의 징후—는 안정적인 평형에 도달할 수 없으며, 이는 CF가 수렴 불능의 근본 원인임을 확인한다.
• R1, 0GP 경사 패널티, 모멘텀 최적화기, 그리고 제안된 비균형 손실 함수는 모두 실데이터 포인트 최대값의 안정성 또는 강화를 통해 CF를 완화한다.
• γ > 1인 비균형 손실은 CIFAR-10에서 Inception Score를 크게 향상시키고 점수 변동성을 감소시키며, 추가 계산 비용 없이도 품질과 안정성을 향상시킨다.