[논문 리뷰] Stabilizing Adversarial Nets With Prediction Methods

Abhay Kumar Yadav, Sohil Shah외 3명|arXiv (Cornell University)|2017. 05. 20.

Adversarial Robustness in Machine Learning인용 수 10

한 줄 요약

이 논문은 훈련 중 생성자에서의 향후 매개변수 업데이트를 예측함으로써 적대적 신경망의 안정화를 위한 예측 기반 방법을 제안한다. 판별자 업데이트 이전에 다음 생성자 가중치를 예측함으로써, 이 방법은 훈련을 안정화시키고, 더 큰 학습률을 허용하며, 네트워크 붕괴를 방지한다. 이는 합성 및 실제 데이터셋에서 표준 GAN과 언롤드 GAN보다 모드 커버리지와 인ception 스코어 측면에서 뛰어난 성능을 보임을 입증하였다.

ABSTRACT

Adversarial neural networks solve many important problems in data science, but are notoriously difficult to train. These difficulties come from the fact that optimal weights for adversarial nets correspond to saddle points, and not minimizers, of the loss function. The alternating stochastic gradient methods typically used for such problems do not reliably converge to saddle points, and when convergence does happen it is often highly sensitive to learning rates. We propose a simple modification of stochastic gradient descent that stabilizes adversarial networks. We show, both in theory and practice, that the proposed method reliably converges to saddle points, and is stable with a wider range of training parameters than a non-prediction method. This makes adversarial networks less likely to "collapse," and enables faster training with larger learning rates.

연구 동기 및 목표

• 경사하강/상승 최적화 과정에서 발생하는 안정성 문제와 빈번한 붕괴 현상을 해결하기 위해.
• 교대적 경사하강/상승 과정의 안정성을 높여 수렴 신뢰도를 향상시키기 위해.
• 손실 곡면을 붕괴시키지 않으면서도 더 큰 학습률을 사용해 더 빠른 훈련을 가능하게 하기 위해.
• 특히 학습률 선택과 같은 하이퍼파rameter 설정에 대한 민감도를 줄이기 위해.
• 낮은 배치 크기 및 고모드 상황에서 특히 효과적인 생성 모델의 모드 커버리지 향상하기 위해.

제안 방법

• 모멘텀 방향이 일정하다는 가정 하에, 향후 생성자 가중치 $\bar{u}^{k+1}$ 를 $u^{k+1} + (u^{k+1} - u^k)$ 로 추정하는 예측 단계를 도입한다.
• 표준 교대 SGD를 수정하여, 현재 $u^{k+1}$ 가 아닌 예측된 생성자 가중치 $\bar{u}^{k+1}$ 를 사용해 판별자 업데이트를 계산한다.
• 예측 단계를 Adam 최적화기 프레임워크 내에 통합하여 모멘텀과 적응형 학습률을 유지한다.
• 표준 GAN 목표 $\min_u \max_v \mathcal{L}(u,v)$ 를 유지하나, 생성자 궤적의 예측 전행을 통해 훈련을 안정화시킨다.
• 이 방법은 기존 훈련 파ip라인에 최소한의 코드 수정으로 통합 가능하며 일반적인 적용이 가능하다.
• 이론적 분석을 통해 온건한 가정 하에 특정 종류의 안정점 문제에 대해 점근적 안정성을 보여준다.

실험 결과

연구 질문

• RQ1 간단한 예측 단계가 적대적 네트워크 훈련의 안정성을 향상시킬 수 있는가?
• RQ2 향후 생성자 가중치를 예측하면 학습률 선택에 대한 민감도가 감소하는가?
• RQ3 제안된 방법이 낮은 배치 크기 조건에서도 GAN의 모드 붕괴를 방지할 수 있는가?
• RQ4 예측 방법은 언롤드 GAN과 표준 GAN에 비해 모드 커버리지와 인ception 스코어 측면에서 어떻게 비교되는가?
• RQ5 예측 방법을 통해 더 큰 학습률을 사용해 더 빠른 수렴을 달성할 수 있는가?

주요 결과

• 예측 방법은 GAN 훈련을 성공적으로 안정화시켜, 큰 학습률을 사용하더라도 갑작스러운 손실 붕괴를 방지한다.
• 8개의 가우시안으로 구성된 2차원 토이 데이터셋에서, 예측 방법은 모든 모드를 완전히 복구했으나, 표준 GAN은 모든 모드를 커버하지 못했다.
• 100개의 모드를 가진 원형 가우시안 혼합 분포에서, 예측 방법은 표준 GAN과 언롤드 GAN보다 더 뛰어난 모드 커버리지를 달성했으며, 특히 작은 배치 크기(64)에서 두드러진 성능을 보였다.
• CIFAR-10에서, 예측 방법은 다양한 학습률($0.0002$에서 $0.0008$) 범위에서 안정적인 훈련과 더 높은 인ception 스코어를 유지했으며, 표준 GAN과 언롤드 GAN을 모두 초월했다.
• 128×128 해상도의 ImageNet에서, 예측 방법은 베이스라인 ACGAN보다 더 높고 안정적인 인ception 스코어를 여러 훈련 에포크 동안 유지했다.
• 이 방법을 통해 표준 GAN에서 일반적으로 실패를 초래하는 $\beta_1 = 0.5$ 와 학습률까지 $0.0008$ 로 설정한 상태에서도 안정적인 훈련이 가능했다.