[논문 리뷰] Virtual Adversarial Training: A Regularization Method for Supervised and Semi-Supervised Learning

Takeru Miyato, Shin‐ichi Maeda외 2명|arXiv (Cornell University)|2017. 04. 13.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 218

한 줄 요약

본 논문은 Virtual Adversarial Training (VAT)을 소개한다. 이는 입력을 가상 적대 방향으로 교란시켜 모델의 출력 분포를 입력 주변에서 매끄럽게 만들어, 적은 하이퍼파라미터로 감독 학습 및 준지도 학습을 효과적으로 가능하게 하는 정규화 기법이다.

ABSTRACT

We propose a new regularization method based on virtual adversarial loss: a new measure of local smoothness of the conditional label distribution given input. Virtual adversarial loss is defined as the robustness of the conditional label distribution around each input data point against local perturbation. Unlike adversarial training, our method defines the adversarial direction without label information and is hence applicable to semi-supervised learning. Because the directions in which we smooth the model are only "virtually" adversarial, we call our method virtual adversarial training (VAT). The computational cost of VAT is relatively low. For neural networks, the approximated gradient of virtual adversarial loss can be computed with no more than two pairs of forward- and back-propagations. In our experiments, we applied VAT to supervised and semi-supervised learning tasks on multiple benchmark datasets. With a simple enhancement of the algorithm based on the entropy minimization principle, our VAT achieves state-of-the-art performance for semi-supervised learning tasks on SVHN and CIFAR-10.

연구 동기 및 목표

• 레이블이 필요하지 않으면서 p(y|x)의 국소 분포적 매끄러움(local distributional smoothness)을 목표로 하는 정규화 개념을 도입한다.
• 레이블이 없는 데이터에서 정의된 가상 적대 방향을 사용하여 정규화를 반지도 학습으로 확장한다.
• 저비용 계산으로 신경망에 적합한 효율적인 알고리즘을 제공한다.
• 표준 벤치마크(MNIST, CIFAR-10, SVHN 등)에서 최첨단 또는 경쟁력 있는 결과를 보여주고 하이퍼파라미터의 영향를 분석한다.

제안 방법

• 로컬 분포 매끄러움(LDS)을 입력의 변화에 따른 p(y|x)의 발산(발산 기반) 측정으로 정의한다.
• 진짜 라벨이 필요하지 않은 상태에서 p(y|x, theta)와 p(y|x+r, theta) 간의 발산을 최대화하는 가상 적대 교란 r_vadv를 도입한다.
• 은 unlabeled data에서 알려지지 않은 라벨 분포 q(y|x)의 대리로 현재 모델 출력 p(y|x, theta)를 사용한다(가상 라벨).
• 입력에 대한 기울기를 계산하기 위해 역전파를 사용하는 파워 반복(pseudo) 방법과 유사한 방법으로 r_vadv를 효율적으로 근사한다.
• 표준 음의 로그우도(음의 로그 가능도)와 모든 입력에 걸친 LDS를 평균화하는 정규화를 결합하여 VAT 목표를 형성하고, 이는 소수의 하이퍼파라미터(epsilon 및 alpha)에 의해 제어된다.
• RPT(Random Perturbation Training) 및 고전적 적대적 학습과의 차이점과 이점을 설명하고 매개변수화 불변성과 Hessian의 지배 방향에 대한 스펙트럴 초점에 주목한다.

실험 결과

연구 질문

• RQ1 감독 학습에서 로컬 분포 매끄러움에 기반한 정규화가 일반화를 향상시킬 수 있는가?
• RQ2 ,
• RQ3 같은 정규화가 unlabeled 데이터를 활용한 준지도 학습에 효과적으로 적용될 수 있는가?
• RQ4 가상 적대 방향에 초점을 맞춘 매끄러화가(등방성 교란 대비) 더 나은 성능과 안정성을 제공하는가?
• RQ5 신경망에 VAT를 적용할 때의 실용적 하이퍼파라미터 및 계산 비용은 어느 정도인가?
• RQ6 VAT가 표준 벤치마크에서 최첨단의 준지도 방법과 어떻게 비교되는가?

주요 결과

• VAT는 MNIST 및 CIFAR-10에서 현대의 정규화 방법과 비교하여 우수하거나 경쟁력 있는 성능을 달성한다.
• VAT에 엔트로피 최소화를 결합하면 SVHN 및 CIFAR-10에서 준지도 학습의 최첨단 성능을 달성한다.
• VAT 알고리즘은 두 개의 스칼라 하이퍼파라미터만 필요하고 계산 오버헤드가 낮아(표준 학습의 약 세 배의 비용)다.
• 파워 이터레이션 기반의 근사는 최소한의 추가 역전파로 가상 적대 교란을 효율적으로 계산하게 한다.
• VAT는 모델의 로컬 출력 분포의 가장 비등축 방향에서 매끄러화를 집중시킴으로써 무작위 교란(RPT)을 능가한다.
• 이 방법은 모든 미분 가능한 모델에 적용 가능하며 unlabeled 데이터의 라벨 정보 없이 준지도 학습을 지원한다.