[논문 리뷰] Distributional Smoothing with Virtual Adversarial Training

Takeru Miyato, Shin‐ichi Maeda외 3명|arXiv (Cornell University)|2016. 01. 01.

Adversarial Robustness in Machine Learning인용 수 266

한 줄 요약

이 논문은 가상의 적대적 훈련(VAT)을 소개한다. VAT는 레이블 정보를 사용하지 않고 모델 예측만을 이용해 무라벨 데이터의 변형에 대한 모델의 강건성을 최적화함으로써 국소 분포의 부드러움을 강제하는 준지도 학습 방법이다. VAT는 MNIST, SVHN, NORB에서 최신 기술 수준의 성능을 달성하였으며, 매우 복잡한 생성 모델을 제외한 기존 방법들보다 뛰어난 성능을 보였다.

ABSTRACT

Abstract: We propose local distributional smoothness (LDS), a new notion of smoothness for statistical model that can be used as a regularization term to promote the smoothness of the model distribution. We named the LDS based regularization as virtual adversarial training (VAT). The LDS of a model at an input datapoint is defined as the KL-divergence based robustness of the model distribution against local perturbation around the datapoint. VAT resembles adversarial training, but distinguishes itself in that it determines the adversarial direction from the model distribution alone without using the label information, making it applicable to semi-supervised learning. The computational cost for VAT is relatively low. For neural network, the approximated gradient of the LDS can be computed with no more than three pairs of forward and back propagations. When we applied our technique to supervised and semi-supervised learning for the MNIST dataset, it outperformed all the training methods other than the current state of the art method, which is based on a highly advanced generative model. We also applied our method to SVHN and NORB, and confirmed our method's superior performance over the current state of the art semi-supervised method applied to these datasets.

연구 동기 및 목표

• 레이블 정보에 의존하지 않고 국소 분포 부드러움을 강제함으로써 모델의 일반화 능력을 향상시키는 정규화 기법을 개발하는 것.
• 국소 변형에 대한 강건성을 통해 무라벨 데이터를 효과적으로 활용함으로써 준지도 학습을 가능하게 하는 것.
• 표준 역전파 외에 추가로 최소한의 계산 비용을 요구하는 계산적으로 효율적인 방법을 설계하는 것.
• MNIST, SVHN, NORB와 같은 표준 시각 데이터셋에서 기존 준지도 학습 방법들을 능가하는 성능을 달성하는 것.

제안 방법

• 국소 분포 부드러움(LDS)을 제안하며, 이는 주어진 입력 주변의 소규모 변형 후 모델의 출력 분포와 원래 출력 분포 간의 KL 발산으로 정의된다.
• 레이블에 의존하지 않고 모델 자체의 예측 분포를 이용해 가장 해로운 변형 방향을 결정한다.
• 최대 세 번의 전방 및 역방향 전파를 사용해 LDS의 근사 기울기를 계산함으로써 효율적인 최적화를 가능하게 한다.
• 무라벨 데이터에 대해 LDS 손실을 최소화함으로써 훈련 중 정규화를 적용함으로써 강건성과 일반화를 촉진한다.
• 감독 학습 및 준지도 학습 프레임워크 양쪽에 LDS 정규화를 통합한다.

실험 결과

연구 질문

• RQ1 국소 분포 부드러움을 강제하면 준지도 학습에서 모델의 일반화 능력이 향상되는가?
• RQ2 레이블 정보 없이도 적대적 변형을 생성하여 강건성을 향상시킬 수 있는가?
• RQ3 제안된 방법이 표준 시각 벤치마크에서 기존 준지도 학습 기반 방법보다 더 뛰어난 성능을 내는가?
• RQ4 이 방법의 계산 비용은 표준 훈련 및 다른 적대적 훈련 방법과 비교해 어떻게 되는가?

주요 결과

• VAT는 현재 최고 성능을 기록한 매우 고도화된 생성 모델에 의한 방법을 제외한 모든 훈련 방법보다 MNIST에서 뛰어난 성능을 달성하였다.
• SVHN과 NORB에서 VAT는 당시 최고 성능을 기록한 준지도 학습 방법을 모두 능가하였다.
• 업데이트당 최대 세 번의 전방 및 역방향 전파로만 이루어져 계산적으로 효율적이었다.
• 모델의 국소 변형에 대한 강건성이 특히 라벨 데이터가 적은 환경에서 일반화 능력을 크게 향상시켰다.