[论文解读] Virtual Adversarial Training: A Regularization Method for Supervised and Semi-Supervised Learning

Takeru Miyato, Shin‐ichi Maeda+2 more|arXiv (Cornell University)|Apr 13, 2017

Adversarial Robustness in Machine Learning参考文献 25被引用 218

一句话总结

本文提出了虚拟对抗训练（VAT），一种正则化技术，通过在虚拟对抗方向扰动输入，平滑模型在输入周围的输出分布，从而在少量超参数的情况下实现有效的监督与半监督学习。

ABSTRACT

We propose a new regularization method based on virtual adversarial loss: a new measure of local smoothness of the conditional label distribution given input. Virtual adversarial loss is defined as the robustness of the conditional label distribution around each input data point against local perturbation. Unlike adversarial training, our method defines the adversarial direction without label information and is hence applicable to semi-supervised learning. Because the directions in which we smooth the model are only "virtually" adversarial, we call our method virtual adversarial training (VAT). The computational cost of VAT is relatively low. For neural networks, the approximated gradient of virtual adversarial loss can be computed with no more than two pairs of forward- and back-propagations. In our experiments, we applied VAT to supervised and semi-supervised learning tasks on multiple benchmark datasets. With a simple enhancement of the algorithm based on the entropy minimization principle, our VAT achieves state-of-the-art performance for semi-supervised learning tasks on SVHN and CIFAR-10.

研究动机与目标

• 引入一种正则化概念，目标是 p(y|x) 的局部分布平滑性，而不需要标签。
• 通过在未标记数据上定义的虚拟对抗方向，将正则化扩展到半监督学习。
• 提供一种适用于神经网络、计算开销低的高效算法。
• 在标准基准数据集（如 MNIST、CIFAR-10、SVHN）上展示最先进或具竞争力的结果，并分析超参数的影响。

提出的方法

• 将局部分布平滑性（LDS）定义为一个发散度基础的度量，用于衡量输入扰动下 p(y|x) 变化的程度。
• 引入虚拟对抗扰动 r_vadv，使 p(y|x, theta) 与 p(y|x+r, theta) 之间的发散度最大化，而无需真实标签。
• 在未标记数据中，使用当前模型输出 p(y|x, theta) 作为未知标签分布 q(y|x) 的替代（虚拟标签）。
• 通过类似幂迭代的方法高效近似 r_vadv，利用反向传播计算相对于输入的梯度。
• 通过将常规负对数似然与对所有输入求平均的正则化项相结合来形成 VAT 目标，受少量超参数（epsilon 和 alpha）控制。
• 解释与随机扰动训练（RPT）和经典对抗训练的差异与优点，强调参数化不变性以及对 Hessian 的特征值分布中支配方向的谱聚焦。

实验结果

研究问题

• RQ1 基于局部分布平滑性的正则化是否能改善监督学习中的泛化？
• RQ2 是否可以将同样的正则化有效应用于使用未标记数据的半监督学习？
• RQ3 将平滑聚焦于虚拟对抗方向（相对于各向同性扰动）是否能带来更好的性能和稳定性？
• RQ4 在将 VAT 应用于神经网络时，实际的超参数和计算成本有哪些？
• RQ5 VAT 与标准基准上的最先进半监督方法相比如何？

主要发现

• VAT 相对于当代正则化方法，在 MNIST 和 CIFAR-10 上取得优越或具竞争力的表现。
• 结合熵最小化扩展的 VAT 在半监督学习的 SVHN 与 CIFAR-10 上达到最先进的结果。
• VAT 算法仅需两个标量超参数，且计算开销低（大约是标准训练成本的三倍）。
• 基于幂迭代的近似使得在最少额外反向传播的情况下高效计算虚拟对抗扰动。
• VAT 通过将平滑聚焦在模型局部输出分布的最各向异方向上，优于随机扰动训练（RPT）。
• 该方法可应用于任何可微分模型，且支持在未标记数据上进行半监督学习而无需标签信息。