[論文レビュー] Virtual Adversarial Training: A Regularization Method for Supervised and Semi-Supervised Learning

Takeru Miyato, Shin‐ichi Maeda+2 more|arXiv (Cornell University)|Apr 13, 2017

Adversarial Robustness in Machine Learning参考文献 25被引用数 218

ひとこと要約

本論文は Virtual Adversarial Training (VAT) を紹介する。入力値を仮想敵対的方向に摂動させることでモデルの出力分布を入力周囲で平滑化する正則化手法であり、少数のハイパーパラメータで効果的な監視付きおよび半監視学習を可能にする。

ABSTRACT

We propose a new regularization method based on virtual adversarial loss: a new measure of local smoothness of the conditional label distribution given input. Virtual adversarial loss is defined as the robustness of the conditional label distribution around each input data point against local perturbation. Unlike adversarial training, our method defines the adversarial direction without label information and is hence applicable to semi-supervised learning. Because the directions in which we smooth the model are only "virtually" adversarial, we call our method virtual adversarial training (VAT). The computational cost of VAT is relatively low. For neural networks, the approximated gradient of virtual adversarial loss can be computed with no more than two pairs of forward- and back-propagations. In our experiments, we applied VAT to supervised and semi-supervised learning tasks on multiple benchmark datasets. With a simple enhancement of the algorithm based on the entropy minimization principle, our VAT achieves state-of-the-art performance for semi-supervised learning tasks on SVHN and CIFAR-10.

研究の動機と目的

• ラベルを必要とせず、p(y|x) の局所的な分布平滑性をターゲットにする正則化概念を導入する。
• 未ラベルデータ上で定義された仮想敵対方向を用いることで、半監視学習へ正則化を拡張する。
• 計算オーバーヘッドが小さいニューラルネットワークに適した効率的なアルゴリズムを提供する。
• 標準ベンチマーク（例：MNIST、CIFAR-10、SVHN など）で最先端または競争力のある結果を示し、ハイパーパラメータの影響を分析する。

提案手法

• 局所的分布平滑性（LDS）を、入力の摂動に対して p(y|x) がどれだけ変化するかを示す発散度（divergence）ベースの測度として定義する。
• 真のラベルを必要とせず、p(y|x, theta) と p(y|x+r, theta) の発散度を最大化する仮想敵対的摂動 r_vadv を導入する。
• 未ラベルデータにおける未知のラベル分布 q(y|x) の代替として、現在のモデル出力 p(y|x, theta) を用いる（仮想ラベル）。
• 入力に関する勾配を計算するためのバックプロパゲーションを用いたべき反復法のような手法で、r_vadv を効率的に近似する。
• 標準のネガティブ対数尤度と、全入力に対して LDS を平均化する正則化項を組み合わせた VAT 目的関数を形成し、epsilon と alpha の小さなハイパーパラメータセットで制御する。
• RPT（Random Perturbation Training）および従来の敵対的訓練との違いと利点を説明し、パラメータ化不変性とヘッセ行列の支配方向へのスペクトル的焦点を強調する。

実験結果

リサーチクエスチョン

• RQ1 局所的分布平滑性に基づく正則化は、監視付き学習における汎化性能を改善できるか。
• RQ2 同じ正則化を未ラベルデータを用いた半監視学習に効果的に適用できるか。
• RQ3 仮想敵対方向に平滑化を集中させる（等方的な摂動と比較して）ことで、性能と安定性が向上するか。
• RQ4 ニューラルネットワークへ VAT を適用する際の実用的なハイパーパラメータと計算コストは何か。
• RQ5 標準ベンチマークでの最先端半監視法と比較して VAT はどうか。

主な発見

• VAT は MNIST および CIFAR-10 で、同時代の正則化手法と比べて優れた、または競争力のある性能を達成する。
• エントロピー最小化を組み込んだ VAT は、半監視学習において SVHN および CIFAR-10 で最先端の結果を達成する。
• VAT アルゴリズムはスカラー型ハイパーパラメータが2つだけ必要で、計算オーバーヘッドは低く、標準的な訓練コストの約3倍程度。
• べき反復（power-iteration）ベースの近似により、追加のバックプロパゲーションを最小限に抑えつつ仮想敵対的摂動を効率的に計算できる。
• VAT はモデルの局所出力分布の最も異方性な方向に平滑化を集中させることで、RPT を上回る。
• この手法は微分可能な任意のモデルに適用可能で、未ラベルデータのラベル情報なしの半監視学習をサポートする。