[논문 리뷰] Adversarial Training Methods for Semi-Supervised Text Classification

Takeru Miyato, Andrew M. Dai외 1명|arXiv (Cornell University)|2016. 05. 25.

Adversarial Robustness in Machine Learning참고 문헌 29인용 수 201

한 줄 요약

저자들은 단어 임베딩을 교란하여 RNN에서 적대적 학습과 가상 적대적 학습을 텍스트에 확장하고, 다수의 반지도학습 및 지도학습 텍스트 작업에서 최첨단 결과를 달성했습니다. IMDB에서의 5.91% 테스트 오류는 강력한 성능을 보여줍니다.

ABSTRACT

Adversarial training provides a means of regularizing supervised learning algorithms while virtual adversarial training is able to extend supervised learning algorithms to the semi-supervised setting. However, both methods require making small perturbations to numerous entries of the input vector, which is inappropriate for sparse high-dimensional inputs such as one-hot word representations. We extend adversarial and virtual adversarial training to the text domain by applying perturbations to the word embeddings in a recurrent neural network rather than to the original input itself. The proposed method achieves state of the art results on multiple benchmark semi-supervised and purely supervised tasks. We provide visualizations and analysis showing that the learned word embeddings have improved in quality and that while training, the model is less prone to overfitting. Code is available at https://github.com/tensorflow/models/tree/master/research/adversarial_text.

연구 동기 및 목표

• 반지도 텍스트 분류를 위한 강건한 정규화의 필요성과 동기를 제시한다.
• 이산 토큰이 아닌 임베딩을 교란하여 고차원 희소한 텍스트 입력에 적대적 학습을 적용한다.
• 다양한 텍스트 분류 벤치마크에서 실험적 성능 향상을 보여준다.
• 적대적 학습이 단어 임베딩과 모델 일반화에 미치는 영향을 분석한다.

제안 방법

• 경계(norm)이 제한된 임베딩을 교란하여 텍스트 입력에 대한 적대적 예를 생성한다.
• 로그 p(y|s;θ)의 기울기를 이용해 정규화된 임베딩 시퀀스에서 r_adv를 정의한다.
• 라벨이 없는 데이터를 사용해 로컬 출력 분포의 매끄러움을 촉진하기 위해 KL 발산을 이용해 r_vadv를 정의한다.
• 유사 표기된 데이터와 비표기 데이터 모두에서 순환 신경망 기반 언어 모델로 임베딩과 LSTM을 사전 학습한다.
• 표준 손실과 L_adv 및/또는 L_vadv를 포함하는 결합 목적함수로 학습한다.
• 단방향 및 양방향 LSTM를 사용하여 여러 데이터셋(IMDB, Elec, Rotten Tomatoes, DBpedia, RCV1)에서 평가한다.

실험 결과

연구 질문

• RQ1 적대적 학습이 텍스트 분류기의 일반화와 강인성을 향상시키는가?
• RQ2 가상 적대적 학습이 비표기 데이터를 활용한 반지도 텍스트 분류에 이점을 확장할 수 있는가?
• RQ3 적대적 교란이 학습된 단어 임베딩 및 모델 표현에 어떤 영향을 미치는가?
• RQ4 제안된 방법이 다양한 데이터셋에서 최첨단의 감독 및 반지도 텍스트 분류 방법과 어떻게 비교되는가?

주요 결과

• IMDB에서 가상 적대적 학습은 5.91%의 테스트 오차를 달성하여 단방향 LSTM를 사용하면서도 최첨단에 근접합니다.
• 적대적 학습만으로는 과적합을 줄이고 baseline 대비 강인성을 향상시키며, 적대적 학습과 가상적대적 학습의 결합은 경쟁력 있는 결과를 제공합니다.
• Elec와 RCV1에서 본 방법은 최첨단 성능에 도달하거나 이를 상회하며, Adversarial+Virtual Adversarial는 Elec에서 5.40%, RCV1에서는 구성에 따라 6.68–6.97%를 달성합니다.
• Rotten Tomatoes에서 적대적 접근은 baseline 대비 개선(16.6–16.8% vs. 17.9%)을 보이나, 가상 적대적 학습은 단문 라벨 데이터로 인해 오히려 성능이 떨어질 수 있습니다.
• DBpedia에서 적대적 및 가상 적대적 학습은 baseline 0.90% 대비 오차를 각각 0.79%와 0.76%로 개선합니다.
• 적대적/가상적대적 학습으로 학습된 임베딩은 의미적 분리가 향상되어(예: ‘good’과 ‘bad’ 이웃 간의 구분) baseline 및 무작위 교란에 비해 개선됩니다.