[논문 리뷰] TextAT: Adversarial Training for Natural Language Understanding with Token-Level Perturbation

Linyang Li, Xipeng Qiu|arXiv (Cornell University)|2020. 04. 30.

Topic Modeling참고 문헌 28인용 수 12

한 줄 요약

이 논문은 자연어 이해를 위한 토큰 수준의 적대적 훈련 방법인 TextAT을 제안한다. 이 방법은 토큰 수준에서 미세한, 제약 조건이 있는 변형을 사용하여 모델의 견고성을 향상시킨다. 연속적인 벡터 노름이 아닌 이산적 토큰 의미에 맞는 정규화를 적용함으로써, TextAT은 최신의 Transformer 기반 모델을 사용한 GLUE 및 NER 벤치마크에서 성능을 향상시킨다.

ABSTRACT

Adversarial training is effective in improving the robustness of neural networks. In NLP, languages are discrete in nature, separate tokens possess discrete semantics. Therefore, to incorporate adversarial training in sequence-level tasks, we introduce a novel training strategy: Text Adversarial Training with token-level perturbation. We fist craft perturbations that are initialized using a fine-grained token-level accumulated perturbations. Then we constrain these perturbations considering that inputs are separate tokens, rather than constraining them under a naive normalization ball. We validate the effectiveness of such normalization method using large-scale Transformer-based language models. Experiments on GLUE benchmark and NER task show that our adversarial training strategy improves the performances on various tasks including text classification and sequence labeling.

연구 동기 및 목표

• 적대적 훈련을 이산적이고 토큰 기반의 자연어 시퀀스에 적용하는 데 도전하는 것.
• 토큰의 이산적 성격을 고려한 변형을 설계하여 자연어 이해 작업에서 모델의 견고성을 향상시키는 것.
• 표준 L2 또는 L∞ 노름이 아닌, 토큰 수준에서의 제약 조건을 갖는 정규화 전략을 개발하는 것.
• 다양한 자연어 이해 작업에서 대규모 Transformer 기반 모델에 대해 제안된 방법의 효과성을 검증하는 것.

제안 방법

• 적대적 예제 생성을 안내하기 위해 토큰 수준의 누적 기울기를 사용하여 변형을 초기화한다.
• 이국적인 정규화 제약 조건을 적용하여 개별 토큰의 이산적 의미를 존중하며, 단순한 벡터 노름 제약 조건을 피한다.
• 의미적 일관성과 언어적 타당성을 유지하면서 토큰을 변형하여 적대적 예제를 생성한다.
• 이러한 변형된 예제를 표준 훈련 루프에 통합하여 일반화 능력을 향상시키는 적대적 훈련 파이프라인을 구현한다.
• 이 방법은 대규모 Transformer 기반 모델과 호환되며, 텍스트 분류 및 시퀀스 레이블링과 같은 시퀀스 수준 작업에 적용된다.

실험 결과

연구 질문

• RQ1 어떻게 자연어의 이산적이고 토큰 수준의 구조에 적대적 훈련을 효과적으로 적용할 수 있는가?
• RQ2 효과적인 적대적 변형을 생성할 때 의미의 무결성을 유지하면서 가장 적합한 정규화 전략은 무엇인가?
• RQ3 토큰 수준의 변형이 표준 자연어 이해 벤치마크에서 견고성과 성능을 향상시킬 수 있는가?
• RQ4 제안된 방법은 정확도와 견고성 측면에서 표준 적대적 훈련 기반 방법과 비교하여 어떻게 성과를 내는가?

주요 결과

• TextAT은 토큰 수준의 변형을 사용한 적대적 훈련을 통해 GLUE 벤치마크에서 모델 성능을 향상시켰다.
• 이 방법은 다양한 텍스트 분류 및 시퀀스 레이블링 작업에서 일관된 성능 향상을 달성했다.
• 제안된 정규화 전략은 의미 일관성과 의미 그대로의 유지와 함께 변형을 효과적으로 제약 조건에 둔다.
• 실험 결과, 토큰 수준의 적대적 훈련 전략이 표준 벤치마크에서 성능을 손상시키지 않으면서 견고성을 향상시킨다는 것이 입증되었다.