[논문 리뷰] Adversarial GLUE: A Multi-Task Benchmark for Robustness Evaluation of Language Models

Boxin Wang, Chejian Xu외 6명|arXiv (Cornell University)|2021. 11. 04.

Adversarial Robustness in Machine Learning참고 문헌 59인용 수 47

한 줄 요약

이 논문은 GLUE 작업에 14종류의 텍스트 적대적 공격 방법을 적용하여 인간 검증된 태그가 부여된 고품질의 다중 작업 벤치마크인 Adversarial GLUE(AdvGLUE)를 소개한다. 주요 기여는 기존 공격 방법이 대부분 의미적으로 왜곡된 예제를 생성한다는 점이며, 또한 심지어 강건한 모델조차도 AdvGLUE에서 성능이 떨어진다는 점을 드러내어 최신 언어 모델의 핵심적인 강건성 격차를 드러낸다.

ABSTRACT

Large-scale pre-trained language models have achieved tremendous success across a wide range of natural language understanding (NLU) tasks, even surpassing human performance. However, recent studies reveal that the robustness of these models can be challenged by carefully crafted textual adversarial examples. While several individual datasets have been proposed to evaluate model robustness, a principled and comprehensive benchmark is still missing. In this paper, we present Adversarial GLUE (AdvGLUE), a new multi-task benchmark to quantitatively and thoroughly explore and evaluate the vulnerabilities of modern large-scale language models under various types of adversarial attacks. In particular, we systematically apply 14 textual adversarial attack methods to GLUE tasks to construct AdvGLUE, which is further validated by humans for reliable annotations. Our findings are summarized as follows. (i) Most existing adversarial attack algorithms are prone to generating invalid or ambiguous adversarial examples, with around 90% of them either changing the original semantic meanings or misleading human annotators as well. Therefore, we perform a careful filtering process to curate a high-quality benchmark. (ii) All the language models and robust training methods we tested perform poorly on AdvGLUE, with scores lagging far behind the benign accuracy. We hope our work will motivate the development of new adversarial attacks that are more stealthy and semantic-preserving, as well as new robust language models against sophisticated adversarial attacks. AdvGLUE is available at https://adversarialglue.github.io.

연구 동기 및 목표

• 대규모 언어 모델에 대한 텍스트 적대적 공격에 대비한 원칙적이고 종합적인 벤치마크 부족 문제를 해결하기 위해.
• 14종의 적대적 공격 방법을 GLUE 작업에 체계적으로 적용하여 다양하고 대표적인 벤치마크를 생성하기 위해.
• 인간 평가를 통해 적대적 예제를 걸러내어 의미적 충실도를 확보하고 오해의 소지가 있거나 잘못된 예제를 방지하기 위해.
• 현실적이고 고품질의 적대적 예제에 대해 현재의 언어 모델과 강건한 훈련 방법의 취약성을 드러내기 위해.
• 더 스텔스성 있고 의미를 유지하는 공격 방법과 더 강건한 언어 모델 개발을 촉진하기 위해.

제안 방법

• GLUE 벤치마크의 모든 작업에 대해 14종의 서로 다른 텍스트 적대적 공격 방법을 적용하여 적대적 예제를 생성하기 위해.
• 인간 평가자들이 의미적으로 변경되었거나 모호한 것으로 판단한 적대적 예제를 제거하는 철저한 걸러내기 파이프라인을 구현하기 위해.
• 최종 적대적 예제의 품질을 확보하기 위해 인간 평가를 통해 검증하여 고품질, 신뢰할 수 있고 의미 있는 변형을 보장하기 위해.
• GLUE의 원래 작업 분포와 평가 프로토콜을 유지하는 다중 작업 벤치마크(AdvGLUE)를 구축하기 위해.
• AdvGLUE에서 적대적 조건 하에서의 성능 저하를 측정하기 위해 사전 학습 및 강건하게 미세조정된 여러 언어 모델을 평가하기 위해.
• 적대적 예제의 원본과의 의미 유사도와 평가자들을 오도할 잠재력을 평가하기 위해 인간 평가를 활용하기 위해.

실험 결과

연구 질문

• RQ1 기존의 적대적 공격 방법이 원래 의미를 유지하고 인간에게 오해의 소지가 없는 적대적 예제를 얼마나 잘 생성하는가?
• RQ2 표준 GLUE 작업에서의 성능과 비교하여 최신 언어 모델이 고품질의 인간 검증된 적대적 벤치마크에서 어떻게 성능을 내는가?
• RQ3 다양한 모델 아키텍처와 강건한 훈련 방법에 대해 AdvGLUE에서의 정상 정확도와 강건성 간 격차는 어느 정도인가?
• RQ4 의미적 변형이 모델 성능에 어떤 영향을 미치며, 이는 현재 모델의 취약성을 어떻게 드러내는가?
• RQ5 AdvGLUE처럼 다중 작업이며 인간 검증된 벤치마크가 모델 강건성 평가 및 향상에 신뢰할 수 있는 기준이 될 수 있는가?

주요 결과

• 기존 공격 방법이 생성한 약 90%의 적대적 예제가 원래 의미를 왜곡하거나 인간 평가자들을 오해하게 하므로, 현재 공격 방법의 품질이 열악함을 시사한다.
• 인간 평가를 거친 후 생성된 AdvGLUE 벤치마크는 고품질의 의미적으로 충실한 적대적 예제만 포함되어 있어 신뢰할 수 있는 평가를 보장한다.
• 강건한 훈련 기법으로 미세조정된 언어 모델을 포함한 모든 평가된 모델이 AdvGLUE에서 원래 GLUE 정확도보다 성능이 크게 떨어진다.
• AdvGLUE에서의 성능 격차는 크며, 이는 현재의 강건성 기법이 잘 설계된 의미 유지 적대적 예제에는 충분하지 않음을 시사한다.
• 결과는 더 스텔스성이고 의미를 유지하는 새로운 적대적 공격 방법과 개선된 강건한 훈련 전략의 필요성을 강력히 암시한다.
• AdvGLUE는 https://adversarialglue.github.io 에 공개되어 향후 모델 강건성 연구를 지원한다.