[논문 리뷰] Robustness Verification for Transformers

Zhouxing Shi, Huan Zhang외 3명|arXiv (Cornell University)|2020. 02. 16.

Adversarial Robustness in Machine Learning참고 문헌 50인용 수 35

한 줄 요약

이 논문은 self-attention을 가진 Transformer 모델에 대한 최초의 강건성 검증 방법을 제시하고, 타이트한 선형 경계들을 도출하며, 입력 노이즈에 따른 예측을 인증하기 위해 순전파-역전파 경계 전파를 결합한다.

ABSTRACT

Robustness verification that aims to formally certify the prediction behavior of neural networks has become an important tool for understanding model behavior and obtaining safety guarantees. However, previous methods can usually only handle neural networks with relatively simple architectures. In this paper, we consider the robustness verification problem for Transformers. Transformers have complex self-attention layers that pose many challenges for verification, including cross-nonlinearity and cross-position dependency, which have not been discussed in previous works. We resolve these challenges and develop the first robustness verification algorithm for Transformers. The certified robustness bounds computed by our method are significantly tighter than those by naive Interval Bound Propagation. These bounds also shed light on interpreting Transformers as they consistently reflect the importance of different words in sentiment analysis.

연구 동기 및 목표

• 신경망의 안전성과 해석가능성을 위한 도구로서 강건성 검증을 동기화하고, 특히 복잡한 아키텍처에 대해.
• Transformer의 self-attention을 다룰 수 있는 검증 알고리즘을 개발하여 입력 perturbation 하에서 예측을 인증한다.
• 단순 IBP보다 더 타이트한 경계(bound)를 산출하고 NLP 작업에서 단어 중요도에 대한 해석 가능한 통찰을 제공한다.
• 감정 분석 데이터셋에 대한 적용 가능성을 보여주고 제안된 방법의 효율성과 타이트함을 분석한다.

제안 방법

• 입력 교란 하에서 뉴런 출력의 하한 및 상한을 전파하기 위해 선형-relaxation 프레임워크를 채택한다.
• 교차-비선형성을 다루기 위해 dot product, softmax, 가중합에 대한 해석적 선형 경계를 도출하여 self-attention을 처리한다.
• 복잡성을 줄이기 위해 self-attention에 대한 순전파 경계 전파 프로세스를 도입하고, 더 타이트한 경계를 위한 역방향 프로세스를 도입한다.
• 순전파 및 역전파 경계 전파를 결합하여 O(m^2 n) 경계 행렬을 얻고, O(m^2 n^2)에서의 복잡성을 크게 줄인다.
• 선형 변환과 일변수 비선형성(unary nonlinearities)을 통해 경계를 역전파하고, CROWN 유사 경계를 Transformers에 확장한다.

실험 결과

연구 질문

• RQ1 입력 시퀀스에 대한 작은 섭동 하에서 Transformer 기반 모델의 강건성이 인증될 수 있는가?
• RQ2 위상 간 의존성과 교차 비선형성을 포함하는 self-attention을 통해 선형 경계를 어떻게 효율적으로 전파할 수 있는가?
• RQ3 결과로 얻은 인증된 경계가 감정 분석과 같은 과제에서 입력 단어의 중요성을 의미 있게 반영하는가?

주요 결과

• Transformer 모델에 대한 인증된 강건성 경계는 Interval Bound Propagation(IBP)에 비해 현저히 더 타이트하다.
• 순전파 경계와 역전파 경계의 조합은 전체 역전파에 비해 계산 시간이 감소하면서도 경쟁력 있는 타이트함을 보인다.
• 이 방법은 소형 Transformer 변종으로 확장 가능하고 감정 분석에서 단어 중요성과 상관된 경계를 산출한다.
• Yelp 및 SST 데이터셋에 대한 실험 결과는 대형 사전학습 모델에 의존하지 않고도 의미 있고 해석 가능한 강건성 인증서를 보여준다.
• 경계는 상한 경계와의 격차가 합리적이며, 더 간단한 네트워크의 검증과 비슷한 실용적 활용도를 시사한다.