[논문 리뷰] Automatic Perturbation Analysis on General Computational Graphs.

Kaidi Xu, Zhouxing Shi외 6명|arXiv (Cornell University)|2020. 02. 28.

Adversarial Robustness in Machine Learning참고 문헌 45인용 수 9

한 줄 요약

이 논문은 일반적인 계산 그래프를 위한 자동 편향 분석 프레임워크를 소개하며, 어떤 신경망 아키텍처이든에서 미분 가능하고 역전파 유사한 선형 경계 계산을 가능하게 한다. CROWN과 같은 선형 이완 방법을 파이토치와 통합된 그래프 기반 알고리즘으로 일반화함으로써, 자동 강건성 검증, 인증된 방어, 그리고 강건한 평탄한 최적화 경계 설계 및 양자화에 강건한 모델 학습과 같은 새로운 응용 분야를 지원한다.

ABSTRACT

Linear relaxation based perturbation analysis for neural networks, which aims to compute tight linear bounds of output neurons given a certain amount of input perturbation, has become a core component in robustness verification and certified defense. However, the majority of linear relaxation based methods only consider feed-forward ReLU networks. While several works extended them to relatively complicated networks, they often need tedious manual derivations and implementation which are arduous and error-prone. Their limited flexibility makes it difficult to handle more complicated tasks. In this paper, we take a significant leap by developing an automatic perturbation analysis algorithm to enable perturbation analysis on any neural network structure, and its computation can be done automatically in a similar manner as the back-propagation algorithm for gradient computation. The main idea is to express a network as a computational graph and then generalize linear relaxation algorithms such as CROWN as a graph algorithm. Our algorithm itself is differentiable and integrated with PyTorch, which allows to optimize network parameters to reshape bounds into desired specifications, enabling automatic robustness verification and certified defense. In particular, we demonstrate a few tasks that are not easily achievable without an automatic framework. We first perform certified robust training and robustness verification for complex natural language models which could be challenging with manual derivation and implementation. We further show that our algorithm can be used for tasks beyond certified defense - we create a neural network with a provably flat optimization landscape and study its generalization capability, and we show that this network can preserve accuracy better after aggressive weight quantization. Code is available at this https URL.

연구 동기 및 목표

• 기존의 선형 이완 방법이 피드포워드 ReLU 네트워크에 국한되어 있고 수작업 유도가 필요하다는 한계를 극복하기 위해.
• 복잡한 수작업 구현 없이도 임의의 신경망 아키텍처에서 자동으로 종단 간 편향 분석을 가능하게 하기 위해.
• 복잡한 모델, 예를 들어 자연어 처리용 트랜스포머와 같은 모델에서 인증된 강건성 훈련 및 강건성 검증과 같은 고급 작업을 지원하기 위해.
• 인증된 방어를 넘어서 최적화 경계 설계 및 양자화에 대한 내성까지 확장하여 편향 분석의 유용성을 넓히기 위해.
• 강건성 경계를 형상화할 수 있도록 네트워크 파라미터를 함께 최적화할 수 있는, 미분 가능하고 파이토치 통합 프레임워크를 제공하기 위해.

제안 방법

• 선형 이완 기법의 체계적 적용을 가능하게 하기 위해 신경망을 계산 그래프로 표현하기.
• CROWN과 같은 선형 이완 알고리즘을 계산 노드를 통해 경계를 전파하는 그래프 기반 알고리즘으로 일반화하기.
• 역전파와 유사한 미분 가능한 과정으로 편향 분석을 공식화하여, 네트워크 파라미터의 기울기 기반 최적화를 가능하게 하기.
• 파이토치와의 통합을 통해 자동 미분을 지원하고 강건성 목표와 함께 원활한 훈련을 가능하게 하기.
• 네트워크 파라미터의 최적화를 통해 경계를 평탄한 손실 경계나 더 나은 양자화 내성과 같은 원하는 사양으로 형상화하기.
• 복잡한 모델, 특히 자연어 모델에 대해 수작업 유도 없이도 인증된 강건성 훈련 및 검증을 가능하게 하기 위해 프레임워크를 적용하기.

실험 결과

연구 질문

• RQ1 간단한 피드포워드 ReLU 네트워크를 초월한 임의의 신경망 아키텍처에 대해 편향 분석을 자동화할 수 있는가?
• RQ2 일반적인 계산 그래프에서 선형 이완 기반 경계를 효율적이고 미분 가능하게 계산할 수 있는가?
• RQ3 프레임워크는 트랜스포머와 같이 자연어 처리에서 사용되는 복잡한 모델에서 인증된 강건성 훈련 및 검증을 지원할 수 있는가?
• RQ4 프레임워크를 사용하여 일반화 성능을 향상시키기 위해 증명 가능하게 평탄한 최적화 경계를 갖는 신경망을 설계할 수 있는가?
• RQ5 프레임워크는 무거운 가중치 양자화 상황에서 모델 강건성을 어느 정도 향상시킬 수 있는가?

주요 결과

• 제안된 프레임워크는 어떤 신경망 아키텍처이든에서 자동으로, 미분 가능한 편향 분석을 가능하게 하여 수작업 유도가 필요 없어졌다.
• 이 방법은 이전에는 수작업 접근이 불가능했던, 복잡한 자연어 모델에 대해 성공적으로 인증된 강건성 훈련 및 검증을 지원하였다.
• 프레임워크를 통해 증명 가능하게 평탄한 최적화 경계를 갖는 신경망 설계가 가능해졌으며, 이는 향상된 일반화 행동을 보였다.
• 결과적으로, 무거운 가중치 양자화 후에도 더 높은 정확도를 유지하여, 파rameter 압축에 대한 강건성이 향상됨을 입증하였다.
• 파이토치 통합을 통해 네트워크 파라미터의 종단 간 최적화가 가능해졌으며, 이는 인증된 방어 및 모델 설계 분야의 새로운 응용을 가능하게 하였다.