[논문 리뷰] Open- and Closed-Loop Neural Network Verification using Polynomial Zonotopes

Niklas Kochdumper, Christian Schilling외 2명|arXiv (Cornell University)|2022. 07. 06.

Adversarial Robustness in Machine Learning참고 문헌 48인용 수 5

한 줄 요약

이 논문은 다항 다항체를 사용하여 신경망 출력의 날카운 비볼록 봉투를 계산하는 새로운 방법을 제안한다. 이는 신경망 기반 제어 시스템에서 효율적이고 정밀한 도달 가능성 분석을 가능하게 한다. 뉴런 활성화를 다항 함수로 근사하고, 행렬 연산을 통해 집합을 전파함으로써, 다양한 벤치마크에서 최신 기술 대비 속도와 정확도에서 뛰어난 성능을 발휘한다.

ABSTRACT

We present a novel approach to efficiently compute tight non-convex enclosures of the image through neural networks with ReLU, sigmoid, or hyperbolic tangent activation functions. In particular, we abstract the input-output relation of each neuron by a polynomial approximation, which is evaluated in a set-based manner using polynomial zonotopes. While our approach can also can be beneficial for open-loop neural network verification, our main application is reachability analysis of neural network controlled systems, where polynomial zonotopes are able to capture the non-convexity caused by the neural network as well as the system dynamics. This results in a superior performance compared to other methods, as we demonstrate on various benchmarks.

연구 동기 및 목표

• 깊은 신경망이 생성하는 복잡한 비볼록 이미지를 안전 기반 애플리케이션에서 과도하게 봉쇄하는 문제를 해결하기 위해.
• 상태와 제어 입력 간의 의존성을 유지함으로써 신경망 기반 동적 시스템에 대한 효율적이고 정밀한 도달 가능성 분석을 가능하게 하기 위해.
• 비볼록 역학을 포괄하는 데 있어 볼록 봉투 및 기존의 집합 표현 방식(예: 다항체, 타일러 모델)의 한계를 극복하기 위해.
• 신경망 제어기의 형식적 검증을 위한 확장 가능하고 계산적으로 효율적인 방법을 개발하기 위해.
• 오픈 루프 검증과 클로즈드 루프 도달 가능성 분석 모두에서 최신 기술 대비 뛰어난 성능을 입증하기 위해.

제안 방법

• 이 방법은 ReLU, 시그모이드, hyperbolic tangent 유닛에 모두 적용 가능한 활성화 함수의 다항 근사를 통해 각 뉴런의 입력-출력 행동을 추상화한다.
• 집합은 다항 다항체를 사용해 표현하며, 이는 오직 행렬 연산을 통해 네트워크 전반에 걸쳐 집합을 효율적으로 전파할 수 있도록 한다.
• 다항 다항체 표현 방식은 신경망 역학에 내재된 비선형 의존성과 비볼록성을 포착한다.
• 조각별 애파인 분해를 통해 ReLU 네트워크에 대해 정확한 이미지 계산을 가능하게 하며, 시그모이드 및 탄젠트와 같은 부드러운 활성화 함수에는 근사를 사용한다.
• 신경망 출력에서 유도된 제어 입력의 날카운 봉투를 유지함으로써 도달 가능성 분석 파이프라인에 원활하게 통합된다.
• 브랜치 앤 바운드의 계산 병목 현상, 고차원 비선형 모델, 타일러 모델의 나머지 항 증가 문제를 피한다.

실험 결과

연구 질문

• RQ1 다항 다항체는 볼록 또는 표준 다항체 기반 방법보다 신경망 출력의 더 날카운 효율적인 봉투를 제공할 수 있는가?
• RQ2 이러한 방법은 신경망 기반 제어 시스템의 도달 가능성 분석에서 최신 기술 대비 성능과 정확도에서 어떻게 비교되는가?
• RQ3 다항 다항체는 폐루프 역학에서 시스템 상태와 신경망 제어 입력 간의 의존성을 어느 정도 유지할 수 있는가?
• RQ4 활성화 함수에 대한 다항 근사를 사용함으로써 비볼록 집합 전파의 효율성과 정밀도를 동시에 달성할 수 있는가?
• RQ5 이 방법은 계산 가능성을 유지하면서도 대규모 네트워크와 복잡한 벤치마크에 대해 확장 가능한가?

주요 결과

• 다항 다항체 접근 방식은 12개의 벤치마크 중 10개에서 도달 가능성 분석의 계산 시간에서 모든 다른 도구들을 압도적으로 뛰어넘었다. 이는 ReLU, 시그모이드, 하이퍼볼릭 탄젠트 네트워크 모두 포함된다.
• ReLU 활성화를 사용한 TORA 벤치마크에서, 이 방법은 13초 만에 완료되었고, Verisig 2.0은 13402초가 소요되어 1000배의 속도 향상을 보였다.
• ACC 벤치마크에서는 이 방법이 2초 만에 검증을 완료했고, JuliaReach는 1초, Sherlock는 4초가 소요되어 높은 정밀도를 유지하면서도 경쟁 가능한 성능을 보였다.
• 다른 도구들도 실패한 유일한 벤치마크인 Airplane 제외한 모든 벤치마크에서 성공적으로 검증되었으며, 이는 강건성과 완전성을 나타낸다.
• 타일러 모델에 의존하는 도구들과 비교해, 이 방법은 빠른 나머지 항 증가를 피하고 더 날카운 봉투를 유지함으로써 더 나은 의존성 추적 능력을 보였다.
• 브랜치 앤 바운드를 요구하지 않음에도 불구하고, 다항 다항체 봉투의 날카로움 덕분에 모든 테스트된 벤치마크에 대해 완전한 검증을 달성했다.