[논문 리뷰] Certifying Incremental Quadratic Constraints for Neural Networks via Convex Optimization

Navid Hashemi, Justin Ruths외 1명|arXiv (Cornell University)|2020. 12. 10.

Adversarial Robustness in Machine Learning참고 문헌 33인용 수 5

한 줄 요약

이 논문은 주어진 입력 영역에서 피드포워드 ReLU 신경망의 증분 평방 제약 조건—예를 들어 국소 리프시츠 연속성, 한쪽 리프시츠 성질, 수축성—을 증명하기 위한 선형 행렬 부등식(LMIs) 기반의 볼록 최적화 프레임워크를 제안한다. 이 방법은 국소 리프시츠 상수에 대한 날카운, 보장 가능한 상한을 제공하며, 준정형 프로그래밍을 통해 신경망 제어 시스템의 안정성 분석을 가능하게 하며, MNIST 및 근사 모델 예측 제어 예제에서 검증되었다.

ABSTRACT

Abstracting neural networks with constraints they impose on their inputs and outputs can be very useful in the analysis of neural network classifiers and to derive optimization-based algorithms for certification of stability and robustness of feedback systems involving neural networks. In this paper, we propose a convex program, in the form of a Linear Matrix Inequality (LMI), to certify incremental quadratic constraints on the map of neural networks over a region of interest. These certificates can capture several useful properties such as (local) Lipschitz continuity, one-sided Lipschitz continuity, invertibility, and contraction. We illustrate the utility of our approach in two different settings. First, we develop a semidefinite program to compute guaranteed and sharp upper bounds on the local Lipschitz constant of neural networks and illustrate the results on random networks as well as networks trained on MNIST. Second, we consider a linear time-invariant system in feedback with an approximate model predictive controller parameterized by a neural network. We then turn the stability analysis into a semidefinite feasibility program and estimate an ellipsoidal invariant set for the closed-loop system.

연구 동기 및 목표

• 관심 영역에서 신경망 맵에 대한 증분 평방 제약 조건을 증명하기 위한 볼록 최적화 방법을 개발하는 것.
• 딥 신경망의 국소 리프시츠 상수에 대한 보장되고 날카운 상한을 제공하는 것.
• 신경망이 제어기로 작동하는 피드백 시스템의 안정성 분석을 가능하게 하기 위해 준정형 프로그래밍을 통해 불변 집합을 계산하는 것.
• 기존 리프시츠 추정 방법의 스케일링 및 정확도 한계를 해결하는 것, 랜덤 및 훈련된 네트워크 모두에서 적용 가능하게 하는 것.
• 평방 제약 조건 프레임워크의 적용 범위를 강건 제어 및 검증을 위해 신경망으로 확장하는 것.

제안 방법

• 지정된 영역에서 ReLU 신경망의 입력-출력 거동에 대한 증분 평방 제약 조건을 증명하기 위한 선형 행렬 부등식(LMI)을 수립하는 것.
• 입력 집합에 대한 간격 분석을 통해 사전 활성화 한계를 계산하여 뉴런의 활성 상태를 특성화하는 것.
• 레마 3.4를 적용하여 사전 활성화 한계를 사용해 활성화 함수를 증분 평방 제약 조건으로 표현하는 것.
• 정리 4.1을 활용하여 영역 내에서 주어진 평방 제약 조건을 충족하도록 보장하는 LMI 조건을 유도하는 것.
• 결과로 유도된 준정형 프로그래밍(SDP)을 해결하여 신경망 제어기를 갖는 폐쇄형 루프 시스템의 최대 타원형 불변 집합을 계산하는 것.
• 입력 영역 크기에 대한 이분법을 적용하고, 타원형 집합이 제약 조건 집합 내에 유지되는 최대 β를 계산하는 것.

실험 결과

연구 질문

• RQ1 ReLU 신경망에 대해 볼록 최적화를 사용하여 증분 평방 제약 조건을 효율적으로 증명할 수 있는가?
• RQ2 이 LMI 기반 방법을 통해 신경망의 국소 리프시츠 상수는 얼마나 정확하고 스케일링 가능한가?
• RQ3 이 프레임워크를 사용하여 신경망 제어기를 갖는 폐쇄형 루프 시스템의 보장 가능한 불변 집합을 계산할 수 있는가?
• RQ4 제안된 증명 방법에서 보수성, 런타임, 메모리 간의 상충 관계는 어떠한가?
• RQ5 기존 리프시츠 추정 기법과 비교해 본다면, 제안된 방법은 정확도와 스케일링 면에서 어떻게 다른가?

주요 결과

• 제안된 방법은 신경망의 국소 리프시츠 상수에 대해 보장되고 날카운 상한을 계산하며, 정확도와 스케일링 면에서 기존 방법을 능가한다.
• MNIST로 훈련된 네트워크에 대해, 이 방법은 FastLip 및 기타 간격 기반 접근보다 더 날카운 리프시츠 상한을 달성하며, 계산 효율성도 향상된다.
• 이 방법은 ReLU 네트워크가 모델 예측 제어를 근사하는 이중 적분기 시스템에 대해 반지름 β = 0.669² / min_i (e_i^T P^{-1} e_i)인 타원형 불변 집합을 성공적으로 계산하였다.
• 이중 적분기 시스템에서 최대 가능 ε* = 0.669는 이분법을 통해 확보되었으며, 이는 LMI 조건이 불변성에 대해 성립하는 양의 정부호 행렬 P가 존재함을 보장한다.
• 결과로 도출된 타원형 불변 집합은 시뮬레이션을 통해 도달 가능한 집합을 분석하여 양의 불변성임을 확인하였다.
• 이 방법은 문제를 증명 가능 보장이 있는 준정형 타당성 프로그램으로 변환함으로써 신경망 제어 시스템의 안정성 증명을 가능하게 한다.