[논문 리뷰] Reachability Analysis for Feed-Forward Neural Networks using Face Lattices

Xiaodong Yang, Hoang-Dung Tran외 2명|arXiv (Cornell University)|2020. 03. 02.

Adversarial Robustness in Machine Learning참고 문헌 23인용 수 11

한 줄 요약

이 논문은 ReLU 활성화를 갖는 피드포워드 신경망의 정확한 도달 가능 분석을 위한 새로운 병렬 처리 가능한 방법을 제안한다. 얼굴 격자(face lattices)를 사용하여 도달 가능한 집합을 효율적으로 계산함으로써, H-표현에서 V-표현으로의 변환을 피함으로써 기존의 고비용 변환 과정을 회피한다. 이로 인해 Reluplex, Marabou, NNV와 같은 최첨단 도구들보다 훨씬 높은 효율성을 달성하면서도, 안전성 위반 추적을 위한 완전한 입력 집합 복원이 가능해진다.

ABSTRACT

Deep neural networks have been widely applied as an effective approach to handle complex and practical problems. However, one of the most fundamental open problems is the lack of formal methods to analyze the safety of their behaviors. To address this challenge, we propose a parallelizable technique to compute exact reachable sets of a neural network to an input set. Our method currently focuses on feed-forward neural networks with ReLU activation functions. One of the primary challenges for polytope-based approaches is identifying the intersection between intermediate polytopes and hyperplanes from neurons. In this regard, we present a new approach to construct the polytopes with the face lattice, a complete combinatorial structure. The correctness and performance of our methodology are evaluated by verifying the safety of ACAS Xu networks and other benchmarks. Compared to state-of-the-art methods such as Reluplex, Marabou, and NNV, our approach exhibits a significantly higher efficiency. Additionally, our approach is capable of constructing the complete input set given an output set, so that any input that leads to safety violation can be tracked.

연구 동기 및 목표

• 안전 임계 사이버-물리 시스템에서 사용되는 딥 신경망에 대한 공식적 방법론의 부재를 해결하기 위해.
• 기존의 다각형 기반 도달 가능 분석 방법이 H-표현에서 V-표현으로의 변환과 타당성 검사로 인해 효율성이 떨어지는 문제를 해결하기 위해.
• 모든 선형 영역을 추적함으로써 정확성과 완전성을 유지하는 정확하고 완전한 도달 가능 분석을 실현하기 위해.
• 역방향 분석을 지원하기 위해 주어진 출력 집합에 대응하는 완전한 입력 집합을 복원함으로써 안전성 위반 입력을 완전히 추적할 수 있도록 하기 위해.
• 대규모 ReLU 신경망을 대상으로 도달 가능 분석의 확장성과 병렬 처리 가능성을 향상시키기 위해.

제안 방법

• 중간 도달 가능한 집합을 표현하기 위해 다각형의 완전한 조합 구조인 얼굴 격자(face lattices)를 사용하여 H-표현에서 V-표현으로의 반복 변환을 피한다.
• 가중치 행렬과 편향 벡터를 통한 애핀 변환을 수행하며, ReLU 비선형성을 다각형을 0인 초평면과의 교차로 처리함으로써 얼굴 격자 연산을 활용해 효율성을 높인다.
• 선형 프로그래밍 타당성 검사를 피하기 위해 얼굴 격자 구조를 활용하여 직접적으로 교차와 투영을 계산한다.
• 얼굴 격자 연산은 다각형의 교차와 투영을 효율적이고 정확하게 계산할 수 있게 하여, 기존의 다각형 기반 방법에 비해 계산 오버헤드를 감소시킨다.
• 선형 영역 간 병렬 처리를 지원하며, 출력 집합을 역으로 뒤집어 해당 출력 집합에 도달하는 모든 입력 집합을 복원함으로써 역방향 도달 가능 분석을 가능하게 한다.
• 기존의 검증 파이프라인과 통합 가능하며, ACAS Xu 및 기타 벤치마크에서 평가되어 확장성과 정확성을 입증한다.

실험 결과

연구 질문

• RQ1 다각형의 얼굴 격자 기반 표현이 ReLU 신경망의 도달 가능 분석에서 계산 비용을 상당히 감소시킬 수 있는가?
• RQ2 반복적인 H-표현에서 V-표현으로의 변환을 피함으로써 기존의 다각형 기반 방법에 비해 측정 가능한 성능 향상이 이루어지는가?
• RQ3 이 방법은 정확성과 완전성을 유지하면서도 더 큰 네트워크로 확장 가능한가?
• RQ4 주어진 출력 집합으로부터 완전한 입력 집합을 얼마나 잘 복원할 수 있는가? 이는 안전성 위반의 완전한 추적을 가능하게 하는가?
• RQ5 Reluplex, Marabou, NNV와 같은 최첨단 도구들과 비교해 본다면, 제안된 방법은 효율성과 정확성 측면에서 어떤가?

주요 결과

• 제안된 방법은 Reluplex, Marabou, NNV보다 상당히 높은 효율성을 달성하였으며, ACAS Xu 및 기타 벤치마크에서 성능 향상이 입증되었다.
• 얼굴 격자를 사용함으로써 고비용의 H-표현에서 V-표현으로의 변환 필요성을 제거하여 다각형 연산의 계산 오버헤드를 감소시켰다.
• 정확하고 완전한 도달 가능 분석을 지원하며, 네트워크의 모든 선형 영역을 추적함으로써 정확성과 완전성을 유지한다.
• 역방향 도달 가능 분석을 지원한다: 주어진 출력 집합이 있을 경우, 그에 도달하는 완전한 입력 집합을 복원할 수 있어 안전성 위반 입력을 완전히 추적할 수 있다.
• 이 방법은 본질적으로 병렬 처리가 가능하여 대규모 ReLU 네트워크의 확장성 향상에 기여한다.
• 평가 결과, 실행 시간이 다양한 네트워크 레이어에서 0.05초에서 11.55초 사이로 다양하게 나타나 기존 도구들보다 빠르고 완전한 성능을 보였다.