[논문 리뷰] Automated Verification of Neural Networks: Advances, Challenges and Perspectives

Francesco Leofante, Nina Narodytska외 2명|arXiv (Cornell University)|2018. 05. 25.

Adversarial Robustness in Machine Learning참고 문헌 17인용 수 51

한 줄 요약

본 조사는 신경망 검증을 위한 자동화된 추론 기법을 분류하고, 기법들, 네트워크, 특성 및 향후 연구 방향을 자세히 설명한다.

ABSTRACT

Neural networks are one of the most investigated and widely used techniques in Machine Learning. In spite of their success, they still find limited application in safety- and security-related contexts, wherein assurance about networks' performances must be provided. In the recent past, automated reasoning techniques have been proposed by several researchers to close the gap between neural networks and applications requiring formal guarantees about their behavior. In this work, we propose a primer of such techniques and a comprehensive categorization of existing approaches for the automated verification of neural networks. A discussion about current limitations and directions for future investigation is provided to foster research on this topic at the crossroads of Machine Learning and Automated Reasoning.

연구 동기 및 목표

• 신경망에 대한 자동화된 검증 기법의 전반적 현황을 요약한다.
• 네트워크 유형과 특성별로 기존 접근법을 분류한다.
• 현재 한계를 식별하고 ML과 자동화 추론의 교차점에서 향후 연구 방향을 제안한다.

제안 방법

• 제약 시스템으로 신경망을 인코딩하여 검증 프레임워크를 설명한다.
• SAT, SMT, MIP 해석기와 이들이 신경 제약을 다루는 방법을 설명한다.
• 문헌을 네트워크 유형(BNN, DNN 변형, 얕은 NN)과 특성(불변성, 가역성, 등가성)으로 분류한다.
• 전제/사후 조건과 전부/부분 양화를 사용하는 통일된 특성 형식을 제시한다.
• 로컬 대 글로벌 특성 검증 설정에 대해 논의한다.

실험 결과

연구 질문

• RQ1 신경망을 검증하는 데 사용되는 주요 자동화 추론 기법은 무엇인가?
• RQ2 속성과 아키텍처별로 검증 접근법을 조직하기 위해 네트워크를 어떻게 분류할 수 있는가?
• RQ3 NN 검증에서 우선순위로 다루어지는 특성은 무엇인가(불변성, 가역성, 등가성) 그리고 어떤 맥락에서(로컬/글로벌)?
• RQ4 ML과 자동화 추론의 교차점에서의 현재 한계와 향후 방향은 무엇인가?

주요 결과

• NN 검증의 핵심 의사결정 절차로서 CDCL 기반 SAT, SMT, MIP에 대한 개요.
• BNN, DNN(ReLU, 풀링), 일반 NN 등 네트워크 유형에 따른 검증 접근법의 분류 체계.
• 불변성, 가역성, 등가성을 검증 특성으로 공식적으로 정의하고, 전역 및 로컬 변형을 포함한다.
• SMT가 불리언 추상화를 구축하고 이론 보조정리로 신경망 제약을 해결하는 방법에 대한 논의.
• 깊은 네트워크의 확장성 문제와 검증 기법을 발전시키기 위한 학제 간 연구의 필요성 확인.