[논문 리뷰] Data-Driven Assessment of Deep Neural Networks with Random Input Uncertainty.

Brendon G. Anderson, Somayeh Sojoudi|arXiv (Cornell University)|2020. 10. 02.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 4

한 줄 요약

이 논문은 랜덤 입력 불확실성 하에서 딥 네ural 네트워크의 안전성을 평가하기 위한 데이터 기반, 최적화 기반 방법을 제안한다. 이 방법은 동시에 출력의 강건성과 불확실성의 국소화를 인증한다. 이는 도달 가능성과 인증 방법을 모두 포함하는 통합 프레임워크를 제공하며, 모든 네트워크 아키텍처에 적용 가능하고, 증명 가능성이 있는 볼록성과 표본 복잡도를 보장한다.

ABSTRACT

When using deep neural networks to operate safety-critical systems, assessing the sensitivity of the network outputs when subject to uncertain inputs is of paramount importance. Such assessment is commonly done using reachability analysis or robustness certification. However, certification techniques typically ignore localization information, while reachable set methods can fail to issue robustness guarantees. Furthermore, many advanced methods are either computationally intractable in practice or restricted to very specific models. In this paper, we develop a data-driven optimization-based method capable of simultaneously certifying the safety of network outputs and localizing them. The proposed method provides a unified assessment framework, as it subsumes state-of-the-art reachability analysis and robustness certification. The method applies to deep neural networks of all sizes and structures, and to random input uncertainty with a general distribution. We develop sufficient conditions for the convexity of the underlying optimization, and for the number of data samples to certify and localize the outputs with overwhelming probability. We experimentally demonstrate the efficacy and tractability of the method on a deep ReLU network.

연구 동기 및 목표

• 일반적인 입력 분포와 국소화를 다루는 기존의 도달 가능성 및 강건성 인증 방법의 한계를 해결하기 위해.
• 불확실성 하에서 강건성 인증과 네트워크 출력의 공간적 국소화를 동시에 통합하는 프레임워크를 개발하기 위해.
• 어떤 크기나 구조이든 딥 네럴 네트워크에 대해 계산의 타당성과 고확률 보장을 확보하기 위해.
• 기초 최적화 문제의 볼록성에 대한 충분조건을 설정하고, 신뢰할 수 있는 인증을 위한 표본 복잡도 한계를 유도하기 위해.

제안 방법

• 이 방법은 랜덤 입력 불확실성 하에서의 최악의 출력 편차를 평가하기 위해 데이터 기반 최적화 문제를 수립한다.
• 충분한 조건 하에서 최적화 문제가 타당하고 볼록하게 유지되도록 볼록화 근사 기법을 활용한다.
• 예측이 여전히 강건한 출력 공간 내 영역을 식별하는 방식으로 국소화를 통합한다.
• 입력 불확실성의 몬테카를로 샘플링을 사용하여 도달 가능한 집합을 추정하고 고확률로 강건성을 검증한다.
• 이 프레임워크는 ReLU 또는 유사한 활성화 함수를 사용하는 모든 딥 네럴 네트워크와 임의의 입력 분포에 일반적으로 적용 가능하다.
• 유한한 데이터로 인증과 국소화를 높은 확률로 보장하기 위해 표본 복잡도 한계를 도출한다.

실험 결과

연구 질문

• RQ1 일반적인 입력 불확실성 하에서 동시에 강건성 인증과 출력 국소화를 수행할 수 있는 통합 프레임워크를 개발할 수 있는가?
• RQ2 다양한 네트워크 아키텍처를 통해 강건성 평가에 사용되는 최적화 문제에서 볼록성을 어떻게 보장할 수 있는가?
• RQ3 고확률 인증과 국소화를 달성하기 위해 필요한 최소 입력 샘플 수는 얼마인가?
• RQ4 기존의 도달 가능성 및 인증 기법과 비교해 본다면, 이 방법은 타당성과 정확도 측면에서 어떻게 다른가?

주요 결과

• 제안된 방법은 기존의 도달 가능성 및 인증 접근 방식을 모두 포함하는 단일 통합 프레임워크를 통해 강건성 인증과 출력 국소화를 동시에 달성한다.
• 기초 최적화 문제의 볼록성에 대한 충분조건이 도출되어 계산의 타당성이 보장된다.
• 유한한 수의 입력 샘플로도 고확률 인증이 보장되며, 표본 복잡도 한계에 의해 정량화된다.
• 딥 ReLU 네트워크에 대한 실험 결과는 이 방법의 효능, 타당성, 확장성을 다양한 불확실성 분포에 걸쳐 입증한다.