[논문 리뷰] Sampling-based Reachability Analysis: A Random Set Theory Approach with Adversarial Sampling

Thomas Lew, Marco Pavone|arXiv (Cornell University)|2020. 01. 01.

Adversarial Robustness in Machine Learning인용 수 2

한 줄 요약

이 논문은 수렴이 진짜 도달 가능한 집합의 볼록껍데기로 보장되도록 하는 랜덤 세트 이론을 사용한 샘플링 기반 도달 가능성 분석 방법을 제안한다. 동시에 적대적 샘플링을 도입하여 수렴 속도를 높이고 보수성을 감소시킨다. 이 방법은 신경망과 고차원 불확실 시스템에 대해 더 빠르고 신뢰성 있는 분석을 가능하게 한다.

ABSTRACT

Reachability analysis is at the core of many applications, from neural network verification, to safe trajectory planning of uncertain systems. However, this problem is notoriously challenging, and current approaches tend to be either too restrictive, too slow, too conservative, or approximate and therefore lack guarantees. In this paper, we propose a simple yet effective sampling-based approach to perform reachability analysis for arbitrary dynamical systems. Our key novel idea consists of using random set theory to give a rigorous interpretation of our method, and prove that it returns sets which are guaranteed to converge to the convex hull of the true reachable sets. Additionally, we leverage recent work on robust deep learning and propose a new adversarial sampling approach to robustify our algorithm and accelerate its convergence. We demonstrate that our method is faster and less conservative than prior work, present results for approximate reachability analysis of neural networks and robust trajectory optimization of high-dimensional uncertain nonlinear systems, and discuss future applications.

연구 동기 및 목표

• 기존 도달 가능성 분석 방법의 한계를 해결하기 위해, 이는 종종 너무 느리거나 보수적이거나 공식적인 보장을 갖지 못한다.
• 도달 가능한 집합의 볼록껍데기로의 엄밀한 수렴 보장을 제공하는 샘플링 기반 접근법을 개발하기 위해.
• 강력한 딥러닝에서 영감을 얻은 적대적 샘플링을 통해 수렴 속도와 강인성을 향상시키기 위해.
• 고차원 비선형 불확실 시스템과 신경망에 대한 실용적인 도달 가능성 분석을 가능하게 하기 위해.
• 이 방법의 효과성을 근사 도달 가능성 분석과 강인 경로 최적화에서 입증하기 위해.

제안 방법

• 이 방법은 샘플링 과정을 공식적으로 해석하고 진짜 도달 가능한 집합의 볼록껍데기로의 수렴을 증명하기 위해 랜덤 세트 이론을 사용한다.
• 몬테카를로 샘플링을 사용하여 초기 불확실성 집합에서 궤적을 생성하고, 경험적 분포를 통해 도달 가능한 집합을 근사한다.
• 적대적 샘플링은 불확실성 감소를 극대화하는 데 전략적으로 샘플을 선택하여 수렴 속도를 가속화한다.
• 이 방법은 비선형적이고 고차원적인 시스템을 포함한 임의의 동적 시스템에 일반적으로 적용 가능하도록 설계되어 있다.
• 딥러닝에서 유래한 강인 최적화 기법을 응용하여 높은 불확실성 영역이나 치명적인 실패 모드에 가까운 영역으로 샘플링을 이끌어낸다.
• 계산 효율성을 향상시키면서도 출력 집합에 대한 공식적인 보장을 유지한다.

실험 결과

연구 질문

• RQ1 샘플링 기반 도달 가능성 분석 방법이 진짜 도달 가능한 집합의 볼록껍데기로 공식적인 수렴 보장을 제공할 수 있는가?
• RQ2 적대적 샘플링은 도달 가능성 분석에서 수렴 속도를 향상시키고 보수성을 감소시키는 데 어떻게 기여하는가?
• RQ3 이 방법은 고차원 비선형 불확실 동적 시스템에 얼마나 잘 스케일링되는가?
• RQ4 이 방법은 신경망 검증과 강인 경로 계획에 효과적으로 적용될 수 있는가?
• RQ5 기존의 샘플링 기반 및 집합 기반 도달 가능성 기법과 비교해 본다면, 제안된 방법은 정확도와 효율성 면에서 어떻게 다른가?

주요 결과

• 제안된 방법은 진짜 도달 가능한 집합의 볼록껍데기로 수렴을 보장하여 공식적인 정확성 보장을 제공한다.
• 적대적 샘플링은 수렴 속도를 크게 향상시켜 정확한 근사에 필요한 샘플 수를 감소시킨다.
• 특히 고차원 시스템에서 기존의 샘플링 기반 접근법보다 보수성이 낮다.
• 실험 결과는 신경망의 근사 도달 가능성 분석에서 향상된 성능을 보여준다.
• 이 방법은 고차원 불확실 비선형 시스템에 대한 강인 경로 최적화를 가능하게 하여 실용적인 스케일링 능력을 입증한다.
• 랜덤 세트 이론의 통합은 샘플링 기반 접근법에 엄밀한 이론적 기반을 제공한다.